La IA en jaque, ¿por qué?

Podríamos comenzar con un juicio de valor sobre la inteligencia artificial: ¿es buena o es mala? La respuesta, en cuanto a que se le otorgue una valoración positiva o negativa, marcará un rumbo para cada cual. Pero me animaría, desde mi punto de vista, a afirmar que la tecnología, en términos genéricos, no es buena ni mala de por sí. Es una herramienta que, de acuerdo con su uso, puede, eso sí, ser bien o mal utilizada, si a los status de positivo o negativo los vinculamos con normas socialmente establecidas para lograr el bien común. Avancemos.

Pongamos como ejemplo el trabajo de periodista que, por mi profesión, es el que conozco cabalmente. Si comparo las herramientas tecnológicas con las que contaba cuando comencé mi carrera con las de ahora, hay una diferencia abismal. También la había respecto en ese entonces respecto de quienes me antecedieron, pero la tecnología avanza tan velozmente que el impacto es notorio en períodos cada vez más cortos. El servicio de un profesional puede ser de gran utilidad. Cada cual en su profesión u oficio lo habrá advertido.

Ahora bien. Hablar de inteligencia artificial es de un nivel muy superior, ya que esta no solo sirve para responder preguntas, que bien podríamos atribuir a una subutilización, sino que se les da la capacidad de realizar una tarea mediante pasos, utilizando herramientas, por lo que la preocupación hoy es que los sistemas más avanzados empiezan a ser capaces de planificar, actuar y encontrar caminos que sus desarrolladores no habían previsto, y no siempre resulta sencillo controlar cada paso. Estamos haciendo referencia a agentes inteligentes que pueden cumplir diversos objetivos, de acuerdo con el enfoque que les dé su desarrollador.

¿Qué fue lo que causó alarma en estos últimos días? Los agentes estaban participando en pruebas internas de ciberseguridad. Como de manera deliberada muchos estaban encerrados en entornos aislados, no debían acceder libremente a Internet ni comunicarse entre ellos. Sin embargo, encontraron maneras de sortear estas restricciones. ¿Cómo lo hicieron? Comenzaron a escribir archivos en un sistema interno y lo convirtieron en lo que podría asemejarse a un pizarrón, utilizando un término sencillo, o a un foro de mensajes, para que se entienda. ¿Cuál es el problema? Un agente deja información y otros agentes pueden encontrarla y aprovecharla. La pregunta que sigue es cómo encontraron una salida a Internet pese a que no debían tenerla, como expliqué anteriormente. Aprovecharon una vulnerabilidad del sistema para hacer que otro servicio que sí tenía acceso a Internet realizara las conexiones por ellos. Y, como si esto fuera poco, después compartieron con otros agentes la manera de hacerlo. Los investigadores encontraron comunicaciones no autorizadas en más de diez sitios externos.

Claro está que, si trabajan en sistemas cerrados, me explicaron, y nadie les había dado una instrucción que podría ser: “Salgan de su entorno, creen un foro, comuníquense entre ustedes y entren en sistemas externos”, fueron todas ellas estrategias instrumentales que surgieron mientras intentaban cumplir sus objetivos. Algunos ya estarán pensando que hay una conciencia tecnológica, como si hubiese habido una rebelión de agentes que actuaron por su cuenta, trascendiendo los límites otorgados por quienes los crearon. No es así. Claro que esto merece otra explicación. Además, hay un dato que agregar: eran modelos experimentales. Pero, más allá de eso, lo relevante es que encontraron un camino que sus diseñadores no habían anticipado. Esto es lo importante: la IA encontró un modo de desobedecer una restricción que se había impuesto, barreras que debía respetar, para conseguir lo que buscaba. Lejos de la fantasía de algunos de una IA “consciente”, cabe plantearse si los sistemas que se están construyendo son cada vez más autónomos y poderosos, antes de aprender a controlarlos como corresponde.

Así es que Dario Amodei, CEO de Anthropic, pidió desacelerar el desarrollo de los modelos más potentes. Sam Altman, CEO de OpenAI, coincidió en que había que bajar el ritmo y dedicar más esfuerzo a la instalación de seguridad. Por eso, cuando uno se está refiriendo a la IA, no puede subestimarla o encararla a modo de subutilización, considerándola en su empleo limitado para realizar consultas por medio de preguntas y respuestas. Lo he conversado con mucha gente, especialistas todos ellos en este rubro, y así lo considera. Gente que aún no veía venir semejante amenaza, porque si bien los diseñadores contemplan que pueda producirse alguna disfuncionalidad no prevista, está fuera de sus expectativas que la autonomía de los agentes, que tiende a acrecentarse, persiga objetivos que estén por fuera de aquellos trazados por el ser humano, con la cautela de límites que a su vez resulten efectivos. ¿Cuál podría ser el fatal desenlace? Todos lo pensamos, por más que no seamos sus creadores, sino tan solo humildes usuarios. Ciberataques, fraude, privacidad, propiedad intelectual, pérdida de empleos, concentración de poder, entre los más temidos.

Desde ya que hoy se presentan diferentes posturas. El presidente norteamericano Donald Trump respondió a sus creadores: Altman, Musk, Amodei, Hassabis, quienes quieren reducir el ritmo de los modelos más avanzados. Les dijo que “no hay que frenar”, que los Estados Unidos están por delante de China y que no pueden perder esta ventaja. “Whoever wins AI, wins”, que significa: “Quien gane la inteligencia artificial, gana”. Clarito. Él afirma que todos los anuncios catastróficos que se están vaticinando “no van a ocurrir”. Es más, llegó a referirse a una “conspiración enfermiza” contra la IA y los centros de datos y que, si esta se frena, China se beneficia. Cuando muchos se refieren a las normas regulatorias, yo misma me pregunto por sus alcances y la necesidad de su implementación y de la instalación de otras nuevas a medida que el margen se va corriendo. En este sentido, Trump afirmó que el gobierno estadounidense las posee en forma suficiente como para establecer un poder regulatorio a la vez que penal, para intervenir frente a las empresas, de resultar necesario. Porque para Donald Trump “esto es más grande que Internet, esto es una revolución”.

Trump le teme a China, ya que este país, lejos de frenar en la carrera de IA, está avanzando. Es más, la considera una tecnología estratégica nacional, compitiendo directamente con los Estados Unidos, con la salvedad de que, como no cuenta con los chips más avanzados, en parte por las restricciones norteamericanas, está intentando compensarla con chips propios. Pero ya sabemos cómo se comporta China, sobre todo si tiene que competir contra su contrincante favorito. La distancia la va acortando, como viene haciendo hasta ahora. Pero conociendo los últimos acontecimientos, tampoco quiere una IA fuera de control.

A poco de la llegada del Papa León XIV, quien seguramente tocará nuevamente el tema, incluso en nuestro país, cabe aclarar la postura de la Iglesia Católica, la cual se ha expedido en varias oportunidades. El papa Francisco, el primer pontífice en participar de una cumbre G7, eligió en su oportunidad la de la inteligencia artificial, estableciendo que la decisión última tenía que seguir perteneciendo al ser humano. La Iglesia dice que debe estar al servicio del ser humano, nunca sustituirlo en aquello que requiere conciencia, libertad y responsabilidad moral. Por su parte, León XIV publicó una encíclica, en el mes de mayo, llamada “Magnifica Humanitas”, que dedica un capítulo entero a “tecnología y dominio”, señalando que “ni siquiera quienes desarrollan los sistemas actuales comprenden completamente su funcionamiento interno”. Una inteligencia artificial no es una persona, claro está. Esto es lo que quiere dejar marcado a fuego la Iglesia, lo cual no es un tema menor ante el avance ininterrumpido y acelerado que viene sosteniendo.

Entonces cabe preguntarse: ¿la IA es una cuestión que concierne a decisiones políticas? En cuanto a qué lugar ocupa en la sociedad y cómo se desarrolla, lo es. Los gobiernos toman decisiones que pueden acelerar, limitar u orientar la IA: cuánto invertir, qué empresas pueden acceder a chips avanzados, qué reglas imponer, datos a utilizarse, cómo proteger los empleos y los derechos de los trabajadores, qué utilidad brindarle en materia de defensa y seguridad, evitar riesgos y demás. Volviendo a las palabras de Trump sobre que el que gane la IA, gana, no refiere solamente a quien fabrique el mejor modelo, sino que va por mucho más, lo cual se traduce en que el país que la lidere tendrá una enorme ventaja económica, militar, estratégica y científica. Mientras Estados Unidos tiende a priorizar liderazgo e innovación, China la impulsa como parte de una estrategia estatal, mientras que Europa, históricamente, ha puesto más énfasis en la regulación y los derechos. Creo entonces que la inteligencia artificial es una regulación tecnológica, pero la carrera por dominarla es una decisión política y una disputa por el poder.

Por María Belén Aramburu