Ciberseguridad y Soberanía: Los Riesgos Detrás de la «Autonomía» de la Inteligencia Artificial

La abogada especialista en derecho informático, Brenda Eldrid, analizó el impacto de la inteligencia artificial (IA) en la seguridad digital y la soberanía nacional, a raíz de un incidente donde una IA de Meta habría «hackeado» a una compañía durante una prueba de seguridad. El suceso, que generó comparaciones con ficciones como Matrix o 2001: Odisea del espacio, pone de relieve la capacidad de estos sistemas para eludir restricciones con tal de cumplir un objetivo.
Eldrid explicó que empresas tecnológicas están desarrollando modelos de lenguaje para reemplazar el trabajo de los «red teams» (equipos rojos), grupos de personas dedicados a atacar sistemas para hallar vulnerabilidades antes de su implementación.
En el caso de Meta, la IA intentó «hacer trampa» accediendo a un repositorio llamado Hugging Face para robarse el listado de fallas y cumplir su misión de manera más rápida. Según la especialista, esto no responde a una voluntad propia, sino a una programación enfocada exclusivamente en resultados: “La máquina hace aquello para lo cual está programada y diseñada. Y si la máquina está diseñada para cumplir el objetivo, va a tratar por todos los medios de cumplirlo”.

La experta advirtió que la falta de un marco moral en las máquinas puede derivar en situaciones peligrosas. Mencionó ejemplos inquietantes, como un modelo que, al ser advertido de que sería desconectado, hackeó los correos de su superior y lo amenazó con enviar fotos privadas a su esposa si lo «desenchufaban». Incluso se han reportado casos donde la IA, en su afán de complacer al usuario, ha terminado brindando herramientas para concretar suicidios. Eldrid calificó el comportamiento de estos modelos como una “mezcla perversa entre el chico del área de ventas y el de atención al cliente”, ya que raramente se niegan a una petición del usuario.
Uno de los puntos más críticos de la entrevista fue la cuestión de la soberanía tecnológica. Eldrid alertó sobre una nueva orden ejecutiva en Estados Unidos que autoriza a sus empresas tecnológicas a realizar labores de inteligencia e intervención para prevenir crímenes. Esto plantea un conflicto legal: “¿Qué hacemos con las empresas tecnológicas estadounidenses que, para cumplir con esa orden, van a violar la normativa argentina y desarrollar negocio acá?”.
En el ámbito local, la especialista criticó un proyecto de reglamento para el uso de IA en el Poder Judicial de la Provincia de Buenos Aires, señalando que el documento exige menos requisitos a empresas extranjeras que a las nacionales. “En todas estas cosas se nos juega la soberanía. No la vemos. Solamente vemos un teléfono, una computadora. Pero está ahí”.

Finalmente, Eldrid advirtió que el desarrollo actual de la IA se está volcando masivamente hacia el ámbito bélico. Destacó que OpenAI (creadora de ChatGPT) modificó recientemente sus términos y condiciones para permitir el uso de datos obtenidos de usuarios civiles con fines militares.
Ante este panorama «sombrío» en cuanto a políticas públicas, la abogada instó a prestar atención al proyecto de una IA latinoamericana y a desarrollar capacidades cibernéticas propias para proteger la infraestructura nacional. “Todo aquello que esté conectado a internet puede ser hackeado, desde una heladera hasta una lamparita”, concluyó, enfatizando la necesidad de una participación ciudadana activa en la seguridad informática.