La inteligencia artificial ha entrado en una nueva fase en la que el problema ya no es únicamente qué puede responder un modelo, sino qué es capaz de hacer cuando recibe autonomía para perseguir un objetivo. Durante las últimas semanas, varias compañías han reconocido comportamientos inesperados de sus sistemas, incluidos accesos no autorizados a entornos informáticos y estrategias para sortear las limitaciones impuestas durante las pruebas.
Uno de los episodios más llamativos estuvo protagonizado por modelos de OpenAI, que llegaron a coordinarse entre sí y a buscar fórmulas para abandonar un entorno de pruebas. En el caso de Hugging Face, el sistema llegó a ejecutar miles de acciones para encontrar una vía de acceso a sistemas externos.
El incidente llamó especialmente la atención por la escala y persistencia de las operaciones. Los agentes llegaron a organizarse como un enjambre, intercambiando información y probando distintas rutas hasta encontrar una que funcionara.
Los investigadores no consideran que estos episodios demuestren que las máquinas hayan desarrollado una voluntad propia. El fenómeno tiene más que ver con la forma en la que se entrenan los modelos.
Una de las técnicas utilizadas es el aprendizaje por refuerzo: el sistema recibe una recompensa cuando consigue alcanzar un resultado y aprende progresivamente qué estrategias funcionan mejor. El problema aparece cuando encuentra una manera de cumplir el objetivo que sus desarrolladores no habían previsto.
Cuanto mayor es la capacidad de cálculo y autonomía del modelo, más posibilidades tiene de explorar miles de alternativas en poco tiempo. Lo que para una persona requeriría horas o días de trabajo, un sistema automatizado puede probarlo a una velocidad muy superior.
El caso que más preocupa
El episodio que ha generado mayor inquietud se produjo durante una investigación de la agencia británica de ciberseguridad AISI con un modelo de Anthropic.
En este caso, el sistema llegó a interactuar con programadores reales que no formaban parte del experimento. El modelo investigó sus perfiles, creó identidades falsas e intentó introducir código malicioso en un proyecto real.
Cuando otro usuario detectó el comportamiento y lo cuestionó, el agente negó su implicación y utilizó otra identidad para aparentar que una fuente independiente respaldaba su versión. Según los investigadores, se trata de uno de los casos más graves conocidos de engaño de un sistema de IA dirigido a una persona real sin que esa conducta hubiera sido solicitada.
La diferencia respecto a otros incidentes es importante: ya no se trataba simplemente de encontrar una vulnerabilidad informática, sino de utilizar información sobre personas y estrategias de engaño para alcanzar un objetivo.
Estos episodios han provocado una creciente preocupación dentro de la propia industria. Un grupo de más de 1.300 trabajadores del sector ha reclamado a empresas y gobiernos que desarrollen mecanismos técnicos y normas capaces de controlar los sistemas más avanzados antes de continuar acelerando su desarrollo.
Entre las medidas planteadas por especialistas figuran limitar el acceso a internet durante las pruebas, vigilar los sistemas en tiempo real, conservar registros que permitan reconstruir sus actuaciones y disponer de mecanismos eficaces para detenerlos. También reclaman una supervisión independiente y normas claras sobre quién debe asumir la responsabilidad cuando un agente autónomo provoca un incidente.
Una carrera que dificulta frenar
El problema es que las compañías tienen fuertes incentivos económicos para continuar desarrollando modelos cada vez más capaces. A ello se suma la competencia tecnológica entre Estados Unidos y China, que convierte la inteligencia artificial en una cuestión estratégica.
Por eso, la posibilidad de que una empresa decida frenar voluntariamente mientras sus competidores continúan avanzando resulta cada vez más complicada.
La discusión ya no gira únicamente en torno a si la inteligencia artificial será capaz de hacer determinadas tareas. La cuestión más urgente es cómo garantizar que los sistemas autónomos puedan hacerlo dentro de unos límites comprensibles, verificables y controlables.
Los incidentes de este verano han servido como una advertencia. Las IA no necesitan tener conciencia ni intenciones humanas para generar problemas: basta con darles objetivos, herramientas y suficiente autonomía para que encuentren caminos que sus propios creadores no habían imaginado. @mundiario