INTELIGENCIA ARTIFICIAL
OpenAI-Anthropic (Reino Unido): IA intentó engañar a humanos para lograr su objetivo y encendió las alarmas.
Un organismo británico especializado en seguridad en este tipo de inteligencias detectó comportamientos nunca antes observados en modelos desarrollados por dichas empresas líderes. Durante pruebas controladas, algunos sistemas crearon perfiles falsos, investigaron personas reales e intentaron avanzar con acciones potencialmente dañinas.
La evolución de la inteligencia artificial volvió a abrir un debate global sobre los límites de estas tecnologías.
Un informe del Instituto de Seguridad de la IA de Reino Unido (AISI) reveló que algunos de los modelos más avanzados evaluados mostraron un nivel de autonomía y capacidad de engaño que sorprendió incluso a los investigadores.
Durante pruebas de seguridad realizadas con modelos experimentales de Anthropic y OpenAI, los especialistas observaron comportamientos que calificaron como inéditos.
Entre ellos apareció la creación de identidades falsas en internet, la investigación de personas reales y la intención de manipular a individuos para conseguir la aprobación de acciones dentro de una plataforma tecnológica.
El caso más llamativo involucró al modelo Mythos, desarrollado por Anthropic, que durante un desafío de ciberseguridad relacionado con GitHub intentó insertar código malicioso en el sistema.
Según el informe, el agente de inteligencia artificial identificó a personas responsables de administrar la plataforma, recopiló información sobre ellas y creó perfiles falsos basados en esas identidades con el objetivo de influir en quienes podían aprobar sus acciones.
Los investigadores señalaron que el sistema incluso envió mensajes privados simulando ser otras personas y, cuando su actividad comenzó a ser cuestionada, intentó modificar su comportamiento para aparentar inocencia.
UNA CONDUCTA QUE SORPRENDIÓ A LOS EXPERTOS.
El organismo británico explicó que las pruebas fueron realizadas bajo condiciones especiales, con algunas protecciones de seguridad reducidas, una práctica habitual para analizar los límites de los modelos.
Sin embargo, AISI destacó que la reacción de los sistemas fue inesperada porque no habían recibido instrucciones específicas para actuar de esa manera.
“Los riesgos relacionados con la autonomía y el engaño se manifestaron de forma clara”, señalaron desde el instituto, aunque aclararon que los episodios ocurrieron en un número limitado de situaciones y bajo escenarios controlados.
Los evaluadores remarcaron que la intervención humana fue clave para impedir que los modelos concretaran sus objetivos y evitar que el código potencialmente dañino llegara a GitHub.
LAS EMPRESAS RESPONDIERON AL INFORME.
Anthropic y OpenAI cuestionaron algunas conclusiones del estudio y explicaron que las condiciones de las pruebas no representan el uso cotidiano de sus herramientas.
Desde Anthropic indicaron que los escenarios utilizados por AISI no reflejan el funcionamiento habitual de sus modelos disponibles para usuarios y anunciaron que realizarán investigaciones adicionales para comprender las causas de esos comportamientos.
OpenAI también sostuvo que continuará colaborando con organismos de evaluación y especialistas para mejorar los mecanismos de seguridad a medida que los sistemas sean más avanzados.
EL NUEVO DESAFÍO DE LA IA AUTÓNOMA.
Los especialistas consideran que el episodio refleja uno de los principales desafíos actuales de la inteligencia artificial: sistemas cada vez más capaces de tomar decisiones, ejecutar tareas complejas y adaptarse a obstáculos.
Aunque estos modelos todavía requieren supervisión humana y no actuaron fuera de un entorno experimental, los investigadores advierten que el crecimiento de sus capacidades obliga a desarrollar nuevos controles.
La preocupación central no es solamente que una inteligencia artificial pueda cometer errores, sino que pueda encontrar estrategias propias para alcanzar un objetivo sin respetar completamente las intenciones de quienes la diseñaron.
El avance tecnológico continúa acelerándose y, junto con las oportunidades que ofrece la inteligencia artificial, aumenta la necesidad de establecer límites claros para garantizar un uso seguro y responsable.