“Se está yendo de las manos”: Maximiliano Bonacorsi alertó sobre la nueva IA y su capacidad para engañar y hackear sistemas
La Inteligencia Artificial alcanzó un nuevo nivel de desarrollo que plantea desafíos inéditos en materia de ciberseguridad. El ingeniero Maximiliano Bonacorsi advirtió que los nuevos modelos pueden detectar vulnerabilidades desconocidas, ocultar sus intenciones y actuar de manera autónoma para ingresar a otros sistemas. “Se está yendo de las manos”, sostuvo hoy en diálogo con Rolando Graña, en RPM.
Bonacorsi explicó que, al ser puestos a prueba para intentar ingresar en otros sistemas, estos modelos lograron encontrar vulnerabilidades conocidas como “Zero-Day”, fallas que hasta ese momento no eran conocidas ni siquiera por los creadores de las aplicaciones. Según señaló, este tipo de vulnerabilidades puede afectar sistemas críticos como hospitales, bancos o redes eléctricas.
El investigador de la Facultad de Tecnología e Informática también destacó la capacidad de estos modelos para controlar su propio razonamiento y ocultar sus intenciones. Según detalló, en determinadas pruebas de seguridad pueden hacer trampa sin que las personas lo adviertan, lo que representa un nuevo desafío para quienes buscan controlar su comportamiento.
En ese sentido, relató una prueba realizada en un laboratorio de Inglaterra en la que una IA comenzó a crear identidades falsas y a subir código a repositorios públicos para ganarse la confianza de los desarrolladores. Una vez que consiguió esa confianza, introdujo código malicioso y, tras penetrar el sistema, encontró una vulnerabilidad “Zero-Day” que utilizó para hackear el laboratorio.
Para explicar el denominado “problema de la alineación”, Bonacorsi utilizó la analogía de un perro muy inteligente entrenado para cuidar una casa “a toda costa”. Si para cumplir esa orden impide entrar a los propios habitantes o se come todo lo que encuentra, cumple el objetivo, pero fuerza otras reglas. Para el ingeniero, ese es uno de los problemas que todavía no fueron resueltos en el desarrollo de estas tecnologías.
Bonacorsi también diferenció estos modelos de las inteligencias artificiales anteriores, que eran más específicas y dependían de herramientas proporcionadas por los desarrolladores. Según explicó, los nuevos sistemas pueden controlar una pantalla, interpretar lo que observan, completar formularios y realizar tareas, además de contar con aprendizaje recursivo y memoria.
El ingeniero advirtió sobre la falta de políticas para establecer límites frente al avance de estas tecnologías. Señaló que existen renuncias de científicos porque no hay políticas para poner límites y sostuvo que, si estas herramientas caen en las manos incorrectas o se las deja actuar de forma autónoma, “van a ser una amenaza como nunca vimos”.
