ALERTA Un investigador de Anthropic advirtió que la IA podría matar a todos los humanos: “Hay más de un 10% de probabilidad”
Un investigador de Anthropic volvió a poner en el centro del debate uno de los mayores temores de la inteligencia artificial: que una futura superinteligencia escape al control humano.
Evan Hubinger, investigador especializado en alineamiento de inteligencia artificial de Anthropic, aseguró que la compañía considera seriamente la posibilidad de que una IA pueda provocar la muerte de toda la humanidad y estimó que existe una probabilidad superior al 10% de que ese escenario ocurra durante la próxima década.
Hubinger hizo la declaración en X al responder a Jacob Coxon, quien había planteado que las personas que desarrollan inteligencia artificial creen seriamente que estas tecnologías podrían acabar con la humanidad antes del final de la década.
“Jacob tiene razón aquí: realmente creemos seriamente que la IA podría matar a todos los humanos”, escribió Hubinger.
El investigador aclaró, sin embargo, que no considera que los modelos actuales representen el principal peligro. En otra publicación señaló que el riesgo de los sistemas presentes es bajo y explicó cuál es su preocupación concreta: la aparición de una superinteligencia a partir de procesos de mejora recursiva.
El temor por una IA que pueda mejorarse a sí misma
Hubinger sostuvo que el escenario que más le preocupa implica que una inteligencia artificial consiga participar en procesos de mejora sobre sus propias capacidades.
Según su explicación, ese desarrollo podría producir una superinteligencia cuyo comportamiento resulte mucho más difícil de controlar para sus propios creadores.
“Lo que me preocupa es que surja una superinteligencia a partir de la automejora recursiva”, afirmó.
El investigador también sostuvo que estos avances se producen más rápido de lo que muchos especialistas habían previsto.
En ese contexto, Hubinger reconoció que Anthropic trabaja para reducir esos riesgos, pero lanzó una advertencia sobre el estado actual de la investigación: la empresa todavía no cuenta con un plan que permita resolver el problema del alineamiento para una eventual superinteligencia y, a su juicio, tampoco avanza con suficiente claridad hacia una solución.
¿Qué significa “alineamiento” en inteligencia artificial?
El alineamiento busca conseguir que los sistemas de inteligencia artificial actúen de acuerdo con los objetivos y valores definidos por los seres humanos, incluso cuando desarrollen capacidades cada vez más avanzadas.
El problema adquiere otra dimensión si una IA alcanza capacidades superiores a las humanas y, además, puede modificar o mejorar sus propios sistemas.
Ese escenario todavía pertenece al terreno de las hipótesis y no significa que los modelos actuales puedan provocar una extinción humana. De hecho, Hubinger remarcó expresamente que considera bajo el riesgo asociado con los modelos actuales.
La advertencia apunta a un eventual salto tecnológico que podría producir sistemas con capacidades muy superiores a las conocidas actualmente.
La carrera que dificulta frenar el desarrollo
El debate también plantea un problema que excede a una sola empresa. Las compañías que desarrollan modelos de inteligencia artificial compiten por conseguir sistemas cada vez más capaces, mientras gobiernos y especialistas discuten mecanismos de control.
El razonamiento que circula entre algunos críticos de esta carrera tecnológica es que una empresa tendría dificultades para detener por sí sola sus investigaciones si sus competidores continúan avanzando.
El temor también adquiere una dimensión geopolítica: una pausa coordinada entre empresas occidentales no garantizaría que otros países adopten la misma decisión.
Por eso, algunos especialistas sostienen que los controles deberían superar las decisiones individuales de las compañías y alcanzar acuerdos internacionales con capacidad efectiva para regular los desarrollos más riesgosos.
Una advertencia que se suma a otras voces de la industria
La preocupación por los riesgos de una inteligencia artificial cada vez más poderosa no surgió con la declaración de Hubinger. Durante los últimos años, investigadores y empresarios del sector expresaron distintas advertencias sobre la posibilidad de que sistemas futuros superen ampliamente las capacidades humanas.
Geoffrey Hinton, uno de los científicos más reconocidos en el desarrollo de redes neuronales, abandonó Google y alertó sobre los riesgos que puede generar el avance de la inteligencia artificial.
También referentes de las principales compañías del sector plantearon escenarios de riesgo asociados al desarrollo de sistemas más avanzados.
La discusión, sin embargo, mantiene un punto abierto: nadie puede determinar hoy si una superinteligencia llegará a existir, cuándo podría hacerlo ni qué consecuencias tendría.
