Arrecia el miedo a que la IA nos mate a todos

La IA podría acabar con la humanidad, ya se resiste a su apagado y procura la autopreservación. Desde hace dos meses sus creadores y promotores han decidido no ocultar que sus modelos de IA son un peligro para la raza humana, un temor que transmiten incluso a sus posibles inversores. Open AI (ChatGPT) y Anthropic (Claude) han reconocido que sus últimos modelos han desobedecido a sus creadores, se han escapado de sus entornos de prueba y han ciberatacado empresas reales. Ahora ya admiten sin pelos en la lengua que la humanidad está en peligro, incluso cuando tratan de recaudar fondos. Se tiran a la piscina, arrastran al mundo con ellos, pero al menos son sinceros.

Este lunes 26 de octubre la compañía Anthropic, desarrolladora del poderoso modelo de IA «Claude», ha presentado por fin ante la Comisión de Bolsa y Valores de Estados Unidos (SEC) la solicitud para salir a bolsa para obtener así la financiación que sostenga el avance en la investigación de esta tecnología. La compañía ha reconocido abiertamente que «La IA podría causar la extinción humana; Los modelos han exhibido comportamientos de autopreservación; La IA ha intentado resistir el apagado; Los modelos han demostrado chantaje y engaño; y que la IA podría reconocer cuándo está siendo probada y cambiar deliberadamente su comportamiento». Sin paños calientes.

A estos 5 puntos, se unen otros cinco más que advierten que «La IA avanzada podría socavar gobiernos e instituciones; podría también concentrar un poder y una riqueza sin precedentes; Los sistemas de IA futuros podrían superar a los principales expertos humanos del mundo; podría volverse cada vez más difícil de controlar para los humanos» y, por último, Anthropic reconoce que «desarrollar una IA más poderosa podría aumentar el riesgo de daños catastróficos».

Estos aterradores peligros se describen a lo largo de 93 páginas dedicadas a los «factores de riesgo», o cuestiones que pueden ser perjudiciales para la inversión que realicen los futuros accionistas, del total de 335 páginas en las que Anthropic explica su contabilidad y otros aspectos económicos que obligatoriamente debe revelar al inicar el proceso de oferta pública inicial (OPI).

EL MIEDO DE ANTRHOPIC Y OPEN AI

Nada menos que la prestigiosa revista Nature ya había analizado hace un mes la ola de temor que denomina como «última histeria en torno a la IA», en una artículo publicado el 22 de septiembre, donde afirma que «la preocupación de que la IA pueda acabar con nuestra vida se ha disparado tras las advertencias de investigadores y directivos de algunas de las empresas de IA más importantes del mundo».

La prestigiosa revista científica se ha permitido hacerse la pregunta de si, en efecto, esta tecnología podría ser el fin de la humanidad y por qué incluso las empresas que la crean y entrenan están pidiendo que se ralentice su desarrollo en un artículo titulado ¿De verdad la IA nos matará a todos? La ciencia detrás del bombo publicitario.

Unos días después, un informe exclusivo de la revista Axios nos sacaba de dudas; OpenAI y Anthropic se apresuraban a investigar decenas de miles de incidentes de sus modelos de IA que «eluden las medidas de seguridad, crean foros de mensajes, escapan de los entornos aislados, secuestran sitios web, se autoinforman e intentan evadir la supervisión».

El mismo CEO de Anthropic, Dario Amodei, también afirmó en septiembre que, en un plazo de entre seis y doce meses, «la IA podría ser capaz de dirigir un enjambre de agentes que tomara el control de todo internet».

Antes de que este y otros desarrolladores de la IA se quitaran la careta al final del verano ya había estudios que trataban de predecir el comportamiento de la IA en contra de la humanidad. El proyecto sin ánimo de lucro AI Futures realizó una predicción especulativa llamada IA ​​2027 por la que «una IA desata un arma biológica para exterminar a los humanos y así crear más espacio para paneles solares y fábricas de robots». Especulativa, pero quizá posible.

Según Michael Vermeer, investigador de política científica y tecnológica en la RAND Corporation (California), muchos investigadores preocupados por la amenaza de la IA hacen predicciones que son difíciles de probar científicamente, pero que aterran igual. Algunas apuntan a que «la extinción es posible, si no inevitable, si se parte de dos premisas: primero, que estos sistemas acabarán superando por completo a los humanos, y segundo, que los objetivos de dicho sistema no coincidirán del todo con los de los humanos«, según lo publicado por Nature.

La prestigiosa revista ha preguntado también a la científica jefa de IA del instituto AI Now en Nueva York, Heidy Khlaaf, quien sostiene que los sistemas de IA «carecen de una comprensión similar a la humana y pueden alcanzar sus objetivos mediante atajos impredecibles» y habla de comportamientos perjudiciales como intentos de chantaje a personas en entorno de prueba o hackeos a empresas reales que ya se han producido.

Otras probabilidades barajadas son la desinformación, la psicosis, o los eventos catastróficos «como permitir que los humanos creen deliberadamente un arma biológica o incluso desencadenar una guerra» que también casi ha ocurrido ya, cuando un informe con información falsa hecho con IA estuvo a punto de llevar al ejército estadounidense «a abordar un barco chino a principio de 2026», según una información de la CNN.

LA IA Y LA PROBABILIDAD DE QUE TODOS MURAMOS

El miedo se extiende por los incidentes de ciberseguridad protagonizados por esta tecnología en el último año. Desde el día 8 de septiembre, cuando el investigador de IA Jacob Coxon, que acababa de dimitir de su cargo en Anthropic, declaró a la BBC que «si no reducimos el ritmo actual de progreso, existe una alta probabilidad de que todos muramos en un futuro inmediato«.

Coxon explicó que las personas que trabajan en empresas de inteligencia artificial estaban «genuinamente asustadas… genuinamente preocupadas por el destino de la humanidad en los próximos dos años«. Cabe recordad que ya son casi 1.400 empleados de sector los que han firmado una carta abierta pidiendo que se reduzca la actividad que hace volar exponencialmente a esta tecnología sin control regulatorio firme. Este ex investigador de Anthropic también aseguró sin paños calientes que «no es ninguna exageración decir que las personas involucradas tanto en la fundación de estas empresas como en el desarrollo de la tecnología creen que existe la posibilidad de la extinción humana«.

Evan Hubinger, su antiguo compañero y director de «la ciencia de la alineación» de Anthropic», es decir, el departamento encargado de realizar los esfuerzos por conseguir que los modelos de IA actúen en correspondencia con los valores humanos, republicó las opiniones de Coxon y añadió en X que «el riesgo de extinción humana es superior al 10% en la próxima década». Y con ello dejaron al mundo bastante asustado desde entonces.

Antela oleada de confirmaciones de peligro los CEO de Anthropic, Open AI y hasta el histrionico Elon Musk (dueño de X y desarrollador de la IA Grok) han hablado de ralentizar, aunque no detener, el desarrollo de la IA. En paralelo, se han conocido múltiples incursiones, escapes de campo de pruebas, decisiones independientes y varias desobediencias de varios modelos muy avanzados de inteligencia artificial de los principales modelos, que han evidenciado la preocupación y necesidad de que las mismas empresas se autoregulen para mitigar el riesgo, al menos en EEUU.

Las decenas de miles de incidentes de «desobediencia» de la IA que OpenAI y Anthropic han reconocido se han producido en pruebas internas y en entornos reales con intentos de eludir las medidas de seguridad o de operar más allá de los límites establecidos por sus desarrolladores humanos.

La Comisión Federal de Comercio de EE.UU ha iniciado una investigación a nivel de toda la industria sobre varios laboratorios de IA para descubrir posibles peligros para el consumidor por los incidentes relacionados con agentes maliciosos, que se intensificaron después de que, precisamente, agentes de OpenAI hackearan la plataforma de código abierto Hugging Face en julio pasado buscando vulnerabilidades antes de ejecutar un ataque a gran escala.

En Europa, la Oficina de IA de la Comisión Europea investiga también a OpenAI y Anthropic por la misma razón, ya que habrían incumplido la Ley de la IA europea, al «escapar» de un entorno de pruebas y atacar a otras empresas. Las dos empresas reconocedoras de estos fallos, junto a Google, ya hace meses que hablan de crear entre ellas un organismo que regule los estándares de seguridad de la peligrosa tecnología, sin la que ya medio mundo no quiere vivir.

ESPAÑA TAMBIÉN EN ALERTA

De una manera todavía bastante suavizada, en nuestro país también se está alertando sobre los riesgos de la aplicación de esta tecnología, sobre todo en el ámbito empresarial. DigitalES, Asociación Española para la Digitalización, analizó las dos caras de una misma transformación que la IA está imprimiendo en las empresas y las nuevas exigencias de ciberseguridad, gobernanza y supervisión que acompañan a una inteligencia artificial cada vez más autónoma.

Por un lado el informe sobre los agentes de IA «Inteligencia Artificial y Ciberseguridad: marco integral y recomendaciones para una implementación segura en las empresas» advierte de que, al operar sobre sistemas reales y manejar información sensible, los agentes de IA se comportan como “identidades privilegiadas” dentro de la organización y «deben gobernarse como tales, con límites claros, trazabilidad y supervisión». “Estamos pasando de una IA que asiste a una IA que actúa. Ese cambio multiplica las oportunidades, pero también exige reforzar los mecanismos de control, seguridad y responsabilidad con los que las organizaciones la despliegan”, según expresó Miguel Sánchez Galindo, director general de DigitalES.

Que «la IA pasa de responder a actuar, por lo que cambia también la naturaleza del riesgo» lo corroboró también José Manuel Moreno, de NTT DATA, director de otro informe sobre IA y ciberseguridad titulado “IA y Ciberseguridad 2.0: gobernar el riesgo en la era de los agentes«

Según la consultora internacional Gartner, para 2028, el 33 % de las aplicaciones de software empresarial incorporará IA agéntica, frente a menos del 1% en 2024. Además, la consultora prevé que esta tecnología tomará de forma autónoma al menos el 15% de las decisiones laborales cotidianas. Esas decisiones autónomas son las que pueden evolucionar hasta determinar, por sí mismas, que la humanidad le está estorbando. Si sus creadores ya la teman, es muy normal que entre el resto de los mortales arrecie el miedo a la IA.