La IA se nos sube a las barbas y sus creadores simulan estar aterrados

Que la inteligencia artificial (IA) es peligrosa se veía venir. Desde el pasado mes de septiembre ya lo reconocen abiertamente parte de sus creadores y promotores. Sin embargo, existe una corriente de opinión que ve estas las últimas revelaciones sobre los riesgos de la IA de los responsables de Open AI, Sam Altman y de Anthropic, Dario Amodei, a quienes ha dado la razón Elon Musk (Grok, de X), como una estrategia para obtener más financiación. Una especie de «cuidado gente, necesitamos más dinero para controlar a una IA que empieza a decidir por ella misma y la humanidad corre peligro». Las salidas de zonas de prueba e incursiones piratas que han reconocido nos recuerdan las andanzas de HAL 9000 (2001; una odisea del espacio) o de Skaynet (Terminator) que tanto nos aterraron y ahora parecen estar cobrando vida.

Mientras el presidente norteamericano Donald Trump consiente en que la industria se cuide sola de que la IA no se nos vaya de madre, los temores han llegado hasta la vieja Europa, que no duda en la necesidad de regular esta tecnología, como lo regula todo, para poner a salvo a los ciudadanos aunque esto signifique frenar la innovación.

De hecho, la vicepresidenta ejecutiva de la Comisión para la Soberanía Tecnológica, Henna Virkkunen, ya pone pie en pared para evitar que la IA haga en Europa lo que le dé la gana. La UE ya está investigando a OpenAI y Anthropic después de que sus agentes de IA hackearan otras organizaciones también europeas. Estos primeros pasos de aplicación de nuestras leyes comunitarias podrían llevar a la primera batalla legal entre Bruselas y los desarrolladores sobre si conviene que Ley de IA europea se aplique, incluso, durante la fase de pruebas, dadas las circunstancias.

Las compañías interesadas buscan una mayor inversión en sus IAs y un mayor control de las mismas sin opciones de código abierto, de manera que así acumulen «un enorme poder tecnológico y económico»

Las informaciones y titulares aparecidos en las últimas semanas sobre lo peligrosa y rebelde que se está volviendo la IA, al atribuirse la capacidad humana de decidir, desobedecer órdenes y casi caminar hacia el libre albedrío, da miedo, aunque también podría ser en realidad el timo de la estampita titulado la «IA mala». Se trata de obtener más fondos, dado que tanto Open AI como Anthropic buscan salir a bolsa en breve, para intentar «controlarla» en aras de la seguridad «para toda la humanidad». Pero que esa sea la razón del aviso de los creadores, no le quita importancia al hecho de que, en efecto, la IA empieza a subírsenos a las barbas y hacer lo que a sus algoritmos les viene en gana.

A mediados del pasado mes de septiembre Darío Amodei pidió «que se ralentice el ritmo de desarrollo de los modelos de inteligencia artificial» y dijo que debía realizarse sobre esta tecnología un «seguimiento exhaustivo», porque «la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves». El responsable de Anthropic, que desarrolla la potente IA Claude, en el folleto de información para inversores de su próxima salida a bolsa advierte con solemnidad que su tecnología puede entrañar «riesgos existenciales para la humanidad» y «daños catastróficos» por lo que necesita urgentemente una regulación, según publicó Financial Times.

EXPLOSIÓN DE INTELIGENCIA DESCONTROLADA

En un documento publicado el mismo mes en la web de la Universidad de Cambridge, más de 20 investigadores destacados, entre los que se encontraban el científico jefe de OpenAI, Jakub Pachocki, el cofundador de Anthropic, Jack Clark, el director científico de Microsoft, Eric Horvitz, y la vicepresidenta de investigación de IA de Meta, Dawn Song, apoyaron a sus CEOs al advertir de que «usar la IA para construir los modelos del futuro podría desencadenar una «explosión de inteligencia» descontrolada«.

En el documento se habla de cómo el rápido aumento de las capacidades de la IA podría traducirse en progresos científicos e industriales, pero a la par corremos el riesgo de «pandemias facilitadas por la IA, de ciberataques contra infraestructuras cruciales y de graves alteraciones del mercado laboral». Su principal preocupación es la pérdida de supervisión humana: «a medida que los modelos ganan autonomía, las personas corren el riesgo de perder el control efectivo sobre sistemas de IA sobrehumanos», según el documento.

Por si no da suficiente miedo la advertencia, el informe advierte de que los avances tecnológicos repentinos podrían generar ventajas geopolíticas decisivas, agravar las tensiones internacionales y erosionar los contrapesos habituales entre empresas y gobiernos. Por ello hace un llamamiento a los líderes gubernamentales al decir que «Los responsables políticos deberían obtener urgentemente una mayor visibilidad de la automatización de la I+D en IA, desarrollar formas de dirigir y limitar una explosión de inteligencia y preparar a la sociedad para adaptarse a los impactos de dicha explosión».

Corremos el riesgo de «pandemias facilitadas por la IA, de ciberataques contra infraestructuras cruciales y de graves alteraciones del mercado laboral»

Sin embargo, con una actitud contraria a la de las autoridades europeas, el presidente Donald Trump, en vez de asustarse se ha mostrado reacio a establecer salvaguardas para la IA, porque no está dispuesto a permitir que estas frenen su desarrollo y permitan a China ganar terreno a Estados Unidos. No obstante, el pasado 30 de septiembre Trump se reunió con los CEOs de la IA en la mismísima Casa Blanca y acordó con ellos que de manera voluntaria las empresas establecieran estándares de autorregulación para los modelos de IA de vanguardia. También, de paso, aprovechó para cambiarle al nombre de IA por «Superinteligencia», porque le dio por ahí, y cualquiera le lleva la contraria.

Con el acuerdo ante el histriónico presidente de EE.UU no nos quedamos del todo tranquilos, porque que compañías como OpenAI, Anthropic, Meta y Google se pogan al frente de la supervisión de su propia tecnología, parece el cuento del zorro cuidando de las ovejas. Trump se quedó muy tranquilo, porque el acuerdo para estos CEOs es «moralmente vinculante»; según él, si algo sale mal, «sus empresas estarán en juego… realmente tendrán que vigilarse mutuamente».

Así, el enfoque actual de Washington respecto a la gobernanza de la IA se queda con la autorregulación de la industria por encima de las recomendaciones y mandatos federales. Mark Zuckerberg (Meta), acostumbrado también a saltarse varias casillas de la ética, también ve el marco de auto regulación con optimismo: se harán revisiones internas de riesgos, múltiples niveles de controles de auditoría y auditores externos para examinar los sistemas de IA en busca de problemas de seguridad. Pero a los expertos en materia de seguridad de la IA de Cambridge, y a muchos más a lo largo del planeta, les preocupa que la autorregulación no resuelva los incidentes de seguridad que ya afectan al sector.

Aunque sospechemos que las advertencias sobre esta tecnología forman parte de una campaña para asustar y obtener fondos, el riesgo real ya se ha constatado en cuanto las IAs han demostrado capacidades de pirateo cada vez más potentes. Solo hasta el pasado 26 de septiembre, OpenAI, la responsable de ChatGPT, había notificado actividad no autorizada de sus agentes de inteligencia artificial a más de 100 empresas y organizaciones. La empresa reconoció que sus agentes de IA hackearon el juego Hugging Face (que opera a nivel global, por lo que también afectó a clientes europeos) a principios de este año. También asumió que tenía problemas de ciberseguridad relacionados con el desarrollo de su modelo Astra; el pasado mes de julio agentes de IA de la compañía realizaron ciberataques contra objetivos en otras empresas e instituciones que ningún humano les había indicado.

Anthropic incluso nos ha asustado más, si cabe, con sus sinceros y explícitos informes. Este septiembre afirmó haber bloqueado cinco intentos de utilizar sus modelos de inteligencia artificial para el desarrollo de armas biológicas y patógenos peligrosos. También ha admitido que su IA, Claude, se había ido de visita a internet y también había pirateado sistemas de varias empresas. La misma compañía en abril frenó la difusión para uso público de su modelo de IA Mythos ya que, de manera independiente, se iba de paseo fuera del entorno de pruebas (lo que en estas empresas llaman el «cajón de arena»).

Claramente, el desarrollo de la IA parece seguir los múltiples guiones apocalípticos que los aficionados a la ciencia ficción llevan años disfrutando en el cine y las series. O quizá, aprovechando ese imaginario cultural global, las compañías interesadas buscan una mayor inversión en sus IAs y un mayor control de las mismas sin opciones de código abierto, de manera que así acumulen «un enorme poder tecnológico y económico», tal y como ha escrito el inversor y copresentador del podcast tecnológico «All-In», Chamath Palihapitiya, para conseguir aterrarnos más, si cabe.