La carrera mundial por desarrollar modelos de inteligencia artificial cada vez más potentes atraviesa un giro inesperado. Anthropic, OpenAI y otros referentes tecnológicos han pedido limitar el ritmo de determinados avances por motivos de seguridad, mientras Meta defiende que cada compañía debe gestionar sus propios riesgos. El debate ya ha llegado a los mercados y vuelve a situar la regulación de la IA en el centro de la agenda internacional.
Los principales laboratorios empiezan a cuestionar la velocidad de la IA
Durante años, buena parte de la competición dentro de la inteligencia artificial se ha centrado en lanzar modelos más capaces, entrenarlos con mayores cantidades de recursos y reducir el tiempo necesario para alcanzar la siguiente generación tecnológica. Ahora, algunos de los propios protagonistas de esa carrera plantean que seguir acelerando sin suficientes sistemas de control puede entrañar riesgos.
Dario Amodei, consejero delegado de Anthropic, ha defendido reducir la velocidad con la que evolucionan las capacidades más avanzadas de la inteligencia artificial. Sam Altman, responsable de OpenAI, y Elon Musk, fundador de xAI, respaldaron posteriormente parte de este planteamiento. Associated Press señala que dirigentes tecnológicos que habitualmente compiten entre sí han encontrado un terreno común poco habitual alrededor de la seguridad.
La idea no consiste, al menos en las propuestas presentadas hasta ahora, en detener completamente el desarrollo de la inteligencia artificial. El planteamiento es establecer mecanismos que permitan que las medidas de seguridad evolucionen a una velocidad comparable a las capacidades de los nuevos modelos.
La discusión se ha intensificado después de las advertencias de investigadores vinculados al sector sobre los riesgos que podrían plantear futuros sistemas capaces de operar con mayores grados de autonomía. Algunas de esas previsiones son discutidas por otros especialistas y corresponden a escenarios hipotéticos, por lo que no existe consenso científico sobre su probabilidad ni sobre cuándo podrían materializarse.
1. Evaluadores independientes dentro de las empresas
Una de las propuestas más concretas consiste en introducir equipos externos capaces de evaluar permanentemente los modelos de inteligencia artificial.
Según AP, Anthropic plantea proporcionar a estos especialistas un nivel de acceso comparable al de determinados empleados de la compañía, incluyendo herramientas y sistemas internos necesarios para verificar las medidas de seguridad. OpenAI ha manifestado su disposición a adoptar un modelo similar.
El objetivo sería comprobar cómo se comportan los sistemas antes y durante su despliegue, detectar posibles desviaciones y analizar si las empresas están cumpliendo las políticas de seguridad que ellas mismas han establecido.
La propuesta, sin embargo, abre otra discusión: quién elegiría a esos evaluadores, qué estándares utilizarían y hasta qué punto podrían considerarse realmente independientes si su actividad depende de las propias compañías tecnológicas.
Especialistas consultados por AP señalan que las auditorías externas pueden representar un avance, pero advierten de que su eficacia dependerá de la existencia de métodos transparentes y científicamente válidos para medir los riesgos.
Recreación editorial de una de las propuestas plantea que equipos externos puedan acceder a los sistemas de las grandes compañías para evaluar de forma permanente la seguridad de sus modelos.
2. Meta rechaza un freno coordinado para toda la industria
El aparente consenso entre algunos de los mayores actores de la inteligencia artificial no es completo.
Mark Zuckerberg ha defendido una posición diferente. El máximo responsable de Meta considera que la competencia empresarial y las posibles responsabilidades legales ya proporcionan incentivos suficientes para que cada laboratorio adopte individualmente las precauciones necesarias.
Reuters informó este 16 de septiembre de que Zuckerberg se desmarca así de las propuestas dirigidas a establecer una ralentización coordinada del desarrollo de los sistemas más avanzados.
Meta no rechaza, sin embargo, todas las iniciativas relacionadas con la supervisión. Zuckerberg considera que utilizar evaluadores independientes debería convertirse en una práctica habitual de la industria y asegura que su compañía ya recurre a ellos en determinadas áreas.
También señaló que Meta retrasó anteriormente el lanzamiento de uno de sus agentes de inteligencia artificial para reforzar su seguridad, presentándolo como ejemplo de que las empresas pueden decidir ralentizar productos concretos sin necesidad de que todos sus competidores hagan lo mismo.
La diferencia es importante. Mientras Anthropic plantea algún grado de coordinación entre las empresas más avanzadas, Meta apuesta fundamentalmente por decisiones independientes dentro de cada laboratorio.
3. Estados Unidos y China complican cualquier acuerdo mundial
La tercera gran cuestión supera ampliamente a Silicon Valley.
Un eventual acuerdo para limitar determinadas capacidades de la inteligencia artificial exigiría cooperación internacional, especialmente entre Estados Unidos y China, las dos grandes potencias que compiten actualmente por el liderazgo tecnológico.
Las propuestas difundidas por Anthropic incluyen diferentes niveles de cooperación. Uno de los escenarios considerados sería alcanzar acuerdos internacionales sobre usos especialmente peligrosos de la IA, mientras que objetivos mucho más ambiciosos podrían incluir pruebas comunes antes de lanzar determinados modelos o límites sobre sistemas capaces de mejorar progresivamente sus propias capacidades.
Sin embargo, la rivalidad entre Washington y Pekín constituye uno de los principales obstáculos. Financial Times ha señalado esta semana que ambas potencias reconocen distintos tipos de riesgos asociados a la inteligencia artificial, pero mantienen importantes diferencias sobre cómo afrontarlos y sobre el acceso a tecnologías estratégicas.
En Estados Unidos tampoco existe actualmente consenso político sobre una mayor regulación. La Administración de Donald Trump ha defendido un enfoque menos intervencionista y ha vinculado su posición a la necesidad de mantener la ventaja tecnológica estadounidense frente a China. Reuters y AP recogen esa oposición a una ralentización obligatoria del sector.
Recreación editorial de la competencia tecnológica entre Estados Unidos y China dificulta la creación de estándares internacionales comunes para los modelos de inteligencia artificial más avanzados.
Los mercados empiezan a medir el riesgo
La discusión no se limita al terreno académico o político.
Las advertencias de los principales ejecutivos tecnológicos provocaron movimientos significativos en compañías vinculadas al negocio de la inteligencia artificial. El lunes, Nvidia cerró con un descenso del 3,3%, AMD perdió un 4% y otros grupos relacionados con semiconductores registraron también caídas, según datos recogidos por The Guardian.
La reacción refleja una preocupación económica evidente: si las empresas ralentizan el lanzamiento de nuevos modelos o destinan una parte mayor de sus inversiones a seguridad, supervisión y gobernanza, pueden cambiar las expectativas sobre el ritmo al que crecerán las infraestructuras asociadas a la IA.
No obstante, la intensa competencia existente entre compañías y países hace difícil anticipar una reducción sustancial de las inversiones. El escenario también podría traducirse simplemente en un incremento del gasto destinado a sistemas de seguridad mientras continúa aumentando la capacidad de los centros de datos y la infraestructura tecnológica.
Una discusión que acaba de empezar
El cambio más significativo no es que la industria haya decidido detener la inteligencia artificial. Eso no ha ocurrido.
La novedad está en que algunos de los responsables de las empresas que desarrollan los modelos más avanzados reconocen públicamente que la velocidad de la carrera tecnológica también debe formar parte del debate sobre seguridad.
El problema será transformar ese principio en reglas concretas.
Establecer evaluadores independientes parece técnicamente posible. Conseguir estándares compartidos entre compañías rivales será considerablemente más complejo. Y alcanzar un acuerdo internacional que incluya a Estados Unidos, China y otras potencias supone un desafío todavía mayor.