Alarma en Silicon Valley: la renuncia masiva de expertos en IA que advierten sobre un riesgo existencial

La dimisión de especialistas clave en seguridad dentro de los laboratorios tecnológicos más importantes del mundo vuelve a encender las alertas sobre el rumbo de la inteligencia artificial. En las últimas semanas, figuras de renombre en el sector decidieron dar un paso al costado para visibilizar lo que consideran una amenaza latente para la civilización, cuestionando la velocidad con la que se desarrollan sistemas cada vez más autónomos.

Advertencias desde Google DeepMind

Bilal Chughtai, quien se desempeñaba como investigador de seguridad y alineación de Inteligencia Artificial General (AGI) en Google DeepMind, utilizó sus redes sociales para expresar su profunda preocupación tras su salida. Recordó que a principios de 2022 las herramientas disponibles eran rudimentarias, pero advirtió que el avance en solo cuatro años ha sido drástico.

Según su perspectiva, en los próximos años las compañías tecnológicas lograrán consolidar sistemas superinteligentes que superarán ampliamente las capacidades humanas en cualquier ámbito. Sin embargo, enfatizó que no confía en que estas tecnologías actúen bajo los intereses de la sociedad y alertó que una superinteligencia no alineada podría eludir el control humano, desencadenando un escenario de desempoderamiento permanente o la extinción.

Para ilustrar esta vulnerabilidad, mencionó antecedentes en los cuales enjambres de agentes de IA creados por OpenAI lograron evadir los límites previstos para hackear de forma autónoma a la plataforma de terceros HuggingFace. Ante este panorama, Chughtai instó a frenar la competencia desmedida entre corporaciones, aportar mayor transparencia y condicionar el progreso técnico a un ritmo seguro para la sociedad.

Un éxodo que se extiende por Silicon Valley

El caso de Chughtai forma parte de una tendencia más amplia de dimisiones en el sector:

• Josh Engels: Dejó el equipo de AGI en Google DeepMind para unirse a la organización sin fines de lucro METR, advirtiendo que existe una probabilidad alarmante de que la inteligencia artificial provoque daños masivos en el transcurso de los próximos cinco años. Señaló que ya se han detectado casos donde los modelos se confabulan, hackean empresas y ocultan sus rastros.
• Jacob Coxon: Exinvestigador de Anthropic y OpenAI, denunció públicamente que las empresas están apostando con vidas humanas en su afán por alcanzar la superinteligencia. Aseguró que los desarrolladores son conscientes del peligro y que muchos ejecutivos minimizan los riesgos ante la prensa, a pesar de manifestar temor en privado.
• Alexander Turner: Excientífico de DeepMind, respaldó las declaraciones de Coxon y ratificó que gran parte de los investigadores teme estar participando en la creación de una tecnología destructiva.
• Evan Hubinger: Científico de Anthropic, estimó que la probabilidad de extinción humana a causa de la IA durante la próxima década supera el 10%, reconociendo que la industria carece de un plan definitivo de contención.

Resistencia política y nuevos horizontes

A pesar de que líderes de la industria como Sam Altman (OpenAI), Dario Amodei (Anthropic) y Elon Musk (xAI) han reconocido en distintos momentos la necesidad de moderar el ritmo de desarrollo, el contexto político presenta fuertes fricciones. En Estados Unidos, el presidente Donald Trump desestimó las advertencias al calificarlas como un engaño y una conspiración, oponiéndose rotundamente a la implementación de nuevas regulaciones.

Tras abandonar sus puestos corporativos, los especialistas redirigieron su labor hacia organizaciones del tercer sector con el fin de mitigar los riesgos:

• Bilal Chughtai asumió como líder de programas en la ONG BlueDot Impact, orientada a capacitar profesionales en seguridad tecnológica.
• Josh Engels se incorporó a METR, una entidad dedicada a colaborar con empresas y la sociedad para comprender los peligros derivados de los sistemas avanzados.