El referente de Inteligencia Artificial (IA), Jacob Coxon, renunció el lunes a Anthropic y encendió una mecha que se transformó en pocas horas en una cadena de declaraciones de otras seis personas que ocupan u ocuparon puestos clave en las compañías más exitosas del sector: OpenAI, Anthropic y Google DeepMind. Todos coincidieron que la industria está construyendo una tecnología que sus propios responsables no terminan de saber cómo controlar. 

Samuel Marks,  líder de Supervisión Escalable en Anthropic (Claude) aclaró que escribía a título personal, no en representación de su empleador. Fue quien aportó el dato más citado de estos días. “Cuanto más ‘senior’ (más experimentado) es el empleado, más preocupado está”, escribió sobre cómo se vive puertas adentro el riesgo de un desenlace catastrófico. Sostuvo que existen métodos para orientar a los sistemas hacia mejores comportamientos. Pero remarcó que ninguno logra todavía garantizar un control total sobre ellos.

Evan Hubinger conduce el área de Ciencia de Alineación también en Anthropic y le puso un número a la alarma. “Jacob tiene razón: realmente creemos con sinceridad que la IA podría matar a todos los humanos”, escribió.

Calculó que la probabilidad de ese desenlace supera el 10% en la próxima década. Dijo que Anthropic “está haciendo todo lo posible“. Sin embargo, admitió sin vueltas que la empresa todavía no cuenta con un plan para resolver el problema de alineación en sistemas de superinteligencia.

Alex Turner se fue de Google DeepMind (Gemini) en junio pasado, hace menos de 3 meses. Confirmó desde adentro lo que Coxon había planteado sobre OpenAI. “Muchos investigadores creen que están construyendo algo que podría matar a todos en el planeta. Era literalmente mi trabajo diario pensar en cómo detener eso”, escribió Turner.

La declaración con mayor peso institucional llegó desde el propio OpenAI. Jakub Pachocki es el científico jefe de la compañía y publicó un texto extenso en el que reconoció que los modelos de razonamiento actuales ya operan computadoras, colaboran entre sí y llevan adelante proyectos de investigación por cuenta propia. “Este es un momento que exige una precaución extrema. Me preocupa que nadie esté preparado para las consecuencias de un aumento continuo y rápido en la inteligencia de las máquinas”, escribió Pachocki.

El científico jefe pidió que OpenAI refuerce sus propios sistemas de alineación y monitoreo, y que esté dispuesta a frenar unilateralmente el desarrollo de sus modelos si hace falta. También planteó que ese esfuerzo individual no alcanza y reclamó intervenciones más amplias, que excedan a una sola compañía. Jason Wolfe también investiga en OpenAI y sumó una mirada menos apocalíptica, aunque igual de inquietante.

“No sé cuáles son mis probabilidades de una extinción literal, pero al ritmo actual la humanidad será bastante afortunada si logramos mantenernos en el estrecho camino entre todos los malos resultados”, escribió Wolfe.

Ninguna de estas siete personas habla desde afuera del negocio de la inteligencia artificial. Todas entrenaron o supervisaron directamente los modelos que hoy generan esa misma inquietud, y varias siguen trabajando en el corazón de las compañías que lideran la carrera hacia la superinteligencia.

Los siete mensajes se publicaron entre el 8 y el 9 de septiembre, y ninguno de sus autores se retractó ni matizó lo dicho en las horas siguientes.