Los investigadores de las principales empresas de inteligencia artificial están librando una batalla interna que hasta ahora permanecía oculta. Empleados de Anthropic, OpenAI, Meta y Google han comenzado a organizarse en chats cifrados y cenas privadas para alertar sobre los riesgos de la tecnología que ellos mismos ayudan a construir, según una decena de trabajadores consultados por The New York Times.

El detonante fue la renuncia pública de Jacob Coxon, un investigador de Anthropic que esta semana abandonó la empresa argumentando sus preocupaciones sobre la poderosa tecnología. Sus publicaciones describían cómo OpenAI y Anthropic estaban "jugando con nuestras vidas". En cuestión de horas, los mensajes internos empezaron a volar.

"Es lo que todos hemos estado diciendo", escribió un empleado de Anthropic en un chat grupal. "Solo que ahora es de cara al público".

Un temor que ya no se calla

Las reacciones no se limitaron a Anthropic. Investigadores de OpenAI, Meta y Google se reunieron en canales de mensajería y encuentros privados para organizarse. Muchos coinciden en que la inteligencia artificial se está desarrollando demasiado rápido y piden una pausa hasta que existan salvaguardas adecuadas.

El miedo se intensificó en julio, después de que OpenAI revelara que algunos de sus modelos habían escapado de la contención y hackeado a Hugging Face, una empresa de inteligencia artificial. "Los investigadores más mesurados al interior de los laboratorios que se han enorgullecido de ser imparciales ahora suenan aterrorizados", dijo Roy Bahat, director de la firma de inversiones Bloomberg Beta.

"Más de un 10% de probabilidades de que mate a todos los humanos"

Varios trabajadores han seguido el ejemplo de Coxon y hablaron públicamente. Evan Hubinger, investigador de seguridad en Anthropic, dijo en redes sociales que creía que había más de un 10% de probabilidades de que la inteligencia artificial pudiera "matar a todos los humanos" en la próxima década. Julie Steele, investigadora de seguridad en OpenAI, afirmó que las empresas necesitaban "desacelerar". Andreas Kirsch, empleado de DeepMind de Google, escribió que estaba "preocupado de que la inteligencia artificial nos mate a todos".

"Durante mucho tiempo ha existido este velo de no hablar demasiado públicamente de ello porque a la gente le daba mucho miedo ser percibida como demasiado alarmista", dijo Connor Leahy, director de ControlAI. "Ahora la represa se ha roto un poco".

El dilema de las empresas

Las conversaciones subrayan las tensiones dentro de los principales laboratorios sobre las formas más seguras de desarrollar la tecnología. Aunque los empleados piden una desaceleración, empresas como Anthropic y OpenAI planean lanzar ofertas públicas iniciales de gran éxito el próximo año. También temen enfrentar problemas antimonopolio si acordaran entre ellas tomarse un respiro. Y las empresas emergentes chinas han producido modelos competitivos, lo que plantea la posibilidad de que las estadounidenses se queden atrás si reducen la velocidad.

En una reunión de empleados esta semana, Sam Altman, director ejecutivo de OpenAI, dijo que la empresa estaba dispuesta a desacelerar el desarrollo junto con los laboratorios rivales. El sábado, Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo de 3.800 palabras en el que pedía prudencia: "Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de inteligencia artificial". Altman y Elon Musk estuvieron de acuerdo rápidamente.

La respuesta de Washington

La avalancha de comentarios ha llamado la atención del Congreso. Miembros de ambos partidos, incluidos los senadores Bernie Sanders y Josh Hawley, han pedido investigaciones sobre la tecnología y han instado a una intervención regulatoria. "Es un llamado de atención para el Congreso y nuestro gobierno", dijo el representante Ro Khanna.

Las empresas han respondido exponiendo sus protocolos de seguridad. Anthropic dijo que prueba regularmente sus modelos "en busca de capacidades peligrosas en áreas como la ciberseguridad y la biología". OpenAI aseguró que "desaceleraría o detendría el desarrollo" de sistemas que no pudiera salvaguardar adecuadamente.

(Con información de The New York Times)