Anthropic, una de las empresas líderes en inteligencia artificial centrada en la seguridad, publicó un informe de inteligencia de amenazas en el que alerta sobre uno de los peligros más graves de esta tecnología: su potencial para asistir en la investigación y desarrollo de armas biológicas.

La compañía reveló que frenó varios intentos de utilizar sus modelos de IA para automatizar el espionaje en países como China, Malí e Irán, que la habrían empleado para fines militares, según el informe. En Teherán, por ejemplo, se habrían detectado barcos estadounidenses en Oriente Medio.

El "doble uso" de la tecnología

Aunque Anthropic puede transformar la ciencia médica, la compañía advierte sobre su "doble uso": la misma información utilizada para crear una vacuna puede emplearse para hacer que un patógeno sea más peligroso.

El informe detalla cinco casos reales en los que los investigadores intentaron experimentar con las capacidades de Claude para fines biológicos de alto riesgo. Entre ellos se encuentran la ganancia de función del virus Chikungunya, la gripe aviar altamente patógena, la familia de la viruela y los venenos y toxinas letales.

Nuevas salvaguardas

Ante el aumento de la amenaza, Anthropic implementó salvaguardas más estrictas en sus modelos recientes, como Claude Fable 5, y bloqueó las cuentas involucradas en estas operaciones. La compañía afirma que los clasificadores automatizados de seguridad ya no son suficientes por sí solos y que el acceso a las capacidades biológicas avanzadas de la IA requerirá programas de acceso confiable que verifiquen la legitimidad institucional de los usuarios.

(Con información de Antena 3)