Anthropic frena lanzamiento de inteligencia artificial por riesgos cibernéticos

Representación del modelo de inteligencia artificial de Anthropic en relación con la defensa y la ciberseguridad.
Imagen tomada de EFE

El modelo Claude Mythos detectó fallos ocultos por 27 años en sistemas usados diariamente. Anthropic limitó su acceso a 40 corporaciones tecnológicas y financieras. 

Esta semana, la empresa Anthropic presentó su nuevo modelo computacional llamado 'Claude Mythos Preview'. Esta tecnología demostró habilidades extraordinarias en programación y seguridad en el entorno digital. La compañía decidió no ofrecerla al público general para evitar peligros a escala mundial.

Como alternativa, la firma creó el proyecto 'Glasswing'. Este sistema de defensa se limitó a unas 40 organizaciones elegidas. Esa cantidad de empresas es tan reducida que los directores de todas ellas cabrían en un pequeño salón de reuniones.

Entre los seleccionados están Amazon, Apple, Google y Microsoft. El objetivo es que estas corporaciones usen el modelo para encontrar y arreglar fallos en programas esenciales. Estos programas son la base tecnológica que hace funcionar desde los teléfonos móviles hasta los hospitales.

Durante las pruebas, el sistema encontró problemas de seguridad en navegadores de internet de forma autónoma. Estos navegadores son los canales informáticos que millones de personas utilizan diariamente para manejar su dinero o comunicarse. El sistema solo necesitó una orden inicial para lograrlo.

Uno de sus logros fue detectar una vulnerabilidad en el sistema operativo OpenBSD que llevaba 27 años oculta. Ese tiempo es equivalente a toda una generación humana nacida a finales del siglo XX. Nadie había notado ese problema de seguridad en casi tres décadas.

También descubrió un error en una importante biblioteca de procesamiento de video. Ese fallo había pasado desapercibido durante 16 años de revisiones continuas. En ese periodo se ejecutaron unos cinco millones de pruebas de seguridad automatizadas sin detectar la falla.

Ese enorme volumen de pruebas representa un esfuerzo equivalente a revisar y corregir todos los libros de una inmensa biblioteca pública. Anthropic indicó que esta versión preliminar representa un avance gigantesco en protección de datos. Los fallos detectados lograron esquivar años de controles estrictos.

Las cifras de rendimiento alteran el ritmo de crecimiento de la industria tecnológica. El modelo alcanzó un 93,9 por ciento de acierto en pruebas de programación muy estrictas. Esta puntuación es equivalente a conseguir una calificación casi perfecta en el examen técnico más riguroso posible.

En matemáticas, el sistema logró un 97,6 por ciento de éxito. Hace solo unos meses, los modelos más avanzados de la industria apenas llegaban a un 42,3 por ciento. Esta diferencia de capacidad significa resolver en pocos segundos cálculos que antes tomaban días procesar.

La noticia tuvo un efecto veloz en el mercado de valores financiero. Los inversores temen que esta tecnología autónoma reemplace los programas de seguridad actualmente en venta. Las acciones de las firmas de protección tradicionales bajaron al principio entre un cinco y un 11 por ciento.

A pesar de la bajada en la bolsa, estas firmas tradicionales participan en el nuevo proyecto. Ya están integrando esta tecnología en sus sistemas para blindar a los usuarios de la red. Esto apoya directamente las labores preventivas de la agencia de ciberseguridad de los Estados Unidos.

Las acciones del sector ya habían disminuido previamente a finales del mes pasado. En esa fecha, medios de prensa filtraron un documento confidencial de la empresa tecnológica. El texto describía el enorme poder del modelo y los riesgos asociados a su difusión abierta.

El presidente de la reserva central estadounidense se reunió con líderes de bancos comerciales para evaluar la situación. Puede revisar el enfoque institucional sobre esto en la web de la reserva federal. El encuentro incluyó a directivos que resguardan los ahorros de millones de ciudadanos.

La administración gubernamental considera las capacidades de la herramienta como un asunto de alta prioridad. Temen que la inteligencia artificial pueda afectar las bases del sistema financiero de manera crítica. Un ataque informático profundo podría paralizar el pago de nóminas a nivel nacional.

Al mismo tiempo, la relación entre la empresa creadora y las autoridades de seguridad enfrenta desafíos. La compañía rechazó formalmente que el departamento de defensa catalogara su tecnología como un riesgo logístico. Esta entidad estatal dirige los contratos de vigilancia de todo el país.

A pesar de este desacuerdo público, los mandos militares continuaron usando los sistemas de la empresa. La tecnología se empleó durante recientes operaciones militares internacionales. Esto ratifica que los gobiernos dependen hoy de recursos informáticos avanzados para manejar conflictos bélicos del siglo XXI.

El surgimiento de este programa informático marca un cambio definitivo en la gestión de la infraestructura tecnológica mundial. Al centralizar una herramienta tan resolutiva en un grupo minoritario, se evidencia la urgencia de asegurar las bases de la vida moderna. Este caso muestra cómo la capacidad computacional obliga a rediseñar los modelos de protección civil frente a peligros inexplorados.

Redacción asistida por Centauro IA , plataforma de inteligencia artificial desarrollada por Lombao Estudios 

Fuente: EFE

Artículos relacionados

Registrate para tener acceso a todos nuestros servicios