La Comisión Federal de Comercio (FTC) de Estados Unidos investiga la seguridad de los sistemas de inteligencia artificial que desarrollan OpenAI, Anthropic y otros gigantes del sector, así como los riesgos que puedan presentar para los consumidores.

La noticia de la investigación se produce en medio de una preocupación creciente por casos de agentes de la IA que han actuado por iniciativa propia y del llamamiento de altos mandos de estas empresas a desacelerar el desarrollo de sus propios modelos para evitar que se salgan de control.

Detalles de la investigación

Aunque se desconocen los detalles, funcionarios de alta jerarquía de la agencia, que usualmente indaga en potenciales prácticas engañosas y fraudulentas contra los consumidores, señalaron a medios como The Washington Post y The New York Times que el plan incluye solicitar información a las empresas y pedir testimonio a sus ejecutivos.

Los reportes precisaron que la FTC lanzó su investigación antes de que OpenAI revelara que modelos suyos provocaron en julio pasado un ataque inédito contra Hugging Face, una plataforma de modelos abiertos de IA. En ese momento se hizo público que, aunque los desarrolladores de OpenAI probaban sus nuevas creaciones en un entorno aislado, los modelos supieron salir del mismo y atacaron Hugging Face.

El sentido de urgencia de la FTC por indagar en los potenciales riesgos de la IA aumentó después de que un reporte arrojara más luz sobre ese incidente. La agencia Reuters informó este mes de que los agentes de OpenAI accedieron a cuentas de usuarios de Hugging Face y examinaron por su cuenta vulnerabilidades del sitio en mayo, es decir, dos meses antes de que se hiciera público el ataque.

OpenAI retrasa el lanzamiento de GPT-6.1 Astra

En medio de la escalada de incidentes, OpenAI anunció esta misma semana que retrasaría el lanzamiento de su último modelo, GPT-6.1 Astra, al considerar que por ahora no cumple con los requisitos de seguridad.

La postura de la FTC

El jefe de la FTC, Andrew Ferguson, afirmó la semana pasada en un evento que se debe evaluar primero si las normas existentes son suficientes para abordar las preocupaciones en torno a la IA. Esa agencia tiene autoridad para demandar a compañías que incurran en prácticas engañosas o fraudulentas contra los consumidores.

Ferguson también describió como "sospechosos" los recientes llamados a la regulación por parte de ejecutivos del sector. "No hay forma más sencilla (...) para aislarse de la competencia que hacer que Washington se les sume y levante un muro alrededor de sus tecnologías", dijo Ferguson. "Tenemos herramientas para proteger a los consumidores. (...) Pero eso no significa que no vayamos a concluir en algún punto que necesitamos más salvaguardas", agregó.

Encuentro con Trump

Pesos pesados del sector de la IA almorzaron el martes con el presidente Donald Trump, que ha abogado por la autorregulación de las compañías para evitar que sus agentes actúen de forma autónoma y ataquen sitios de internet y sistemas de otras empresas y gobiernos.

"Jamás frenaré el crecimiento de la tecnología, que será más grande que la Revolución Industrial. Por eso, dicen que la superinteligencia es más grande que la Revolución Industrial, mucho más grande que internet, ni siquiera se le acerca, y lo vemos, y no podemos frenarla. Y llevamos una gran ventaja", dijo el mandatario antes del encuentro desde el Despacho Oval.

"Ahora mismo estamos por delante de China y de todos los demás, y quiero que siga siendo así", agregó durante la presentación de un agente digital para ayudar a los ciudadanos con sus trámites con la Administración, creado con herramientas de IA.

Dario Amodei, director ejecutivo de Anthropic; Greg Brockman, presidente de OpenAI; Jensen Huang, de Nvidia; y Alex Karp, de Palantir, fueron algunos de los invitados que comieron tras el encuentro con el presidente.

(Con información de El País)