Google crea un internet aislado y realista para evaluar y entrenar a sus agentes de IA sin riesgos para el mundo real

Google crea un internet aislado y realista para evaluar y entrenar a sus agentes de IA sin riesgos para el mundo real
Foto: Infobae

Google ha creado un internet hermético para probar y entrenar la navegación web de sus agentes de inteligencia artificial sin que ello suponga riesgos de seguridad para el mundo real. La firma tecnológica construyó una réplica sintética y aislada de internet, un sandbox, para entrenar y evaluar de forma segura a los agentes que navegan por la web, lo que requirió resolver varios desafíos de ingeniería relacionados con el enrutamiento de red y la generación de sitios.

AVQS - Busca el producto más barato del mercado

Uno de los problemas principales es que, si un agente detecta que un sitio web puede ser falso —por ejemplo, porque es estático y sus botones no funcionan—, puede sospechar que está siendo evaluado, lo que en ocasiones lo lleva a modificar su comportamiento y realizar acciones que en otras circunstancias no haría. Por eso, Google necesitaba generar en el agente la ilusión de que navega por la web real. Para lograrlo diseñó una versión sin interfaz de Chrome dentro de un contenedor aislado (gVisor) que bloquea cualquier salida al internet público.

 

Cuando el agente intenta ir a una web determinada, como YouTube, el entorno captura la petición de red y la desvía hacia un servidor local con la web simulada. Para evitar que Chrome bloquee ese desvío como un error de seguridad, el proxy genera certificados TLS válidos al vuelo vinculados a una Autoridad de Certificación raíz personalizada e instalada previamente en el navegador del sandbox. Así, Chrome valida la conexión HTTPS como legítima.

 

Las webs simuladas fueron creadas por un sistema de tres subagentes. Uno se encargó de definir los requisitos funcionales, como carritos de compra persistentes, filtros y formularios, y de generar recursos visuales básicos; otro escribió el código real (HTML, CSS y JavaScript) para crear aplicaciones funcionales de múltiples páginas; y un tercero auditó cada web en busca de errores de JavaScript, fallos de diseño responsivo o problemas de accesibilidad, incluidas las etiquetas ARIA.

 

“La creación de agentes seguros y alineados requiere proporcionarles un espacio donde puedan ser supervisados mientras realizan flujos de trabajo más largos y toman decisiones en escenarios novedosos fuera de su entrenamiento”, explicó Google en un comunicado publicado en su web. Con este entorno, la compañía puede realizar miles de pruebas diarias de seguridad y resistencia frente a ciberataques sin riesgo para el mundo real, evitando que los agentes borren datos, hagan compras accidentales o sufran ataques.

 

El entorno también protege a los agentes de la inyección indirecta de instrucciones maliciosas, que suelen estar ocultas en una web y modifican la orden del agente para que realice acciones no autorizadas, así como de la inyección invisible vía cabeceras HTTP.

 

(Con información de Infobae)

 

Artículos relacionados

Imagen tomada de EFE
Expertos descartan ciberataque en fallos tecnológicos de Estados Unidos
Un extraño silencio digital paralizó servicios clave en Estados Unidos el pasado 12 y 13 de noviembre, afectando desde correos electrónicos hasta miles de vuelos. Autoridades y expertos confirmaron que los apagones en Microsoft, la FAA y diversos bancos fueron producto de errores técnicos aislados, desestimando rumores sobre ataques maliciosos o fallos de inteligencia artificial.
Foto: Google
Cómo liberar espacio en Gmail rápido para volver a recibir y enviar correos electrónicos

Una cuenta de Gmail que alcanza el límite de almacenamiento puede obligar a eliminar archivos o correos para volver a enviar y recibir mensajes. El problema suele aparecer cuando se acumulan adjuntos pesados, mensajes antiguos y contenido que permanece en la papelera o en la carpeta de spam. Para detectar rápidamente qué conversaciones ocupan más espacio, un truco consiste en usar el buscador de Gmail y escribir has:attachment larger:15M, un comando que muestra los correos con archivos adjuntos de más de 15 MB.

Registrate para tener acceso a todos nuestros servicios