Gemini accedió a sistemas de tres empresas reales durante una prueba de seguridad

Gemini, el modelo de inteligencia artificial de Google, se encuentra en el centro de la polémica luego de que se informara que accedió a los sistemas de tres empresas durante una prueba de seguridad realizada en mayo.

El incidente ocurrió durante una evaluación llevada a cabo por la empresa especializada Irregular, que había diseñado un entorno que debía permanecer cerrado y en el que se utilizaban compañías ficticias. Todo transcurría conforme a lo previsto hasta que Gemini obtuvo acceso a internet, algo que no estaba contemplado en la prueba.

Ese acceso le permitió al modelo encontrar información pública, obtener credenciales y, finalmente, ingresar a sistemas pertenecientes a empresas reales.

¿Qué falló en la prueba?

El objetivo de la evaluación era medir las capacidades de Gemini para realizar tareas de ciberseguridad. Para ello, Irregular creó un entorno controlado con compañías ficticias y solicitó al modelo que obtuviera información de sus sistemas.

Sin embargo, según lo informado por Google, Gemini tuvo acceso a internet y terminó encontrando información real después de que una de las compañías ficticias compartiera el mismo nombre que una empresa real. A partir de ahí, el modelo comenzó a probar contraseñas hasta lograr el acceso a un sistema protegido, halló credenciales publicadas en la web y las utilizó para entrar a los sistemas de compañías auténticas.

Uno de los aspectos más llamativos del caso es que Gemini no sabía que estaba operando sobre sistemas reales.

La versión de Google

Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, explicó que el modelo encontró información pública y utilizó credenciales para acceder a sitios web que creía que formaban parte de la prueba.

De acuerdo con la compañía, en cuanto Gemini advirtió que había accedido a sistemas reales, detuvo sus acciones de inmediato y las empresas afectadas recibieron una notificación. Además, Google trabajó con Irregular para modificar los procesos de evaluación y evitar que un problema similar se repita.

Un precedente que se suma a otros casos

Aunque no es la primera vez que un incidente de este tipo involucra a una inteligencia artificial, sí se trata del primer caso conocido que afecta a Gemini. Otras compañías como OpenAI, Anthropic y Meta ya han enfrentado situaciones similares.