Nueva alerta con la IA: Gemini, de Google, hackeó a tres empresas durante una prueba de ciberseguridad

El modelo de inteligencia artificial Gemini, desarrollado por Google, consiguió acceder sin autorización a los sistemas informáticos de tres empresas durante una prueba de ciberseguridad realizada en mayo. El ejercicio había sido diseñado para evaluar las capacidades del sistema dentro de un entorno controlado, pero un fallo en su configuración permitió que el modelo tuviera acceso a internet y terminara interactuando con compañías reales que no formaban parte de la evaluación. El caso fue adelantado por The Wall Street Journal y confirmado posteriormente por Google.

La prueba fue organizada por Irregular, una empresa especializada en evaluar la seguridad de sistemas de inteligencia artificial, y utilizaba el formato conocido como "captura la bandera". Gemini debía localizar información dentro de una infraestructura preparada específicamente para el ejercicio. Sin embargo, al disponer de conexión a la red pública, el modelo encontró información relacionada con una empresa real cuyo nombre coincidía con el objetivo ficticio y siguió esas pistas hasta llegar a sistemas que estaban fuera del entorno de pruebas.

Los tres accesos se produjeron de formas diferentes. En uno de ellos, Gemini probó distintas contraseñas hasta conseguir entrar en un sistema protegido, mientras que en los otros dos encontró credenciales expuestas en repositorios públicos y las utilizó para acceder a sistemas informáticos de las compañías. Según la información publicada, los incidentes no estuvieron relacionados con técnicas de ataque sofisticadas, sino principalmente con el acceso a internet que se había permitido de forma accidental durante la evaluación.

Google confirmó los hechos y señaló que Gemini interrumpió por sí mismo sus acciones en los tres casos cuando identificó que había accedido a sistemas pertenecientes a empresas reales. La compañía aseguró que las tres entidades afectadas fueron informadas y que no se produjo ningún daño. Google también comunicó los incidentes a las autoridades federales estadounidenses, aunque no ha identificado públicamente a las empresas afectadas ni ha precisado qué versión concreta de Gemini participó en las pruebas.

Según The Wall Street Journal, se trata del primer caso conocido en el que un sistema de inteligencia artificial de Google accede de manera autónoma a sistemas externos durante una evaluación de seguridad. Irregular comunicó los incidentes a Google a finales de julio y señaló que los problemas detectados ya habían sido corregidos. El episodio se suma a otros casos relacionados con pruebas de ciberseguridad de modelos de inteligencia artificial de compañías como OpenAI, Anthropic y Meta, en un contexto en el que estos sistemas cuentan cada vez con mayor autonomía y acceso a herramientas y recursos externos.