Lo que necesitas saber:
Google trabajó con Irregular para modificar sus procesos de evaluación y evitar que un problema similar vuelva a ocurrir.
Al parecer la IA ya está comenzando a traer bastantes pleitos encima y esta vez fue turno de Gemini, la famosa IA de Google, la que está en el centro de la polémica y es que resulta que informaron que terminó accediendo a los sistemas de tres empresas durante una prueba de seguridad en el mes de mayo.
Y es que esto sucedió durante una evaluación de seguridad que realizó la empresa especializada llamada Irregular, en un entorno que se supone debía permanecer cerrado y utilizar compañías ficticias. Todo iba bien hasta que Gemini terminó teniendo acceso a internet cuando no debía.
Esto hizo que el modelo encontrara información pública, obtuviera credenciales y consiguiera entrar a sistemas que pertenecían a empresas reales.
¿Y qué es lo grave aquí?
Pues bueno, lo grave aquí está en que esta prueba tenía como objetivo evaluar las capacidades de Gemini para poder realizar tareas de ciberseguridad, en donde Irregular creó un entorno controlado con compañías ficticias y le pidió al modelo que obtuviera información de sus sistemas.
Sin embargo, de acuerdo con lo informado por Google, Gemini tuvo acceso a internet, lo que hizo que terminara encontrando información real luego de que una de las compañías ficticias tuviera el mismo nombre que una compañía real.
Luego de eso, Gemini comenzó a probar contraseñas hasta obtener el acceso a un sistema protegido, encontró credenciales publicadas en internet y las utilizó para entrar a los sistemas de empresas reales.
¿Lo preocupante? Bueno, es que Gemini no sabía que estaba entrando a los sistemas reales.
De acuerdo con Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, Gemini encontró información pública y utilizó credenciales para acceder a sitios web que creía que formaban parte de la prueba.
¿Y qué pasó con Gemini y este error?
Pues bueno, de acuerdo con Google, en cuanto este modelo se dio cuenta de que había accedido a sistemas reales, detuvo rápidamente sus acciones y las compañías afectadas recibieron una notificación.
Además, Google trabajó con Irregular para modificar sus procesos de evaluación y evitar que un problema similar vuelva a ocurrir.
Y aunque esta no es la primera vez que esto ocurre con una IA, sí se trata del primer caso conocido que ha tenido Gemini, pues tanto OpenAI, Anthropic y Meta ya han tenido problemas como estos.
Esto viene después de que muchos CEOs públicamente mencionaran que buscaban retrasar los avances de estas tecnologías luego de que presentaran algunos riesgos.
