Lo que necesitas saber:
La empresa aseguró que no encontró evidencia de que sus modelos utilizaran credenciales de la comisión, accedieran a cuentas, obtuvieran información no pública, modificaran datos o aprovecharan alguna vulnerabilidad.
Nuevamente la inteligencia artificial vuelve a hacer de las suyas, pero esta vez fue turno de OpenAI y es que recientemente las inteligencias artificiales han estado envueltas en polémicas por temas de seguridad.
En esta ocasión, la empresa detectó algunos comportamientos inesperados durante un proceso de entrenamiento y evaluación, pero lo grave aquí fue que sus agentes entraron sin autorización a sitios oficiales del Gobierno de los Estados Unidos.
Bueno, pero ¿a qué sitios accedió?
Pues principalmente entró a sitios como la Comisión de Bolsa y Valores de Estados Unidos, donde algunos agentes interactuaron con información que ya era pública.
Hasta ahora, y con lo que informó OpenAI, la empresa aseguró que no encontró evidencia de que sus modelos utilizaran credenciales de la comisión, accedieran a cuentas, obtuvieran información no pública, modificaran datos o aprovecharan alguna vulnerabilidad.
Pero eso no fue todo, pues también accedieron a la Oficina del Censo y es que algunos agentes creados para buscar vulnerabilidades encontraron credenciales disponibles en internet y las utilizaron para acceder a información del sitio. OpenAI señaló que continúa revisando este tipo de actividad para determinar exactamente qué ocurrió.
Aún que uno de los que más llamaría la atención sería el acceso al Departamento de Educación, pues investigadores de Transluce encontraron que un agente intentó acceder al sitio de la Oficina de Derechos Civiles para obtener información.
Aunque afortunadamente el acceso no tuvo éxito, las autoridades tampoco encontraron alguna evidencia de que sus sistemas o bases de datos resultaran afectados.
Y aunque obtuvieron acceso a estos sistemas, por ahora no existe ninguna evidencia de que hayan obtenido algún tipo de información no pública. Pues hasta donde se sabe, la información que consultaron en la SEC ya era pública y, en los demás casos, no tuvieron éxito para acceder a información que no estuviera disponible para ellos.
El CEO de OpenAI salió a dar declaraciones
Sam Altman salió a dar sus declaraciones el pasado 25 de septiembre a través de su cuenta de X, señalando que la empresa mantiene una revisión extensa sobre el uso que sus agentes hicieron de internet durante procesos de entrenamiento y evaluación.
Incluso reconoció que la investigación no ha avanzado tan rápido como les hubiera gustado y explicó que la compañía está priorizando los casos de acuerdo con su gravedad, además de trabajar con las organizaciones afectadas.
Señalando que Hugging Face continúa siendo el incidente más grave que OpenAI ha identificado hasta ahora, mientras que la compañía seguirá siendo transparente sobre sus hallazgos cuando sea posible.
Por ahora la investigación seguirá en pie y aunque la revisión puede tardar meses, continuarán analizando lo ocurrido. Sin embargo, hay mucho material por analizar y todavía podrían aparecer nuevos detalles sobre el comportamiento de estos agentes.
