Lo que necesitas saber:
Siegel señaló que los menores podrían enfrentar riesgos relacionados con su salud y desarrollo, entre ellos escenarios de suicidio, psicosis y una menor capacidad para pensar de manera crítica.
La inteligencia artificial avanza a toda velocidad, pero no todo son chatbots que ayudan con la tarea o herramientas para hacer imágenes. Porque ojo, Tom Siegel, exjefe de confianza y seguridad de Google, advirtió que esta tecnología podría representar un riesgo todavía mayor para niños, niñas y adolescentes.
Siegel pidió frenar el desarrollo de la IA y señaló que la industria tecnológica podría estar repitiendo los errores que cometió durante el auge de las redes sociales.
En entrevista con Reuters, el exvicepresidente de confianza y seguridad de Google aseguró que la situación respecto al impacto de la IA en los menores resulta preocupante y que las empresas no podrán resolver el problema por sí solas.
La advertencia llega mientras millones de jóvenes utilizan chatbots de la IA con cada vez más frecuencia y las compañías tecnológicas incorporan nuevas funciones a estas herramientas.
¿Qué riesgos de la IA preocupan a Tom Siegel?
Siegel señaló que los menores podrían enfrentar riesgos relacionados con su salud y desarrollo, entre ellos escenarios de suicidio, psicosis y una menor capacidad para pensar de manera crítica.
También mencionó la llamada “descarga cognitiva”, un fenómeno que ocurre cuando una persona delega en la IA tareas que normalmente requerirían razonamientos y análisis propios.
El exejecutivo también considera que las empresas podrían tomar medidas concretas desde ahora. Entre ellas mencionó controles de edad más estrictos para limitar el acceso de menores a determinados chatbots.
Además, planteó que Google podría permitir que las personas desactiven funciones como los resúmenes de IA y el Modo IA dentro de su buscador.
Siegel dejó Google en 2019, después de trabajar en la compañía desde 2004. Ahora se incorporó a Common Sense Media, organización dedicada a analizar el impacto de la tecnología y los medios en menores.
La organización creó en mayo el Instituto para la Seguridad de los Jóvenes en la IA, y Siegel asumirá como su primer director ejecutivo. El proyecto busca estudiar cómo utilizan la inteligencia artificial los menores y desarrollar normas que permitan exigir responsabilidades a las empresas.
Entre los patrocinadores del instituto se encuentran Anthropic y la Fundación OpenAI. Siegel planea trabajar con compañías tecnológicas y organizaciones independientes para impulsar nuevas medidas de seguridad.
La discusión llega en un momento en que gobiernos y autoridades de distintos países ya buscan establecer mayores controles para proteger a los menores en internet. Ahora, la inteligencia artificial suma un nuevo reto a esa conversación.
