Vaya, vaya. Recientemente Elon Musk, Steve Wozniack y otros expertos en inteligencia artificial firmaron una carta abierta en la que piden detener los experimentos de IA en todo el mundo.
¿Por qué? Afirman que en los últimos meses los laboratorios de IA “han entrado en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.
Expertos piden detener los experimentos de IA
¿Por qué será que piden detener los experimentos de IA? La carta publicada por Future of Life afirma que los sistemas de inteligencia artificial (IA) con inteligencia humana competitiva pueden plantear riesgos profundos para la sociedad y la humanidad.
Explican que la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse con el cuidado y los recursos correspondientes, cosa que no ha pasado.
“¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos?¿Deberíamos arriesgarnos a perder el control de nuestra civilización? Tales decisiones no deben delegarse en líderes tecnológicos no elegidos“, se lee en la carta.
La carta que fue firmada por más de mil personas hasta el momento propone que los sistemas potentes de IA deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos manejables.
Es por eso que hacen un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes de GTP-4, la herramienta que se acaba de estrenar.
“Los laboratorios de IA y los expertos independientes deberían aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzados de IA que sean rigurosamente auditados y supervisados por expertos externos independientes“
Señalan que esto no significa una pausa en el desarrollo de la IA en general, sino un paso atrás en la carrera peligrosa hacia “modelos de caja negra impredecibles” que cada vez tienen más capacidades.
¿Y quién firmó esta carta en la que piden detener los experimentos de IA?
Encontramos entre los firmantes, por ejemplo, a Elon Musk, fundador de Tesla, SpaceX y ahora dueño de Twitter.
De igual forma a Steve Wozniak , cofundador, Apple; Jaan Tallinn, cofundador de Sype y decenas de académicos de universidades reconocidas y científicosEl instituto Future of Life es una organización sin fines de lucro que trabaja, principalmente, para reducir el riesgo de la inteligencia artificial avanzada. de laboratorios de inteligencia artificial.
El instituto Future of Life es una organización sin fines de lucro que trabaja, principalmente, para reducir el riesgo de la inteligencia artificial avanzada.