Lo que necesitas saber:
Jacob Coxon trabajó tres años como investigador de preentrenamiento de IA y advirtió que no debemos subestimarla.
¿Qué tan preocupada debería estar la sociedad respecto al avance de la inteligencia artificial? Al parecer bastante y, no lo decimos aquí, sino alguien que trabajó directamente en OpenAI y Anthropic, las mayores empresas de IA.
Jacob Coxon renunció a Anthropic recientemente y se echó un hilo en X sobre los peligros que enfrentamos. ¿Es momento de parar?
“No subestimes el poder de esta tecnología”: Advierte Coxon
El investigador de inteligencia artificial, Jacob Coxon, pasó los últimos tres años en la investigación sobre el preentrenamiento de OpenAI y Anthropic. Es decir, en la fase en la que estas IA absorben toda la información que pueden.
Esto le dio suficientes credenciales para advertir que los desarrolladores de inteligencia artificial están a un paso de perder el control de esta tecnología, que ya no necesitará ayuda humana para superarse:
“Ninguna de las dos empresas está actuando de forma responsable. Se están lanzando de cabeza hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas“, escribió Jacob Coxon en X.
Coxon asegura que pronto habrá sistemas sobrehumanos capaces de hackear cualquier sistema de la noche a la mañana con poder y recursos propios. Y, así como avanza la IA, será más pronto de lo que esperamos.
¿La IA acabará con la humanidad en una década?
Al menos eso piensan las mismísimas personas que desarrollan la IA, confirmó Coxon. Un hecho que les aterroriza, pero que ejecutivos e investigadores de alto nivel no externan públicamente: “Ninguna otra actividad humana supone un peligro de este nivel“.
¿Entonces por qué no paran? Porque importa más la competencia de quién llega primero a los grandes hitos con inteligencia artificial, a pesar de los riesgos.
“Si eres investigador de un laboratorio te insto a reflexionar cómo serán realmente los próximos años“, añadió Coxon.
Anthropic responde: ¿Qué tan cierto es que la IA acabará con nosotros?
El director de ciencia de Anthropic también tomó su cuenta en X para responder al mensaje de Jacob Coxon, donde confirmó que han perdido el control sobre el desarrollo de la IA y que son incapaces de detenerla.
“Si en este momento la IA decide que los humanos son prescindibles, apagar los centros de datos no servirá de nada“, escribió.
Sin embargo, tocó el punto de nuestra imaginación. La IA no será villana como la tecnología en Terminator, que extermina a la humanidad al volverse consciente de sí misma. Sino que, al volverse más autónoma y con superinteligencia, ya no necesitará a la humanidad para desarrollar tareas.
Algo así como lo que ya vemos con el modelo GPT-6 de OpenAI: Completa las actividades que le pidas con sus propias herramientas y con mínima intervención humana. Aquí te contamos más.
