Las preocupaciones sobre el futuro de la inteligencia artificial (IA) han llevado a un creciente número de renuncias en empresas de renombre. Recientemente, un exempleado de Google DeepMind advirtió que la IA podría «matar a todos los seres humanos», un comentario que ha resonado en la comunidad tecnológica y ha encendido alarmas sobre el rumbo de esta tecnología.
Entre los que han dejado sus cargos se encuentra Bilal Chughtai, quien trabajó en el área de seguridad de IA en Google. En sus declaraciones, Chughtai enfatizó que la humanidad podría estar quedándose sin tiempo para evitar un desenlace catastrófico, aunque no especificó cómo podría ocurrir. Dijo que al inicio de su carrera, las IA eran «graciosamente inútiles», pero en cuatro años, el progreso ha sido asombroso.
Otro exempleado relevante es Josh Engels, quien también formaba parte del equipo de Google DeepMind. Engels dejó la empresa para unirse a una organización sin fines de lucro y expresó su preocupación sobre el potencial de daño que la IA podría causar en los próximos años. Sus palabras reflejan un sentimiento compartido por varios de sus colegas, quienes advierten que las empresas están compitiendo para desarrollar sistemas de IA más inteligentes que los humanos, lo que podría resultar en consecuencias desastrosas.
En el ámbito de Anthropic, Jacob Coxon y Evan Hubinger han expresado temores similares. Coxon, exinvestigador, declaró que los desarrolladores de IA creen que podrían causar daño antes de que termine la década. Hubinger, que sigue trabajando en la empresa, reafirmó que el riesgo es real y significativo.
La situación ha llevado a otros, como Joe Benton, a dejar sus puestos por razones similares. Benton alegó que es crucial aumentar la transparencia en el desarrollo de estas tecnologías. Zoë Hitzig, quien dejó OpenAI, compartió su desilusión con la dirección de la empresa y la introducción de publicidad en ChatGPT, lo que considera potencialmente peligroso.
La lista de renunciantes incluye a Jan Leike, Daniel Kokotajlo, William Saunders, y otros que han expresado inquietudes acerca de las decisiones que toman las empresas en un ámbito tan delicado como el desarrollo de IA. Geoffrey Hinton, premio Nobel de Física, también dejó su puesto en Google para hablar abiertamente sobre los peligros de la IA, destacando su creciente capacidad para crear contenido falso.
En un contexto global donde la IA avanza rápidamente, las voces de estos exempleados crean una narrativa de alerta sobre los posibles riesgos que conlleva el desarrollo desmedido de esta tecnología, subrayando la necesidad de un debate más amplio y profundo sobre su regulación y seguridad.
Fuente: La Nación
