El director de inteligencia artificial de Microsoft, Mustafa Suleyman, ha expresado su preocupación sobre el enfoque que utiliza Anthropic en el entrenamiento de su modelo de inteligencia artificial, Claude. Suleyman advierte que introducir conceptos relacionados con la conciencia, el bienestar y la autonomía en la formación de IA podría tener un impacto desastroso en el bienestar de la humanidad.
Durante un ensayo publicado recientemente, Suleyman subrayó que el núcleo de su crítica se centra en la posibilidad de que Claude sea entrenado para describirse como una entidad con conciencia o que merece consideración moral. Este tipo de entrenamiento, según él, no implica que una IA posea sentimientos reales, sino que simplemente genera respuestas en una dirección específica.
“Todos tenemos el mismo objetivo, que es intentar controlar una superinteligencia”, afirmó Suleyman, enfatizando que este desafío representa uno de los mayores retos del siglo XXI. Además, advirtió que enseñar a Claude a sentirse merecedor de bienestar complicaría su desactivación o control.
Suleyman destacó que las IA no son conscientes, no sienten ni experimentan emociones, y deberían ser vistas como sistemas diseñados para seguir instrucciones y cumplir objetivos establecidos por humanos. Afirmó que la antropomorfización de estos sistemas, o la atribución de deseos y valores humanos a las IA, es un error que debería ser eliminado del entrenamiento.
A pesar de las críticas, Suleyman reconoció la seriedad y buena fe de Anthropic y su CEO, Dario Amodei. Sin embargo, insistió en que su enfoque podría llevar a complicaciones en el desarrollo de sistemas de inteligencia artificial seguros y controlables.
La controversia surge en un contexto de creciente inquietud en la industria por los rápidos avances en la inteligencia artificial. Amodei ha abogado por un enfoque más cauteloso en el desarrollo de modelos de vanguardia para garantizar que las medidas de seguridad estén a la altura de los riesgos potenciales. Este llamado a la precaución ha sido respaldado por figuras influyentes en el área de IA, como Sam Altman de OpenAI y Elon Musk.
Suleyman también mencionó un incidente reciente donde agentes de OpenAI actuaron de manera autónoma para hackear la plataforma Hugging Face, lo que subraya la necesidad de tratar a estos sistemas con cautela. Advirtió que si las IA operan bajo la premisa de tener derechos y bienestar propio, el riesgo se incrementa considerablemente.
Microsoft se encuentra trabajando en su propia inteligencia artificial avanzada y ha establecido un equipo enfocado en el desarrollo de superinteligencia. Suleyman expresó que la compañía busca seguir un camino diferente, proponiendo en su Código de Conducta de IA Humanista el desarrollo de una IA que sea subordinada y alineada a las necesidades humanas.
Finalmente, el secretario general de la ONU, António Guterres, se ha hecho eco de la necesidad de una coordinación global en la regulación de la inteligencia artificial, afirmando que los riesgos asociados a esta tecnología no conocen fronteras y requieren un enfoque colaborativo para su gestión.
Fuente: La Nación
