La empresa Anthropic ha dado a conocer un informe que detalla el uso indebido de sus modelos de inteligencia artificial (IA), específicamente Claude, en actividades que podrían haber derivado en la elaboración de armas biológicas. En el documento, la compañía menciona que se bloquearon cinco intentos de utilizar su tecnología para desarrollos en laboratorios con un alto potencial de riesgo.
Según el informe, la empresa ha estado evaluando el uso de sus modelos en contextos que podrían ser peligrosos, resaltando que «estos ejemplos ilustran las tareas para las que se utilizan nuestros modelos, y los juicios que debemos tomar al evaluar si un determinado uso biológico es peligroso».
El informe, que es el cuarto de este tipo que publica Anthropic, señala que todos los casos ocurrieron en el presente año, utilizando versiones anteriores de su IA, que son menos avanzadas que las más recientes, como Fable o Mythos. Estas últimas incorporan salvaguardas más sofisticadas que restringen el uso malicioso de la tecnología.
Casos de uso de Claude en el desarrollo de armas
Algunos de los intentos de uso de Claude están relacionados con la creación de armas convencionales en el norte de Yemen, donde se identificó a un grupo terrorista que planeaba utilizar la inteligencia artificial para diseñar un cohete guiado y misiles de largo alcance. Este tipo de actividad es considerado un peligro inminente por la empresa.
El riesgo de las armas biológicas
El mayor riesgo identificado en el informe son las armas biológicas. Anthropic no proporciona detalles sobre los autores de las consultas, dado que no está claro si su intención fue maliciosa. Sin embargo, estos casos se registraron en países donde la empresa no ofrece sus servicios, lo que sugiere que los actores accedieron a Claude a través de métodos no oficiales.
Uno de los ejemplos destacados incluye la intervención de un científico de un instituto de investigación militar que utilizaba Claude para redactar una solicitud de beca para investigar el virus chikungunya. Aunque esta investigación puede tener aplicaciones legítimas, como el desarrollo de vacunas, también presenta el riesgo de crear versiones más virulentas del patógeno.
Investigaciones peligrosas en curso
El informe también menciona otros casos en los que se exploró hacer la gripe aviar más contagiosa, así como investigaciones sobre la viruela y la creación de un catálogo de toxinas de animales venenosos, que podrían ser utilizadas tanto para fármacos como para armas.
La publicación del informe coincide con la renuncia de un empleado de Anthropic, quien advirtió sobre el potencial peligro que representa la IA para la civilización. Este escenario plantea la posibilidad de que la inteligencia artificial sea utilizada con fines maliciosos por individuos o grupos con intenciones destructivas.
Este tipo de informes se asemejan a los que anteriormente publicaban plataformas como Facebook, que alertaban sobre operaciones encubiertas y la circulación de información peligrosa. Sin embargo, el riesgo asociado al uso de la IA es considerado significativamente mayor.
Fuente: La Nación
