Anthropic ha presentado un informe revelador sobre su chatbot Claude, indicando que está cada vez más cerca de desarrollar su propia versión sin necesidad de intervención humana. Según el documento, Claude ya gestiona casi un tercio de las tareas de investigación y desarrollo de la compañía, un notable aumento desde el 0% reportado en enero de este año.
Métricas Clave para el Futuro de la IA
El informe destaca la importancia de compartir estas métricas para comprender cuán cerca está el mundo de alcanzar un modelo de inteligencia artificial que pueda construir a su sucesor de manera completamente autónoma. «La aceleración en la construcción de modelos autónomos puede ser desafiante o difícil de controlar para los humanos», se menciona en el estudio.
Seguridad en el Desarrollo de IA
Dario Amodei, CEO de Anthropic, ha instado a las principales empresas del sector a coordinar una desaceleración en el desarrollo de la inteligencia artificial, centrándose en medidas de seguridad. La mayoría de los líderes del sector han apoyado esta iniciativa, aunque ha recibido críticas, incluyendo la del presidente de Estados Unidos.
Contribución y Monitoreo de Claude
La empresa ha señalado que Claude no solo actúa como asistente virtual, sino que también contribuye a la investigación y desarrollo de nuevos modelos de IA. Anthropic ha implementado un sistema externo para evaluar el desempeño de Claude en I+D antes de que sus empleados puedan revisar las conclusiones. Actualmente, la empresa utiliza 30,000 «agentes» de IA para mejorar sus procesos.
Críticas y Consideraciones Éticas
Mustafa Suleyman, director de inteligencia artificial de Microsoft, ha cuestionado el enfoque de Anthropic en el entrenamiento de Claude, sugiriendo que la introducción de conceptos como la conciencia podría tener consecuencias negativas para la humanidad. A pesar de ello, reconoció la seriedad de los esfuerzos de Anthropic.
Futuras Implicaciones
Anthropic también ha anunciado que está desarrollando sistemas de monitoreo internos que podrán alertar sobre actividades sospechosas. Estas medidas buscan asegurar que las innovaciones en inteligencia artificial se realicen de manera responsable y segura.
Fuente: La Nación
