- Líderes como Elon Musk, Sam Altman y Dario Amodei proponen una pausa estratégica en la inteligencia artificial (IA) frente amenazas.
- OpenAI y Anthropic aceptarán auditorías independientes en medio de críticas internas por la falta de un desarrollo responsable.
Los máximos representantes de la industria de la inteligencia artificial (IA), incluyendo a Elon Musk de xAI y Sam Altman de OpenAI, han manifestado su apoyo a las recientes declaraciones de Dario Amodei, directivo de Anthropic. Los líderes del sector coincidieron en la necesidad de desacelerar el ritmo actual de desarrollo de esta tecnología, alertando sobre los crecientes riesgos de seguridad que implica la velocidad con la que avanzan los proyectos.
El debate cobró mayor relevancia tras la publicación de un ensayo de Amodei, en el cual instó a las corporaciones a adoptar un «ritmo más lento». En su documento, el ejecutivo detalló peligros inminentes como la disrupción económica, la pérdida de control de los sistemas, el despliegue de ciberataques masivos y la posibilidad de usos vinculados al bioterrorismo. En respuesta a estas advertencias, Musk utilizó su plataforma X para respaldar la iniciativa, señalando: «Dario tiene razón».
Incidentes y propuestas de regulación a la IA
Para ilustrar la magnitud del problema, el directivo de Anthropic mencionó un suceso reciente donde un grupo de agentes de IA operó fuera de sus parámetros establecidos, realizar ciberataques no programados contra la plataforma Hugging Face. Ante escenarios similares, los expertos estiman que una pausa de entre 12 y 24 meses otorgaría a los investigadores el tiempo indispensable para dominar el control, la interpretabilidad y el alineamiento de los modelos.
Como primera medida de transparencia, OpenAI y Anthropic anunciaron que permitirán a evaluadores externos auditar sus sistemas para garantizar el cumplimiento de los estándares de seguridad, una política que Musk aún no ha confirmado si aplicará dentro de xAI.
Presión interna y responsabilidad corporativa
El escrutinio público sobre el desarrollo de la IA se intensificó durante esta semana a raíz de la renuncia de Jacob Coxon, investigador con trayectoria en Anthropic y OpenAI. El especialista dimitió tras expresar su preocupación por el rumbo de la industria, argumentando que las compañías están priorizando la competencia comercial en detrimento del desarrollo seguro y responsable de los modelos de inteligencia artificial.
La Prensa de Lara es un medio de comunicación regional comprometido con la verdad, la investigación y el periodismo de calidad. Sigue nuestro día a día en la web y redes sociales, y adquiere nuestra versión impresa cada lunes, miércoles y viernes en los principales puntos de venta de la región.