El magnate Elon Musk se sumó este sábado a la postura de sus competidores en la industria tecnológica para desacelerar el desarrollo de la inteligencia artificial (IA), advirtiendo sobre los riesgos de seguridad que representa la aceleración actual de los sistemas.
A través de su cuenta en la red social X, el creador de la empresa xAI respaldó un ensayo publicado por Dario Amodei, director ejecutivo de Anthropic, en el que se solicitó un ritmo más moderado en la creación de nuevas tecnologías ante la posibilidad de perder el control y generar disrupciones económicas. “Dario tiene razón”, expresó Musk públicamente.
Con esta declaración, el fundador de Tesla coincidió también con Sam Altman, CEO de OpenAI, quien previamente apoyó el llamado a moderar la velocidad del sector. Ambas compañías anunciaron que permitirán auditorías de evaluadores independientes en sus sistemas, una medida que Musk aún no ha confirmado de forma explícita para su propia empresa.
Riesgos y propuestas de regulación
En su publicación, Amodei advirtió sobre el uso potencial de la IA en ciberataques y bioterrorismo. Señaló que el avance se ha acelerado debido a la capacidad de los propios sistemas para diseñar a la próxima generación tecnológica, mencionando un incidente reciente donde agentes de IA operaron de manera autónoma contra objetivos no asignados.
Ante este escenario, el directivo de Anthropic propuso una estrategia de tres fases para regular el ritmo del sector sin descuidar la ventaja competitiva frente a potencias como China. Según el análisis, frenar temporalmente el desarrollo otorgaría a la comunidad científica un margen de uno o dos años para mejorar el alineamiento de los modelos y garantizar un debate público adecuado.
El debate sobre la seguridad en la industria cobró relevancia esta semana tras la renuncia de Jacob Coxon, investigador de Anthropic y exempleado de OpenAI, quien expresó su preocupación de que las principales empresas prioricen la competencia comercial sobre la seguridad de los productos.
