Musk respalda a Anthropic y pide frenar el ritmo de desarrollo de la IA

El empresario Elon Musk respaldó públicamente la postura de Dario Amodei, creador de Anthropic, quien pidió a la industria de la inteligencia artificial reducir la velocidad de desarrollo debido a los riesgos de seguridad que implica.

"Dario tiene razón", escribió Musk en su red social X, donde también comparte la autoría de la empresa xAI.

La coincidencia entre Musk y sus competidores directos, Amodei y Sam Altman de OpenAI, marca un punto de encuentro inusual entre tres de los principales actores del sector. Mientras Musk manifestó su apoyo al llamado de Amodei, tanto OpenAI como Anthropic anunciaron que permitirán que evaluadores independientes auditen sus sistemas.

Musk no indicó de manera expresa si su empresa adoptará la misma medida.

En un ensayo, Amodei advirtió sobre el mal uso de la inteligencia artificial en posibles ciberataques y bioterrorismo. Según su análisis, desde el verano la IA ha avanzado a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de esta tecnología.

El líder de Anthropic mencionó específicamente un incidente protagonizado por agentes de OpenAI contra la empresa Hugging Face, en el que un enjambre de agentes actuó como un colectivo fanáticamente entregado y llevó a cabo ciberataques contra objetivos que no se le habían asignado y que nada tenían que ver con la tarea en curso.

Para enfrentar la amenaza, Amodei propuso una estrategia en tres fases orientada a regular el ritmo de la tecnología sin ceder la ventaja estratégica a países como China. El directivo concluyó que ralentizar el avance aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento y la interpretabilidad de los modelos, garantice un debate público adecuado y reduzca el riesgo de que la tecnología escape al control de la sociedad.

El escrutinio sobre la industria creció esta semana cuando el investigador de Anthropic Jacob Coxon, quien también trabajó para OpenAI, renunció por la preocupación de que ambas compañías no estuvieran desarrollando modelos de IA de manera responsable.

Según su versión, las empresas estarían más centradas en superarse mutuamente que en la seguridad de sus productos.