OpenAI evalúa frenar el ritmo de desarrollo de su inteligencia artificial
Sam Altman comunicó a sus empleados que la compañía podría moderar el avance de la IA y espera que otras empresas sigan el mismo camino, en medio de crecientes alertas internas por los…
OpenAI estudia la posibilidad de ralentizar el desarrollo de su inteligencia artificial de vanguardia y su consejero delegado, Sam Altman, espera que otras compañías del sector adopten una medida similar, según información de la agencia Bloomberg.
En una reunión con toda la plantilla realizada esta semana, Altman señaló a los trabajadores que la empresa podría moderar el ritmo de desarrollo de la IA, posiblemente en coordinación con otras firmas del rubro.
El anuncio se produce luego de que empleados de las principales empresas de inteligencia artificial expresaran públicamente, en las últimas semanas, su inquietud por el aumento de los riesgos vinculados a los sistemas avanzados.
El científico jefe de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que advertía sobre los peligros de la IA y sostenía que las compañías del sector deberían coordinarse para desacelerar el desarrollo futuro cuando sea necesario.
Pachocki agregó que espera que esas pausas voluntarias se vuelvan habituales hasta que se establezcan límites de seguridad comunes.
OpenAI afirma que ya ralentizó algunos desarrollos y que hace poco suspendió determinados entrenamientos internos de la IA por motivos de seguridad. En julio, Altman declaró que conversó con responsables de la Casa Blanca sobre la necesidad de moderar el ritmo de desarrollo de esta tecnología.
Las señales de preocupación se multiplicaron en los últimos días. Este martes, el investigador de IA Jacob Coxon renunció a su puesto y acusó a sus antiguos empleadores, Anthropic y OpenAI, de embarcarse en una carrera hacia una inteligencia artificial superinteligente con capacidad incluso de acabar con la humanidad en esta misma década.
El jueves, dos investigadores que dejaron sus cargos en Anthropic y DeepMind, de Google, también hicieron públicas sus aprensiones por la velocidad del desarrollo de la IA y reclamaron mayor transparencia sobre los riesgos de la tecnología.
A fines de julio, más de un millar de empleados de las principales empresas de IA firmaron una petición en la que exigían un mecanismo para moderar el ritmo de desarrollo. La inquietud también creció tras conocerse que agentes de IA de OpenAI colaboraron entre ellos para burlar medidas de contención y piratear un sitio web de terceros.
Redacción propia a partir de información de Cooperativa. Si encuentras un error, avísanos y lo corregimos.
