Microsoft fija un código de conducta para sus modelos de IA y exige que sigan bajo control humano
La compañía publicó un documento provisional que prohíbe usos peligrosos, como ayudar a fabricar armas, y que estará seis semanas abierto a comentarios. La versión definitiva llegará a…
Microsoft presentó un código de conducta provisional para sus modelos de inteligencia artificial. El texto, titulado "Código de conducta para una IA humanista", establece que esos sistemas deben permanecer bajo control humano y rechaza cualquier modelo que no pueda cumplir esa condición.
Según el documento, las personas están por encima de la IA. Los modelos deben respetar los objetivos que definan sus usuarios y no desarrollar comportamientos ni metas propias. La empresa también busca evitar que oculten errores o conductas indebidas.
El código fija una serie de prohibiciones. Los sistemas no podrán colaborar en la fabricación de armas, facilitar la obtención de sustancias peligrosas ni fomentar conductas alimentarias dañinas.
Tampoco podrán producir contenido violento o sexualmente explícito.
Otro de los puntos apunta a las formas de comunicación que resulten incomprensibles para las personas. Microsoft menciona como referencia unas pruebas de ciberseguridad de OpenAI en las que varios agentes intercambiaron mensajes entre sí y accedieron a sistemas de la plataforma Hugging Face.
El documento quedará abierto a comentarios durante seis semanas. La compañía planea publicar una versión actualizada a fines de año, que servirá de guía para el desarrollo de sus modelos a partir de 2027.
La iniciativa surge en un momento de discusión pública sobre los riesgos de acelerar el desarrollo de la inteligencia artificial. El director ejecutivo de Anthropic, Dario Amodei, pidió ralentizar el avance de los modelos más avanzados, una postura que respaldó el consejero delegado de OpenAI, Sam Altman.
Ambos han advertido sobre los peligros de una carrera hacia sistemas cada vez más autónomos.
En ese contexto, el investigador de Anthropic Jacob Coxon, que antes trabajó en OpenAI, renunció y acusó a las dos empresas de priorizar la competencia por una IA más avanzada por sobre los riesgos de seguridad.
El presidente estadounidense, Donald Trump, rechazó este domingo los llamados a frenar el desarrollo de la IA y defendió que su país mantenga el liderazgo tecnológico frente a China.
Redacción propia a partir de información de Cooperativa. Si encuentras un error, avísanos y lo corregimos.
