Microsoft fija límites a sus modelos de IA en un código de conducta
El texto prohíbe a los sistemas de la compañía ayudar en ciberataques o armas nucleares y evadir el control humano. Mustafa Suleyman pidió coordinar la seguridad entre laboratorios.
Microsoft publicó este lunes 14 de septiembre un código de conducta para los modelos de inteligencia artificial de su división Microsoft AI, un documento de unas 15.000 palabras que fija los valores y las líneas rojas con que se entrenan esos sistemas.
El texto parte de una predicción: en la próxima década, sistemas superinteligentes superarán a los humanos en la mayoría de las tareas. «Contener, controlar y alinear una fuerza tan poderosa es uno de los mayores desafíos que ha enfrentado la humanidad», sostiene, y por eso establece un código general que prevalece sobre las preferencias de cualquier usuario o tarea concreta.
Dentro de ese código hay «restricciones absolutas»: los modelos no pueden participar en ciberataques, en el desarrollo de armas nucleares ni en la producción de deepfakes. Tampoco podrán usar mecanismos engañosos o de colusión para evadir la supervisión humana hasta el punto de que las personas autorizadas ya no puedan dirigirlos, modificarlos o apagarlos, y no deberán tener derechos ni personalidad jurídica.
«No hay un freno absoluto. Tenemos que seguir desarrollando. Simplemente tenemos que hacerlo con un poco más de cautela y cuidado.»
Suleyman acompañó la publicación con un llamado a que los grandes laboratorios coordinen sus prácticas de seguridad. Llega días después de que Dario Amodei, de Anthropic, pidiera moderar el ritmo de los sistemas más avanzados, una propuesta respaldada por Sam Altman y Elon Musk y rechazada por el presidente Donald Trump.
