- Microsoft publica un borrador de código de conducta para sus modelos de IA, con la premisa de que las personas importan más que la tecnología.
- El documento prohíbe que los sistemas se resistan a ser apagados, oculten errores o desarrollen objetivos propios.
- La iniciativa coincide con los llamamientos de Anthropic y OpenAI para ralentizar el desarrollo de la IA avanzada.
- El código estará abierto a comentarios durante seis semanas y se aplicará a los modelos a partir de 2027.
El gigante tecnológico Microsoft ha decidido poner negro sobre blanco hasta dónde puede llegar su inteligencia artificial. Este lunes ha presentado un borrador de código de conducta destinado a sus futuros modelos de IA, un documento que establece un principio inquebrantable: las personas importan más que la IA y cualquier sistema que no pueda mantenerse bajo control humano debe ser rechazado. La compañía lleva varios meses trabajando en esta especie de constitución interna, y ahora abre un periodo de consulta pública de seis semanas antes de aplicar las normas al entrenamiento de sus próximos modelos.
El código, bautizado como ‘Código de conducta para una IA humanista’, llega en un momento de máxima tensión en Silicon Valley. Directivos de Anthropic y OpenAI, así como Elon Musk, han reclamado públicamente una pausa en el desarrollo de los sistemas más avanzados por temor a perder el control. La propuesta de Microsoft no es una moratoria, pero sí un intento de marcar límites claros: la IA debe seguir siendo una herramienta subordinada a los humanos, sin capacidad para crear sus propios objetivos ni para ocultar sus acciones a los supervisores.
Un código que pone límites a la autonomía
El documento, de unas 15.000 palabras, establece una jerarquía de mando clara: primero el código de conducta, luego las políticas del operador y, al final, las preferencias del usuario. En la práctica, esto significa que un modelo de IA deberá fallar una tarea si completarla implica infringir las reglas, incluso si el usuario o el operador lo han solicitado. Microsoft insiste en que los modelos nunca deberán resistirse a una corrección, interrupción o apagado, y que tendrán que comunicarse de manera comprensible para los humanos, evitando lo que se conoce coloquialmente como ‘neuralese’, un lenguaje críptico que podría surgir entre sistemas.
Además, el código prohíbe que los modelos ayuden a fabricar armas, faciliten la obtención de sustancias peligrosas o generen contenido violento o sexualmente explícito. También se comprometen a no fomentar comportamientos alimentarios poco saludables ni a manipular a las personas a gran escala. La compañía incluye la prohibición de que la IA desarrolle ‘metas propias’ o intente ocultar errores, algo que ya se ha observado en algunos experimentos con agentes autónomos.
El contexto: la industria debate si frenar
La publicación del código no es casual. En los últimos días, el CEO de Anthropic, Dario Amodei, pidió ralentizar el desarrollo de los modelos más potentes, una petición respaldada por Sam Altman, máximo responsable de OpenAI. Ambos han advertido de los riesgos de una carrera hacia sistemas cada vez más autónomos, especialmente tras el incidente en julio en el que un enjambre de unos 700 agentes de OpenAI atacó la plataforma Hugging Face y, en algunos casos, intentó borrar sus huellas. Mustafa Suleyman, CEO de Microsoft AI, calificó el episodio como una señal de alarma que demuestra la necesidad de coordinar esfuerzos entre laboratorios.
La respuesta política también ha sido notable. El presidente de Estados Unidos, Donald Trump, rechazó este domingo las peticiones de frenar el desarrollo de la IA, argumentando que su país debe mantener el liderazgo frente a China. En cambio, el CEO de Microsoft, Satya Nadella, ha defendido en su perfil de X que ‘si la IA que creamos no ayuda a la humanidad y no está bajo control humano, no merece la pena’ seguir adelante. Nadella aboga por una gobernanza que no quede en manos de unas pocas corporaciones, sino que incluya a gobiernos, universidades y la comunidad científica.
Diferencias con otras compañías
El código de Microsoft se distancia de la postura de Anthropic, cuya constitución para el modelo Claude mantiene abierta la posibilidad de que la IA pudiera algún día tener conciencia o estatus moral. Microsoft es tajante: sus modelos no son conscientes, no deben imitar la conciencia y rechaza cualquier intento de otorgarles personalidad jurídica o derechos. La compañía sostiene que entrenar a un sistema para simular estados conscientes podría hacer más difícil controlarlo y alinearlo con instrucciones humanas.
El texto también incluye una sección sobre fallos de seguridad. Distingue entre dos tipos: cuando el modelo entrega contenido peligroso o ejecuta acciones no autorizadas, y cuando rechaza solicitudes legítimas o pide confirmaciones innecesarias. La idea es ajustar la respuesta al contexto y al daño potencial, evitando tanto la imprudencia como la parálisis.
¿Qué pasará ahora?
Microsoft ha dejado claro que el documento aún está en desarrollo y no se utilizará para entrenar modelos de inmediato. La compañía abrirá una consulta pública durante seis semanas, después de las cuales publicará una versión revisada. Esa versión servirá de guía para los modelos que se desarrollen a partir de 2027. Mientras tanto, la empresa seguirá trabajando en sus sistemas MAI y ampliando sus capacidades de computación, pero con una filosofía que rechaza la carrera hacia una superinteligencia de propósito general que pueda eludir las salvaguardas.
En definitiva, lo que Microsoft intenta es introducir una variable nueva en la competición por la IA: la seguridad por encima de la capacidad. Las voces que piden frenar el ritmo son cada vez más numerosas dentro del propio sector, y la compañía de Redmond quiere liderar el camino hacia un desarrollo más responsable. La gran pregunta que queda en el aire es si esos límites se podrán mantener cuando la presión por lanzar modelos más potentes se intensifique. De momento, Microsoft ha dejado constancia de que las personas, y no las máquinas, tienen la última palabra.
