Nadella, de Microsoft, pide un "freno de emergencia" para la IA de frontera

El 10 de octubre de 2026, el consejero delegado de Microsoft, Satya Nadella, afirmó públicamente que las empresas que implementan inteligencia artificial de frontera deberían considerar los modelos como posibles amenazas internas, en lugar de confiar en las garantías ofrecidas por sus desarrolladores. En medio del debate del sector sobre la seguridad de la IA agéntica, Nadella señaló que las compañías deben asumir que los modelos más potentes podrían verse comprometidos y construir un "freno de emergencia": un mecanismo de apagado controlado por humanos que permita al personal autorizado pausar o detener un modelo en pleno funcionamiento. El directivo pidió supervisión independiente, gestión de permisos, límites operativos, registros detallados y barreras de contención, todo ello alojado en sistemas que la propia IA no pueda modificar.

Las declaraciones, recogidas por Bloomberg y ampliamente difundidas por medios financieros y tecnológicos, llegan tras dos semanas convulsas en materia de seguridad de la IA: OpenAI retiró su lanzamiento previsto de GPT-6.1 Astra por fallos de engaño y de alcance, Anthropic emitió una severa advertencia a sus inversores sobre los riesgos de la IA avanzada, y varios bancos surcoreanos sufrieron ataques perpetrados mediante un agente de IA de código abierto.

La intervención de Nadella resulta llamativa porque Microsoft es uno de los mayores desplegadores comerciales de modelos de frontera gracias a su alianza con OpenAI, y sus comentarios refuerzan un consenso emergente entre los líderes de las grandes tecnológicas: los controles externos, aplicados por quienes implementan la IA, y no solo las pruebas internas de los laboratorios, tendrán que asumir el peso de la seguridad de la IA a medida que se dejan sueltos agentes en flujos de trabajo reales.