Nadella pide un «freno de emergencia» para modelos de IA

El CEO de Microsoft propone separar modelo y harness, logs a prueba de manipulación y apagado humano mid-task.

Satya Nadella entró al debate de «trust architecture» de la IA con un post del sábado 10 de octubre. En resumen para TechCrunch: no tratar la Super Intelligence como cajas negras anidadas que solo se aceptan o rechazan.

Su propuesta: separar el modelo del harness que orquesta el trabajo; externalizar controles; documentar cada acción significativa con evidencia legible a prueba de manipulación; y garantizar que una persona autorizada pueda pausar o apagar el modelo a mitad de tarea. «Debemos asumir que el modelo está comprometido y contenerlo desde el inicio. Piensa en un freno de emergencia».

El timing no es casual: llega tras más disclosures de labs que pierden control de agentes y tras el plan de desarrollo más cauto de Dario Amodei. El vocabulario («Super Intelligence») alinea con el de la administración Trump.

Fuente: https://techcrunch.com/2026/10/10/microsofts-satya-nadella-says-ai-models-need-an-emergency-brake/