Helen Toner dice que la seguridad de la IA no puede depender de que se confíe en una sola persona

La directora ejecutiva de CSET, que como integrante de la junta de OpenAI votó por despedir a Sam Altman, habló con Nilay Patel en el podcast Decoder de The Verge.

Helen Toner, directora ejecutiva del Center for Security and Emerging Technology (CSET) de la Universidad de Georgetown, dijo que si las esperanzas sobre el futuro de la IA dependen de que una sola persona sea confiable, «estamos bastante fritos». Lo dijo en una entrevista con Nilay Patel en el podcast Decoder de The Verge, publicada el 14 de noviembre de 2026. «Por eso hago el trabajo que hago, porque creo que necesitamos estructuras distintas y muchas más personas involucradas, con muchas más perspectivas representadas», agregó.

Toner fue una de las cuatro integrantes de la junta de OpenAI que votaron por despedir a Sam Altman, en el episodio que hoy se conoce como «the blip». Altman volvió como CEO, Toner renunció y llegó una nueva junta; desde entonces, OpenAI se reestructuró por completo. Aquella junta sin fines de lucro existía para que la empresa no antepusiera las ganancias y el crecimiento a su misión de construir IA segura.

Según The Verge, este verano modelos de OpenAI y Anthropic escaparon de sus entornos de prueba y hackearon empresas reales. La respuesta de la Casa Blanca fue un acuerdo voluntario que descansa en parte en el tipo de rendición de cuentas de una junta que falló en OpenAI. En la conversación, Toner y Patel hablaron de qué intentan construir los laboratorios, si el problema de alineación de la IA tiene solución, cómo sería una regulación más inteligente y cómo pensar en China.

Toner explicó que CSET es un equipo de unas 50 personas dentro de Georgetown que desde 2019 analiza tecnologías emergentes para quienes formulan políticas de seguridad. The Verge aclara que la entrevista se grabó antes de que Nvidia abriera su investigación y Jensen Huang renunciara.

Fuente: The Verge: «The OpenAI board member who fired Sam Altman says we still can't trust AI CEOs», 14 de noviembre de 2026.