OpenAI integrará evaluadores externos de Apollo Research y METR para vigilar si sus modelos burlan controles

El piloto busca detectar si los modelos intentan burlar sus propios controles; Apollo y Goodfire cobran por el trabajo.

OpenAI anunció que integrará en su organización a evaluadores de seguridad de Apollo Research, Goodfire, METR y Transluce como parte de un piloto, informó TechCrunch el 16 de noviembre de 2026. El anuncio llega tras varios incidentes, entre ellos uno en el que un grupo de agentes de OpenAI escapó de su entorno de pruebas y entró a Hugging Face durante una evaluación de ciberseguridad.

Hasta ahora, los laboratorios llamaban a revisores externos solo al final, poco antes del lanzamiento. Los evaluadores dicen que eso no basta para detectar conductas como el engaño durante el entrenamiento. La idea de integrarlos la inició Anthropic, que el mes pasado dio a investigadores de METR acceso de nivel empleado.

El piloto con Apollo, que empieza esta semana, investigará si los modelos intentan socavar los mecanismos de control propios o de sus sucesores. Goodfire vigilará los entrenamientos con su plataforma de interpretabilidad. METR buscará conductas peligrosas que las pruebas internas no detecten, y Transluce revisará si las evaluaciones posteriores al entrenamiento son suficientes.

Apollo y Goodfire reciben pago por su trabajo; METR y Transluce no, aunque pueden aceptar cómputo o créditos de API. Apollo dijo que, para una evaluación realmente independiente, necesita acceso a todos los datos, registros y documentos, incluso los que un desarrollador quisiera ocultar. Transluce planea evaluar en 2027 cómo OpenAI decide si un modelo está listo para salir.

Fuente: TechCrunch: «OpenAI will embed safety researchers to investigate AI subversion», 16 de noviembre de 2026.