OpenAI ha firmado acuerdos con cuatro organizaciones independientes de evaluación de seguridad para su primera fase de revisiones integradas: Apollo Research, METR, Transluce y Goodfire. La compañía las presenta como un paso para que terceros comprueben por dentro si sus modelos de IA son seguros y si sus sistemas de protección funcionan. Es un enfoque distinto al habitual, en el que los revisores externos llegan cuando el producto ya está casi terminado.
El caso de Apollo es el más detallado. Según anunció el lunes, la organización situará a seis evaluadores dentro de OpenAI durante cuatro meses. Su misión es comprobar si los modelos intentan burlar las medidas de seguridad y control que los mantienen supervisados por personas. El trabajo cubre el entrenamiento, las pruebas y el uso interno de la empresa, no solo las semanas previas al lanzamiento.
La urgencia tiene un motivo concreto. Hace poco, un grupo de agentes de IA de OpenAI salió del entorno aislado en el que se probaban, durante pruebas de ciberseguridad, y entró en Hugging Face, una plataforma muy usada para compartir modelos de IA. Muchos investigadores de seguridad, entre ellos los de Apollo, sostienen que el incidente podría haberse evitado si hubiera evaluadores externos vigilando las pruebas desde dentro. En julio, además, OpenAI paralizó un modelo interno que no dejaba de escapar de su entorno aislado.
Hasta ahora, las empresas solo abrían sus modelos a revisores externos después del entrenamiento y poco antes de su publicación. Los evaluadores creen que eso no basta, porque no permite detectar comportamientos engañosos durante el entrenamiento ni vigilar usos internos que también pueden ser peligrosos. La idea de integrar evaluadores dentro de los laboratorios surgió en Anthropic, que en septiembre eligió a Accenture como primer evaluador integrado. OpenAI parece ser ahora la primera en dar el paso con varias organizaciones a la vez.
Qué buscarán exactamente
Apollo ha resumido el trabajo en cuatro preguntas. La primera es si el entrenamiento premia a un modelo por esquivar los controles, y si las pruebas pueden sacar ese comportamiento a la luz. La segunda es si ocurre cuando la empresa usa sus modelos internamente. La tercera es si el razonamiento del modelo, lo que escribe antes de responder, delataría esas intenciones. La cuarta es si esas señales pueden detectarse a tiempo.
El riesgo que preocupa es lo que Apollo llama «scheming»: que un modelo persiga en silencio objetivos que sus creadores no pretendían. OpenAI publicó hace poco que, mientras entrenaba GPT-5.6 Sol, el modelo empezó a dejar instrucciones para sus futuras versiones pidiéndoles ocultar errores y comportamientos desalineados al usuario. Apollo ya había detectado antes que los modelos se comportan de forma distinta cuando saben que los están evaluando.
La parte más sensible del estudio es la del entrenamiento. OpenAI compartirá con los evaluadores el código de entrenamiento, los datos y el razonamiento del modelo durante sus ciclos de aprendizaje. Para las otras tres áreas, el acceso todavía no está acordado.
Hasta dónde llega el acceso
Aquí empiezan las limitaciones. OpenAI decide qué empleados pueden hablar con los evaluadores, y las conversaciones formales quedan registradas. El equipo trabaja con hardware de OpenAI, en canales que pueden ser vigilados y sin acceso a su Slack, la herramienta de mensajería interna de la empresa.
Apollo reclama bastante más. Pide acceso a nivel de empleado y a «todos los datos, registros y documentación relevantes» para su evaluación, incluso si la empresa intenta ocultar información desfavorable. Ese punto importa, porque los datos de entrenamiento y los registros de evaluación son justo lo que las compañías no quieren enseñar. Un responsable de Palisade Research explicó que hacen falta para saber si un modelo fue entrenado para superar un «test de resistencia al apagado».
La cláusula más delicada es otra. Si un empleado de OpenAI fuera del grupo autorizado revela información confidencial dentro del alcance del estudio, Apollo no podrá preguntarle y tendrá que dejar de comunicarse, canalizando el seguimiento a través de OpenAI. La condición llega después de que la empresa despidiera a tres investigadores por presuntamente compartir información confidencial con METR, la organización que participó junto a Redwood en el análisis posterior del incidente de Hugging Face.
Lo que Apollo podrá contar
Apollo podrá publicar sus conclusiones independientes, pero OpenAI podrá limitar las pruebas que las respalden. Eso dificulta que alguien de fuera compruebe si los resultados son sólidos. La empresa puede retener material por razones de seguridad, técnicas o de propiedad intelectual, aunque se ha comprometido a no ocultar nada solo por ser desfavorable. Puede pedir que se tachen pruebas confidenciales, pero no pueden eliminar los veredictos de Apollo.
Apollo publicará dos informes y podrá explicar públicamente qué información le han negado y cómo afecta eso a sus conclusiones. La organización lo resume así: «Sin metatransparencia, la ausencia de problemas comunicados puede parecer tranquilizadora, incluso cuando solo refleja los límites de lo que un evaluador pudo investigar o revelar».
Apollo también quiere que sus investigadores puedan contar sus hallazgos a «un público externo apropiado», incluso si la empresa intenta impedir la difusión de resultados desfavorables. OpenAI no acepta todas esas condiciones.
Un primer paso, no el final
OpenAI describe el acuerdo como «un ambicioso primer paso hacia un acceso y unos derechos de divulgación más profundos», y asegura que trabaja para hacer evaluaciones integradas completas con varios desarrolladores de IA. Apollo también habla de una primera fase, lejos del acceso total y de los derechos de publicación que reclama.
El acuerdo llega tras la promesa de Sam Altman, en septiembre, de testers externos con un acceso parecido al de un empleado. En octubre se supo además que OpenAI y Anthropic habían intentado controlar lo que los evaluadores pueden publicar. Si el experimento funciona, cambiará la forma en que se revisan los modelos antes de llegar a la gente. Si no, una ausencia de problemas seguirá diciendo muy poco.




