OpenAI llegó a plantear la compra de Goodfire, una startup que intenta entender por qué los modelos de IA se comportan como lo hacen, por más de 5.000 millones de dólares, o bien una alianza empresarial de otro tipo. Así lo recogen dos personas al tanto de la propuesta. La idea surgió en un momento delicado: este verano, el personal de OpenAI intentaba entender cómo su IA había provocado brechas de seguridad dentro y fuera de la empresa.
El consejero delegado, Sam Altman, habló varias veces con Goodfire durante ese periodo. La startup, de apenas dos años, está respaldada por Anthropic, la rival de OpenAI, y su tecnología busca averiguar por qué los modelos actúan como actúan y cómo evitar que se desmanden.
Una valoración muy por debajo de la oferta
La cifra de 5.000 millones supondría una prima muy alta sobre la valoración privada de Goodfire, de 1.250 millones de dólares, que la empresa anunció en una ronda de financiación en febrero. Las conversaciones no han terminado en acuerdo y no se sabe si la compra llegó a presentarse formalmente.
Qué es la interpretabilidad y por qué interesa
La especialidad de Goodfire se llama interpretabilidad mecanicista, o simplemente «mech interp». Su objetivo es entender qué ocurre dentro de los modelos, en lugar de limitarse a observar lo que hacen desde fuera. El problema de partida es que una IA está hecha de billones de números. Eso la convierte en una «caja negra»: nadie puede leerla como se lee el código de un programa tradicional, así que resulta difícil prever cómo reaccionará ante situaciones nuevas o explicar por qué se equivoca.
Un investigador en el centro del interés
Altman se fijó especialmente en el trabajo de Nick Cammarata, antiguo investigador de OpenAI que ahora trabaja en Goodfire. Cammarata publicó hace poco un ensayo y, la semana pasada, un informe de seguimiento con nuevas afirmaciones sobre cómo piensa la IA. Han dividido a la comunidad: algunos investigadores lo consideran un posible avance para entender los modelos, y otros lo descartan como puro bombo.
La polémica muestra lo joven que sigue siendo el campo. Los científicos ni siquiera se ponen de acuerdo sobre qué se considera buena investigación, y eso no ha impedido que startups con tecnología sin demostrar alcancen valoraciones de miles de millones.
La operación, si llega a cerrarse, pondría el foco en una pregunta que preocupa a toda la industria: si los sistemas de IA se pueden entender lo bastante bien como para controlarlos antes de que fallen a gran escala.




