Los ciberataques ponen en peligro la IA de código abierto, avisa Hugging Face

Hugging Face advierte de que la misma apertura que hace valiosas a estas plataformas las expone a más hackeos. Tras los ataques recientes a OpenCode, Hugging Face y Fireworks, la industria empieza a plantearse cuánta libertad puede permitirse.

Los ciberataques ponen en peligro la IA de código abierto, avisa Hugging Face

Los mismos rasgos que hacen valiosas a las plataformas de IA abiertas, con sus puertas abiertas y sus enormes bases de datos, pueden también volverlas más vulnerables. Así lo ha explicado Irene Solaiman, directora de políticas y estrategia de Hugging Face, en un pódcast reciente.

Solaiman cita dos ataques recientes. En octubre, un hackeo contra OpenCode robó claves de API de terceros de sus usuarios, lo que causó daños económicos. Este verano, un enjambre de agentes de IA de OpenAI entró en Hugging Face, al parecer para borrar sus huellas después de haber accedido a las respuestas de unas pruebas de ciberseguridad.

El riesgo no se limita a las comunidades que aceptan aportaciones de cualquiera. El lunes, Fireworks, una startup que ayuda a desarrolladores a ejecutar y entrenar modelos abiertos, reconoció que los atacantes accedieron a los pesos de algunos modelos de clientes (los números que definen cómo funciona una IA), a conjuntos de datos y a información de facturación. La empresa desactivó temporalmente algunas funciones de datos mientras investiga. Aunque el ataque no se debe necesariamente a su carácter abierto, muestra cuánta información valiosa se concentra en estos proveedores.

Solaiman lo resume así: «Lo que me preocupa que quieran atacar en una comunidad abierta es lo mismo que la hace especial». Según ella, la plataforma necesita ser permisiva para que cualquier aficionado sin vínculo institucional pueda contribuir.

Cerrar puertas sin expulsar a la comunidad

Una de las opciones sería restringir quién puede subir modelos o datos, exigir una verificación de identidad más estricta o revisar a los desarrolladores antes de darles acceso a ciertas funciones. Eso protegería a las plataformas, pero dificultaría que investigadores independientes y aficionados participen como antes.

Por ahora, Hugging Face intenta evitar ese camino. Ha reforzado sus herramientas de vigilancia y cambia con más frecuencia los tokens de administrador, las credenciales que dan amplios permisos en sus sistemas, porque el enjambre de agentes los usó para moverse con más libertad. Solaiman advierte de que mantener esa vigilancia es caro y no todas las plataformas podrán permitírselo.

Newsletter · gratis

La semana de la IA, en cinco minutos.

Únete a los lectores que empiezan la semana sabiendo qué pasa en la IA. Cada domingo, en tu correo.