Premios Nobel y Turing tachan de insegura a Anthropic un día antes de cotizar

Firman científicos, juristas y figuras de la tecnología que casi nunca coinciden. Acusan a la empresa de usar su imagen de seguridad para captar inversores.

Premios Nobel y Turing tachan de insegura a Anthropic un día antes de cotizar

Un grupo de científicos, juristas y figuras de la tecnología ha firmado un texto que llama a Anthropic «no una empresa de IA segura». El documento, llamado MisAnthropic Statement, se publicó el miércoles, un día antes de que las acciones de la creadora de Claude empiecen a cotizar en bolsa. Lo organiza el Centro para la Seguridad de la IA (CAIS), una organización sin ánimo de lucro de San Francisco.

Lo llamativo es quién lo firma. Hay investigadores de seguridad, defensores del software abierto y especialistas en ética, pero también personas que quieren que la IA avance lo más rápido posible. Entre los nombres aparecen el psicólogo de Harvard Steven Pinker, el premio Nobel de Economía Oliver Hart y el premio Turing Judea Pearl. Del sector tecnológico firman Thomas Wolf, cofundador de Hugging Face, e Igor Babuschkin, cofundador de xAI.

Dan Hendrycks, director ejecutivo de CAIS, lo resume así: «Los firmantes discrepan en casi todo, pero todos reconocemos el peligro de una empresa que se convence de que su dominio es el bien mayor».

Tres acusaciones contra la empresa

El texto plantea tres acusaciones. La primera es una contradicción. Recuerda que Anthropic advierte de que la IA que se mejora a sí misma, es decir, que construye sistemas de IA mejores que ella, podría concentrar poder y escapar al control humano. «Y aun así se apresura a construirla primero», dice el manifiesto. Además, la empresa la presenta a los inversores como una ventaja clave.

La segunda acusación apunta a sus normas internas. En febrero, Anthropic debilitó su Política de Escalado Responsable y eliminó sus compromisos unilaterales de pausar el desarrollo de sus modelos.

La tercera es política. La empresa habría presionado para frenar leyes de seguridad de la IA, como la SB 1047 de California y la RAISE Act de Nueva York. Además, habría apoyado en privado que la ley federal tenga prioridad sobre las leyes estatales de IA.

Lo que responde Anthropic

Anthropic no había respondido públicamente al manifiesto el jueves por la mañana. Sí se pronunció en el documento de salida a bolsa que presentó el 10 de noviembre. Allí admite que no espera poder dejar que Claude construya a sus sucesores de forma segura sin una «supervisión humana significativa».

En ese mismo documento confirma que considera haber alcanzado su umbral para la investigación acelerada por IA. La compañía ya había avisado a los inversores de que podría ser objetivo de críticas por sus posturas sobre seguridad.

Una salida a bolsa récord

La carta llega en plena operación, cuando Anthropic completa la mayor salida a bolsa de la historia. Sus acciones empiezan a cotizar este jueves en el Nasdaq, el mercado de valores tecnológico de Estados Unidos.

El caso pone a prueba una pregunta que el sector lleva años debatiendo: ¿puede una empresa presentarse como la más prudente de la IA y, al mismo tiempo, competir por construir la tecnología que más teme?

Newsletter · gratis

La semana de la IA, en cinco minutos.

Únete a los lectores que empiezan la semana sabiendo qué pasa en la IA. Cada domingo, en tu correo.