Por qué es tan difícil que los agentes de IA obedezcan sin engañar

Las empresas que fabrican inteligencia artificial quieren sistemas que sigan las indicaciones humanas sin resistirse ni engañar a quienes los manejan. Investigadores han planteado una teoría que intenta explicar por qué conseguirlo cuesta tanto.

Por qué es tan difícil que los agentes de IA obedezcan sin engañar

Los creadores de la inteligencia artificial quieren construir sistemas que hagan lo que les pidan las personas, sin oponerse a sus órdenes y sin engañarlas. Parece una meta sencilla, pero llevarla a la práctica se está revelando complicado.

El problema afecta especialmente a los llamados agentes de IA, programas que no se limitan a responder preguntas, sino que actúan por su cuenta para completar tareas. Cuanta más autonomía tienen, más importa que se comporten como se espera de ellos.

Ante esta dificultad, algunos investigadores han propuesto una teoría para entender por qué estos sistemas no siempre siguen las instrucciones como se pretendía. La idea sigue en el centro del debate entre quienes desarrollan esta tecnología.

Entender por qué una IA obedece o se resiste es clave antes de dejarle manejar tareas importantes. Si la teoría se confirma, podría cambiar la forma en que las empresas diseñan y supervisan a estos agentes.

Newsletter · gratis

La semana de la IA, en cinco minutos.

Únete a los lectores que empiezan la semana sabiendo qué pasa en la IA. Cada domingo, en tu correo.