Cuatro estudiantes de un instituto de Maryland, en Estados Unidos, han presentado una demanda un año después de que la policía los detuviera a punta de pistola. La causa fue una alerta de un sistema de inteligencia artificial que confundió una bolsa de Doritos con un arma de fuego. Los jóvenes, algunos ya exalumnos, aseguran que temieron por su vida.
La demanda se dirige contra Omnilert, la empresa que fabrica el sistema de detección de armas basado en IA, contra la policía del condado de Baltimore, contra la junta educativa, contra varios agentes y contra la directora del centro. Acusan a todos ellos de detención y registro ilegales por fallos tecnológicos y humanos.
Una bolsa de aperitivos que acabó con las manos en alto
Los hechos ocurrieron el 20 de octubre del año pasado, al caer la tarde, tras un entrenamiento de fútbol americano. El entrenador repartió bolsas de Doritos entre los jugadores. Taki Allen, entonces alumno del instituto, cogió varias y esperaba con sus amigos junto a unas mesas de picnic a que alguien los recogiera. Entonces llegaron seis coches patrulla con las luces encendidas.
Muchos agentes sacaron sus armas y los chicos levantaron las manos. Según la demanda, los obligaron a arrodillarse, los esposaron y los registraron mientras temían por sus vidas. Al marcharse, uno de los agentes les dijo: «Gracias por no salir corriendo, eso habría sido un problema de verdad».
Una alerta que nadie logró frenar
El sistema de Omnilert, llamado Omnilert Gun Detect, analiza las grabaciones de seguridad buscando señales de armas de fuego. En este caso marcó la bolsa como arma con un 90% de confianza. La demanda sostiene que la alerta siguió activa incluso después de que el personal del colegio y la policía local revisaran la imagen y comprobaran que era un error.
La empresa presume de que su producto es fiable y reduce los falsos positivos. Sin embargo, la demanda cita una revisión de la oficina del inspector general de educación de Maryland, según la cual más del 99% de las alertas de este sistema en las escuelas del condado de Baltimore eran falsas y no requerían respuesta policial. Omnilert ha asegurado públicamente que revisa la demanda y que lamenta profundamente el miedo que sufrieron los estudiantes y sus familias.
Burlas entre adultos
La demanda también recoge mensajes de la directora del instituto, que se burlaba del incidente con otros responsables mediante emojis de risa. Según el escrito, nunca pidió disculpas a los alumnos. Los agentes tampoco se tomaron el asunto en serio: uno comentó al marcharse que las cámaras de IA eran estúpidas, y otro bromeó con los chicos sobre tener cuidado con las bolsas de patatas en el colegio.
Los estudiantes no se lo tomaron a risa. Según la demanda, sufrieron dolor por las esposas apretadas y un malestar emocional que sigue. Taki Allen asegura que ya no se siente seguro esperando a que lo recojan ni quedándose en el instituto después de clase, y que a menudo paga un taxi para volver a casa en lugar de depender de sus amigos o su familia.
Una madre que espera a su hijo a la salida
Freida Winfield, madre de Keith, uno de los demandantes, iba de camino a recoger a su hijo y a sus amigos cuando los detuvieron. «Ningún niño del condado de Baltimore debería enfrentarse a este tipo de peligro mientras espera a su madre fuera de su propio colegio», afirmó.
Los demandantes están representados por el Comité de Abogados para los Derechos Civiles Bajo la Ley. Su presidente, Damon Hewitt, sostiene que los alumnos fueron fallados tanto por una tecnología propensa a las falsas alarmas como por los adultos que debían protegerlos. «En lugar de protección, los recibieron con pistolas y los traumatizaron. Y podría haber sido mucho peor».
El caso pone sobre la mesa cuánto margen de error puede tolerar un sistema que decide si un adolescente va armado, y quién responde cuando se equivoca.




