Por José Joe Vargas – 7 de agosto de 2025, 6:33 PM AST
El arresto de una niña de 13 años, provocado por un sistema de vigilancia escolar que interceptó y malinterpretó un comentario en un chat privado, ha desatado una tormenta de críticas contra la hipervigilancia implementada en Estados Unidos sin el consentimiento informado de las familias.
Este incidente, ocurrido el 15 de mayo de 2025 en Texas, apenas ahora comienza a conocerse en los medios. Revela cómo la implementación de protocolos de intervención automáticos —activados tras la detección de supuestas amenazas por inteligencia artificial (IA) o software escolar— está generando consecuencias devastadoras.
El problema no radica únicamente en la tecnología utilizada para recopilar metadatos de información privada y personal de menores, sino en la ausencia de procedimientos humanos claros, que parecieran no estar debidamente intervenidos por trabajadores sociales, que garanticen la salud de las familias una vez que se activa una alerta.
Ante el uso de tecnologías de hipervigilancia en escuelas, es necesario que los padres conversen con sus hijos sobre mejorar el juicio a la hora de hablar a través de dispositivos y sus consecuencias. Al mismo tiempo, corresponde a los defensores de los derechos parentales presentar los reclamos necesarios para detener cualquier práctica de espionaje que vulnere la privacidad familiar.
Mientras los padres comienzan a informarse y actuar para enfrentar el problema, la falta de protocolos que garanticen la verificación contextual provoca que las órdenes de intervención por falsos positivos deriven en violaciones de derechos fundamentales, daños psicológicos y detenciones indebidas de menores.
El caso que encendió las alarmas
El 15 de mayo de 2025, en Tyler, Texas, una adolescente fue arrestada y retenida durante dos días luego de que el software GoGuardian interpretara literalmente una broma privada escrita en un chat escolar. La menor respondió con sarcasmo a un comentario de un compañero, pero el sistema activó una alerta automática que derivó en la intervención policial.
La madre de la niña declaró al Chicago Tribune que el verdadero problema es que no existe un protocolo que obligue a verificar el contexto antes de ejecutar una acción tan drástica:
“Fue esta estúpida tecnología recogiendo palabras al azar, sin que nadie se detuviera a pensar qué significaban realmente”.
Este no es un caso aislado. Según The Washington Post, al menos 12 arrestos similares se han registrado en 2024 y 2025 debido a falsos positivos de sistemas de IA en entornos escolares, muchos de ellos relacionados con dispositivos personales conectados a redes educativas.
Tecnologías de vigilancia y falta de control humano
Según un análisis del The New York Times del 10 de abril de 2025, más de 10,000 escuelas han adoptado herramientas como:
-
HALO Smart Sensors: Instalados en el 90% de las escuelas con sistemas de detección, según EdTech Magazine (1 de marzo de 2025), capturan palabras clave en conversaciones y están sincronizados con cámaras de vigilancia.
-
Sistemas como GoGuardian, Securly y Gaggle, capaces de monitorear chats, correos electrónicos, búsquedas en internet y documentos.
Estas herramientas, combinadas con cámaras de reconocimiento facial y análisis predictivo, convierten computadoras y teléfonos en nodos de vigilancia activos incluso fuera del horario escolar.
Pero la tecnología por sí sola no es todo el problema. El riesgo aumenta cuando la activación de una alerta no pasa por un filtro humano entrenado para diferenciar entre una amenaza real y un comentario inofensivo. Un procedimiento mal diseñado puede criminalizar a un menor por una frase sin contexto, como ocurrió en Texas.
Este encarcelamiento de una menor, durante dos días, también plantea la cuestión sobre si estas acciones fueron evaluadas por trabajadores sociales antes de haber permitido este arresto ilegal e inconstitucional.
Palantir y la integración de datos escolares
Palantir Technologies, conocida por sus contratos con agencias federales, ha expandido su alcance a entornos escolares mediante contratos millonarios.
Según un informe de Wired del 25 de marzo de 2025, las plataformas Gotham y Foundry de Palantir integran datos de dispositivos escolares, redes sociales y bases de datos gubernamentales para crear perfiles detallados de estudiantes.
Esta operación, financiada por el Gobierno a través de un contrato de $2.5 millones entre Palantir y el distrito escolar de Los Ángeles —revelado por The Intercept el 30 de abril de 2025—, evidencia cómo la empresa procesa datos de menores para predecir supuestos “comportamientos de riesgo”.
Además de llevar el espionaje doméstico a un nuevo límite, los arrestos por crímenes aún no cometidos, basados en la predicción de una IA, sin protocolos de revisión independientes y sin transparencia sobre el uso de los datos, tienen un margen de error y abuso enorme.
Un experto en IA citado por MIT Technology Review advirtió que estos sistemas no comprenden el sarcasmo ni las sutilezas culturales, lo que hace imperativo que toda alerta sea revisada por personal calificado antes de cualquier acción coercitiva.
El consentimiento informado que nunca se dio
Uno de los puntos más críticos es que la mayoría de los padres y estudiantes desconocen el alcance real de estas herramientas. El consentimiento informado debería incluir:
-
Una explicación clara y en lenguaje comprensible sobre qué información se recopila y cómo se usa.
-
La posibilidad de optar por no participar en estos sistemas sin represalias académicas (por ejemplo, permitir que los estudiantes hagan sus trabajos sin utilizar estas plataformas).
-
Límites precisos sobre qué datos pueden compartirse con autoridades externas y cuáles no, aplicando en Puerto Rico las protecciones de la ley HIPAA.
-
Garantías de revisión humana antes de cualquier intervención.
-
Reconocimiento de que, sin estas garantías, la vigilancia escolar crea un entorno de miedo y autocensura en menores.
Por ello, los padres deben exigir a las escuelas explicaciones claras, detalladas y verificables sobre el funcionamiento de estas herramientas, así como garantías escritas de que la información de sus hijos no será utilizada fuera del ámbito estrictamente educativo ni compartida sin consentimiento expreso.
Sin esta exigencia activa por parte de las familias, las escuelas seguirán operando bajo esquemas de vigilancia masiva, cruzando la frontera del espionaje doméstico sin rendición de cuentas.
Un daño que va más allá de la escuela
El arresto ilegal de la niña en Texas debe hacernos reflexionar sobre el costo humano de permitir tecnologías de hipervigilancia sin protocolos adecuados que protejan la privacidad de las familias.
Además del daño emocional irreparable que provocan en los niños, estos casos son alarmantes porque sientan un precedente donde se están utilizando datos escolares para alimentar sistemas que intentan predecir si un estudiante podría cometer un delito en el futuro.
Esto contradice los principios básicos del sistema de justicia, donde las sanciones deben aplicarse por hechos cometidos, no por suposiciones, especialmente cuando no existe ningún delito real.
Padres y defensores de derechos civiles advierten que, si no se revisan estos protocolos y no se garantiza el consentimiento informado, las escuelas corren el riesgo de convertirse en extensiones de un sistema de hipervigilancia masiva que erosiona libertades fundamentales.