La Unión Europea aprobó en agosto de 2024 el AI Act, el primer marco legal integral sobre inteligencia artificial en el mundo. Entre sus definiciones más importantes para el mundo educativo: la IA usada en instituciones que puede determinar el acceso a la educación o el curso de la vida profesional de una persona es considerada "alto riesgo" y está sujeta a obligaciones estrictas de supervisión humana, trazabilidad y transparencia. Y hay algo más: el AI Act prohíbe de forma explícita el reconocimiento de emociones en escuelas. Desde febrero de 2025, en la Unión Europea, cualquier herramienta de IA que detecte el estado emocional de estudiantes es ilegal. Argentina no está obligada a cumplir el AI Act, pero el estándar europeo ya se está convirtiendo en la referencia global para lo que significa IA responsable en educación. Y Auroria fue diseñada siguiendo exactamente esos principios.
El 1 de agosto de 2024, la Unión Europea publicó en el Diario Oficial el Reglamento (UE) 2024/1689, conocido como AI Act. Es la primera ley comprehensiva sobre inteligencia artificial en el mundo. No es una recomendación ni un código de práctica voluntario: es legislación vinculante, con sanciones y mecanismos de enforcement.
Su objetivo central es construir confianza en la IA mediante reglas proporcionales al riesgo que cada aplicación representa. Y cuando se trata de educación, el nivel de riesgo que el legislador europeo asignó es alto.
Qué es el AI Act y por qué importa fuera de Europa
El primer marco legal integral de IA en el mundo
El AI Act es el reglamento europeo que establece reglas armonizadas para el desarrollo y despliegue de sistemas de inteligencia artificial, clasificando cada aplicación según el riesgo que representa para los derechos y la seguridad de las personas.
No es el primer texto sobre IA que publica la Comisión Europea, pero sí el primero con fuerza de ley. Entró en vigor el 1 de agosto de 2024 y alcanza aplicación plena el 2 de agosto de 2026, con algunas normas que ya están vigentes desde antes.
Por qué el estándar europeo define el estándar global
La historia de la regulación tecnológica muestra un patrón conocido como el "efecto Bruselas": cuando la Unión Europea establece un estándar, las empresas globales tienden a adoptarlo como referencia porque es más eficiente operar bajo una sola vara que mantener versiones distintas para cada mercado.
Pasó con el GDPR y la privacidad de datos. Está pasando con el AI Act y la IA. Las grandes empresas tecnológicas que operan en Europa y América Latina están alineando sus productos a esta regulación. Los organismos de supervisión de varios países de la región están tomando el AI Act como documento de referencia para sus propias discusiones regulatorias.
Para las escuelas argentinas, eso tiene una implicancia concreta: elegir herramientas de IA que ya cumplen los principios del AI Act es elegir herramientas que van a sobrevivir cualquier regulación que venga, en cualquier mercado.
Qué dice el AI Act sobre IA en educación
La IA educativa es "alto riesgo" por definición
El AI Act organiza todos los sistemas de IA en cuatro categorías según el riesgo que representan. La más baja, riesgo mínimo o nulo, no tiene prácticamente ninguna obligación (incluye filtros de spam o videojuegos). La más alta, riesgo inaceptable, está directamente prohibida.
En el medio están los sistemas de riesgo limitado (que requieren transparencia) y los de alto riesgo, que están sujetos a las obligaciones más exigentes del reglamento.
La IA usada en educación queda en la categoría de alto riesgo cuando puede determinar el acceso a la educación o influir en el curso de la vida profesional de una persona, por ejemplo al evaluar exámenes o gestionar admisiones. Esto no es un detalle menor: significa que cualquier plataforma de IA que opere en ese territorio tiene que cumplir con un conjunto estricto de requisitos antes de poder desplegarse en una institución.
Lo que está explícitamente prohibido en las aulas
La lista de prácticas prohibidas por el AI Act es la más relevante para entender qué herramientas no deberían estar en ninguna escuela. Estas prohibiciones entraron en vigor en febrero de 2025.
Una de las ocho prácticas prohibidas es el reconocimiento de emociones en lugares de trabajo y en instituciones educativas. Esto significa que en la Unión Europea, cualquier herramienta de IA que analice el estado emocional de los estudiantes durante una clase o examen, ya sea a través de expresiones faciales, tono de voz u otras señales, es ilegal a partir de esa fecha.
El razonamiento del legislador es claro: el análisis emocional en contextos de poder asimétrico, como una escuela donde un alumno es evaluado, crea condiciones para la manipulación, el error sistemático y la vulneración de derechos fundamentales.
El AI Act también prohíbe los sistemas de puntuación social, la manipulación y el engaño basados en IA, y la explotación de vulnerabilidades de personas específicas. Todas prácticas que, en el contexto escolar, podrían concretarse sin que docentes ni directivos lo sepan, si la herramienta que usa la institución no fue diseñada con esas restricciones.
Las obligaciones para sistemas de IA de alto riesgo en educación
Supervisión humana, trazabilidad y transparencia
Los sistemas de IA de alto riesgo, entre los que se incluye la IA educativa con impacto en el acceso o la trayectoria de los estudiantes, deben cumplir con un conjunto de obligaciones antes de poder desplegarse. Las más relevantes para el ámbito escolar son:
La primera es la supervisión humana integrada. El sistema tiene que estar diseñado para que personas competentes puedan supervisar su funcionamiento, entender sus outputs e intervenir cuando sea necesario. No alcanza con que un docente esté presente en el aula: la supervisión tiene que ser operativamente posible dentro de la herramienta.
La segunda es la trazabilidad y el registro de actividad. El sistema debe mantener logs que permitan reconstruir qué hizo la IA, cuándo y con qué resultado. Eso es auditabilidad, no solo en teoría sino en la práctica cotidiana de una institución.
La tercera es la transparencia hacia el deployer, es decir, hacia la institución que usa el sistema. El proveedor tiene que entregar documentación clara sobre cómo funciona la herramienta, para qué fue diseñada y cuáles son sus limitaciones.
Calidad de datos y precisión
El AI Act exige también que los sistemas de alto riesgo sean entrenados con datos de alta calidad, de forma que los resultados no sean discriminatorios ni produzcan sesgos sistemáticos. Eso incluye considerar el contexto cultural y lingüístico de los usuarios.
Para una escuela argentina, esto tiene implicancias concretas: una IA entrenada exclusivamente con datos del norte global no tiene la misma calidad efectiva que una diseñada considerando el sistema educativo, el currículo y el contexto local.
Cómo se para Auroria frente al AI Act
La alineación no fue accidental
Auroria no fue construida pensando en el AI Act porque las escuelas argentinas no están obligadas a cumplirlo. Fue construida con esos principios porque son los que tiene sentido aplicar cuando se diseña IA para contextos educativos. El AI Act llegó a las mismas conclusiones que nosotros por un camino distinto: el análisis riguroso de qué es lo que puede salir mal cuando la IA opera en entornos de alta responsabilidad y asimetría de poder.
Tabla comparativa: requisitos del AI Act vs. Auroria
| Requisito del AI Act (sistemas de alto riesgo) | Auroria |
|---|---|
| Supervisión humana integrada en el sistema | Sí. El docente tiene visibilidad en tiempo real del uso por parte de cada estudiante. |
| Registro de actividad y trazabilidad | Sí. Los reportes de uso quedan disponibles para docentes y directivos. |
| Transparencia hacia la institución | Sí. Las escuelas ven qué hace la plataforma y para qué. No hay cajas negras. |
| Límites de uso para el propósito declarado | Sí. La plataforma está diseñada para objetivos pedagógicos específicos. |
| Prohibición de reconocimiento emocional | Auroria no tiene ni tendrá funciones de análisis de emociones. |
| Calidad de datos y contexto local | Sí. Desarrollada con foco en el sistema educativo y contexto lingüístico argentino. |
| Co-diseño con expertos del dominio | Sí. Desarrollada con docentes e instituciones educativas argentinas. |
Qué herramientas no cumplen los principios del AI Act
IA de propósito general en contextos educativos
Las herramientas de IA generativa de propósito general, diseñadas para usuarios adultos con objetivos de productividad o creatividad, no están construidas para cumplir los requisitos de alto riesgo que el AI Act establece para la IA educativa.
No porque sean malas herramientas. Sino porque no fueron diseñadas con supervisión docente integrada, no producen trazabilidad para la institución, no tienen restricciones adaptadas al contexto educativo y no tienen salvaguardas ante situaciones de riesgo para estudiantes.
En Europa, desplegar una herramienta de IA generativa de propósito general en un contexto educativo de alto riesgo sin cumplir las obligaciones del AI Act es una violación regulatoria. En Argentina, no hay hoy una ley equivalente. Pero la pregunta que vale hacerse es la misma: ¿por qué esa herramienta es aceptable para los estudiantes si no cumple los estándares que los reguladores más exigentes del mundo consideran mínimos?
Las preguntas que una escuela debería hacer antes de adoptar cualquier herramienta de IA
Antes de contratar o autorizar cualquier plataforma de IA para uso educativo, vale hacer estas preguntas al proveedor:
- ¿Los docentes tienen visibilidad sobre el uso que cada estudiante hace de la herramienta?
- ¿La institución recibe registros de actividad?
- ¿La herramienta tiene funciones de reconocimiento emocional o biométrico?
- ¿Fue diseñada para el contexto educativo o es una herramienta de propósito general adaptada?
- ¿Qué pasa cuando un estudiante usa la herramienta para hablar de algo que no tiene que ver con el aprendizaje?
Si el proveedor no puede responder esas preguntas con claridad, la respuesta implícita ya dice bastante.
¿Tiene que cumplir el AI Act una escuela argentina?
La respuesta honesta es no, no en términos legales. El AI Act es legislación de la Unión Europea y aplica a quienes operan en ese mercado.
Pero hay tres razones por las que el AI Act es relevante para las escuelas argentinas hoy.
La primera es que el mercado tecnológico global se alinea a la regulación más exigente. Las herramientas que hoy operan en Argentina van a adaptarse a esas reglas de todas formas, porque sus fabricantes operan en Europa y en otros mercados regulados.
La segunda es que las discusiones regulatorias en Argentina y en Latinoamérica están tomando el AI Act como marco de referencia. Las instituciones educativas que ya trabajan con herramientas alineadas a esos principios van a estar mejor posicionadas cuando llegue la regulación local, y llegará.
La tercera es la más simple: los principios del AI Act para IA educativa, supervisión humana, transparencia, trazabilidad, prohibición de reconocimiento emocional, no son una burocracia regulatoria. Son lo que tiene sentido exigirle a cualquier herramienta que va a operar sobre los datos, la atención y la trayectoria de estudiantes. Con o sin ley que lo obligue.
Conclusión
El AI Act europeo no es una noticia lejana para las escuelas argentinas. Es el documento más riguroso que existe sobre qué significa IA responsable en educación, y sus conclusiones aplican independientemente de la jurisdicción.
La IA educativa es alto riesgo porque tiene impacto real en la vida de los estudiantes. Eso no cambia si la herramienta se usa en Berlín o en Buenos Aires. Lo que cambia es si existe una ley que lo obliga a tenerlo en cuenta o si es una decisión que la institución toma por convicción.
Auroria fue diseñada desde el principio con supervisión docente integrada, trazabilidad, transparencia y límites claros sobre lo que hace y lo que no hace. No porque haya una regulación argentina que lo exija, sino porque es lo correcto cuando se diseña IA para el aula.
Si querés ver cómo funciona en la práctica, podés conocer más sobre Auroria o escribirnos para una demo.
Sobre Auroria
Auroria es una plataforma de inteligencia artificial pedagógica diseñada para escuelas. Desarrollamos tecnología educativa con supervisión docente integrada, adaptación curricular y salvaguardas de bienestar estudiantil, alineada con los principios del AI Act europeo. Si forman parte de una institución educativa y quieren conocer cómo implementar Auroria, pueden escribirnos a info@auroria.com.ar o agendar una demo.
Fuentes y referencias
- Comisión Europea (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo (AI Act). Texto oficial en EUR-Lex.
- Comisión Europea. AI Act · Shaping Europe's Digital Future. Página oficial.
- Comisión Europea (2025). Guidelines on prohibited AI practices under the AI Act.
Preguntas frecuentes sobre el AI Act y la IA en educación
¿Qué es el AI Act europeo?
El AI Act (Reglamento UE 2024/1689) es el primer marco legal comprehensivo sobre inteligencia artificial en el mundo, aprobado por la Unión Europea en agosto de 2024. Establece reglas proporcionales al riesgo que representa cada aplicación de IA, con obligaciones estrictas para los casos de alto riesgo y prohibiciones absolutas para los de riesgo inaceptable. Entró en vigor el 1 de agosto de 2024 y alcanza aplicación plena el 2 de agosto de 2026.
¿Por qué el AI Act clasifica la IA educativa como "alto riesgo"?
El AI Act clasifica como alto riesgo a los sistemas de IA usados en instituciones educativas que pueden determinar el acceso a la educación o el curso de la vida profesional de una persona, como los sistemas de evaluación de exámenes o gestión de admisiones. Esta clasificación implica que esas herramientas deben cumplir obligaciones estrictas de supervisión humana, trazabilidad y transparencia antes de poder desplegarse.
¿Qué prácticas de IA están prohibidas en escuelas según el AI Act?
El AI Act prohíbe, entre otras prácticas, el reconocimiento de emociones en instituciones educativas. Esta prohibición está vigente desde febrero de 2025. También están prohibidos los sistemas de manipulación y engaño basados en IA, la explotación de vulnerabilidades de personas, y los sistemas de puntuación social. Cualquier herramienta de IA que realice alguna de estas funciones no puede operar legalmente en escuelas de la Unión Europea.
¿Las escuelas argentinas tienen que cumplir el AI Act?
No en términos legales: el AI Act es legislación de la Unión Europea y aplica a quienes operan en ese mercado. Sin embargo, el estándar europeo está influyendo en las discusiones regulatorias de toda la región, y las herramientas tecnológicas que operan en Argentina tienden a adaptarse a las regulaciones de los mercados más exigentes donde también operan. Las instituciones que ya trabajan con herramientas alineadas a esos principios estarán mejor posicionadas cuando llegue la regulación local.
¿Cómo cumple Auroria los principios del AI Act?
Auroria fue diseñada con supervisión docente integrada, registros de actividad y trazabilidad para la institución, transparencia sobre su funcionamiento, y sin funciones de reconocimiento emocional ni biométrico. No tiene cajas negras: los docentes y directivos ven qué hace la plataforma y tienen control sobre cómo se usa. Estos principios coinciden con los requisitos que el AI Act establece para sistemas de IA de alto riesgo en educación.
¿Por qué una herramienta de IA de propósito general no es adecuada para contextos educativos según el AI Act?
Las herramientas de IA generativa de propósito general, como ChatGPT o Gemini, no fueron diseñadas para cumplir los requisitos que el AI Act exige a los sistemas de IA de alto riesgo en educación. No tienen supervisión docente integrada, no producen trazabilidad para la institución, no tienen restricciones adaptadas al contexto educativo y no tienen salvaguardas ante situaciones de riesgo para estudiantes. Usar estas herramientas en contextos educativos de alto impacto en Europa sin los controles adecuados es una violación regulatoria.
