Los casos de imágenes sexuales falsas creadas con inteligencia artificial por estudiantes argentinos abren una discusión que va mucho más allá del uso responsable de la tecnología. Si las propias empresas tienen dificultades para impedir determinados usos dañinos, ¿por qué esperamos que los chicos puedan gestionar solos esos riesgos? Qué responsabilidad tienen las escuelas, las familias y las plataformas, y cómo podemos empezar a actuar.
Durante los últimos años, buena parte de la conversación sobre inteligencia artificial y educación estuvo centrada en cómo proteger a los chicos de los riesgos de estas tecnologías. Nos preguntamos qué sucede cuando reciben respuestas inapropiadas, cuando interactúan con sistemas que no fueron diseñados para su edad o cuando una herramienta termina reemplazando parte del esfuerzo necesario para aprender. Son preocupaciones importantes, pero los casos recientes de violencia digital en escuelas argentinas nos obligan a incorporar otra dimensión: los chicos no solo pueden sufrir los riesgos de la inteligencia artificial. También pueden utilizarla para perjudicar a otras personas.
A comienzos de octubre de 2026, alumnas del Colegio Modelo Lomas, en Lomas de Zamora, denunciaron que estudiantes de la institución habrían utilizado fotografías de sus compañeras para crear imágenes sexuales falsas mediante inteligencia artificial. Según las denuncias, parte del material fue distribuido en plataformas digitales y habría sido comercializado. La investigación judicial avanzó con allanamientos, secuestro de dispositivos y medidas para evitar nuevos episodios de hostigamiento. El 9 de octubre, LA NACION informó que la Fiscalía había confirmado la existencia de cuatro adolescentes investigados.
En los días siguientes se conocieron denuncias de características similares en una escuela de Ituzaingó y en el Instituto Pío XII Leonardo Murialdo, de Villa Bosch. En este último caso, alumnas y familias relataron presuntas amenazas vinculadas con la publicación de imágenes manipuladas, además del impacto que la situación estaba teniendo sobre su vida escolar. Son investigaciones y denuncias que requieren prudencia: las responsabilidades individuales deben determinarse por los procedimientos correspondientes y no todas las situaciones tienen necesariamente las mismas características.
Sin embargo, los casos plantean una pregunta que ninguna institución educativa debería ignorar. ¿Qué ocurre cuando una tecnología que facilita la creación de contenido falso también permite utilizar la imagen de una compañera para humillarla, amenazarla o exponerla sexualmente?
Y hay otra pregunta, todavía más incómoda, que deberíamos hacernos los adultos: si conocemos estos riesgos, ¿por qué seguimos tratando el acceso a cualquier herramienta de inteligencia artificial como algo inevitable y depositamos en los chicos la responsabilidad de no utilizarla para hacer daño?
Fuentes: LA NACION, investigación en Lomas de Zamora, TN, denuncia en Ituzaingó y TN, denuncias en Villa Bosch.
Deepfakes sexuales: imágenes falsas que producen daños reales
Un deepfake es un contenido visual, sonoro o audiovisual generado o manipulado mediante inteligencia artificial para representar a una persona haciendo o diciendo algo que no ocurrió. Cuando hablamos de deepfakes sexuales, nos referimos a imágenes o videos que muestran falsamente a una persona desnuda o en una situación de carácter sexual. Estas representaciones pueden crearse a partir de fotografías comunes, sin que la persona afectada haya participado de la escena ni dado su consentimiento.
La distinción entre una imagen auténtica y una fabricada es importante para comprender cómo funciona la tecnología, pero no disminuye la gravedad de la agresión. Una adolescente puede sufrir exposición pública, humillación, amenazas, hostigamiento o vulneración de su intimidad a partir de un contenido completamente falso. Cuando eso ocurre entre compañeros, las consecuencias tampoco quedan necesariamente dentro de una pantalla: pueden extenderse a los recreos, los grupos de mensajería, las clases y los vínculos cotidianos.
La inteligencia artificial agrava este escenario por tres razones que se combinan entre sí. En primer lugar, facilita la manipulación de imágenes que antes requería conocimientos técnicos más especializados. En segundo lugar, los contenidos pueden distribuirse rápidamente entre grupos y plataformas, de manera que el daño no depende solamente de quien creó la imagen, sino también de quienes deciden compartirla. Finalmente, una vez que el material circula, recuperar el control puede resultar muy difícil, porque eliminar una publicación no garantiza que desaparezcan las copias que otras personas ya descargaron.
Por eso, reducir estos episodios a una «broma» o a una demostración de habilidad tecnológica es desconocer lo que está en juego. Que una imagen sea falsa no significa que la violencia también lo sea. Y que una fotografía haya estado disponible en una red social no habilita a nadie a utilizarla para vulnerar los derechos de la persona retratada.
En septiembre de 2026, UNICEF Argentina y el Ministerio de Justicia publicaron Cuando las pantallas hablan: guía para detectar y abordar la violencia en entornos digitales. El documento reúne orientaciones para familias, personas cuidadoras y equipos que trabajan con niños y adolescentes, y ofrece herramientas para reconocer situaciones de violencia, acompañar a quienes las atraviesan y solicitar ayuda.
Es una referencia especialmente útil para las escuelas porque recuerda algo que debería ser el punto de partida de cualquier intervención: la prioridad es proteger a la persona afectada, sin juzgarla, culpabilizarla ni exponerla nuevamente.
Si las empresas no logran impedir estos usos, ¿por qué esperamos que los chicos puedan hacerlo?
Acá aparece una contradicción que merece una discusión mucho más profunda. Llevamos años hablando de la necesidad de enseñarles a los chicos a utilizar la tecnología responsablemente, pero al mismo tiempo existen herramientas capaces de producir contenidos sexuales falsos de personas reales, con barreras de protección que no siempre resultan suficientes. Entonces, ¿es razonable esperar que adolescentes que todavía están desarrollando su criterio puedan gestionar solos riesgos que incluso las empresas tecnológicas tienen dificultades para contener?
No estamos hablando de una posibilidad puramente teórica. En julio de 2026, la organización europea AI Forensics publicó una investigación sobre herramientas alojadas en Hugging Face, una plataforma ampliamente utilizada para compartir modelos y aplicaciones de inteligencia artificial. El estudio examinó espacios de uso público que podían emplearse para generar imágenes íntimas no consentidas y encontró deficiencias importantes en sus mecanismos de protección.
Entre los espacios auditados, solo el 3% mostró alguna evidencia de moderación de los resultados generados. Los investigadores también identificaron solicitudes destinadas a sexualizar imágenes de personas reales, incluidas solicitudes que involucraban a menores. El informe señaló que, aunque las políticas de Hugging Face prohíben las imágenes íntimas no consentidas, esa prohibición no se traducía en controles efectivos en buena parte de las herramientas examinadas.
Leer la investigación original de AI Forensics: Unmoderated by Design: How Hugging Face Enables NCII.
Es importante interpretar estos resultados con precisión. La investigación no demuestra que todas las herramientas alojadas en Hugging Face tengan el mismo problema, ni que esa plataforma haya sido utilizada en los casos denunciados en Argentina. Lo que sí documenta es una brecha preocupante entre las políticas de uso declaradas y las protecciones observadas en los sistemas analizados.
Una empresa puede prohibir determinados contenidos en sus condiciones de uso y, aun así, ofrecer herramientas en las que esos contenidos siguen siendo técnicamente posibles. Por eso, la existencia de una política de seguridad no alcanza para concluir que una aplicación es apropiada para menores.
La responsabilidad de las empresas no debería limitarse a publicar reglas que les indican a los usuarios qué está permitido. También debería incluir la evaluación de riesgos previsibles, la incorporación de barreras técnicas adecuadas, la revisión de sus fallas y mecanismos efectivos para responder cuando se detectan usos dañinos. Y cuando hablamos de herramientas a las que pueden acceder chicos y adolescentes, esa exigencia debería ser todavía mayor.
Por supuesto que necesitamos educar sobre consentimiento, intimidad y convivencia digital. Pero hay algo profundamente contradictorio en ofrecer acceso a capacidades que pueden producir daños graves y después confiar en que serán los propios chicos quienes decidan no utilizarlas de esa manera.
La pregunta no es solamente cómo enseñarles a usar mejor la inteligencia artificial. También es por qué determinadas capacidades están a su alcance, qué límites deberían existir y quién tiene la responsabilidad de establecerlos.
Esto no significa que debamos rechazar toda forma de IA en educación. Significa que no podemos tratar como equivalentes una herramienta de propósito general, una aplicación que permite manipular imágenes de personas reales y una plataforma diseñada específicamente para acompañar actividades escolares. Sus capacidades, sus riesgos y sus condiciones de uso pueden ser muy diferentes, y esas diferencias deberían importar cuando una institución decide qué tecnología incorporar.
No es solamente un problema tecnológico: existen derechos y responsabilidades legales
La creación y difusión de imágenes sexuales falsas no debería analizarse únicamente desde la innovación tecnológica. También involucra derechos fundamentales, como la intimidad, la dignidad, la identidad, la reputación y la integridad sexual. Cuando las personas afectadas son menores de edad, la obligación de protección adquiere una relevancia particular.
En Argentina, la Ley 27.736, conocida como Ley Olimpia, incorporó la violencia digital o telemática como modalidad de violencia contra las mujeres dentro de la Ley 26.485. La norma contempla expresamente conductas relacionadas con la obtención, reproducción y difusión sin consentimiento de material digital íntimo o de desnudez, tanto real como editado. También establece medidas de protección que pueden incluir órdenes para detener el hostigamiento, restringir contactos y solicitar judicialmente la remoción de contenidos.
La ley, además, incorpora la promoción de alfabetización digital y la identificación de violencias digitales dentro de la Educación Sexual Integral y otros contenidos educativos. Es un punto especialmente relevante: la prevención de estas conductas también forma parte de la responsabilidad de educar.
Conviene aclarar que la Ley Olimpia no creó automáticamente un delito penal autónomo para cada conducta que reconoce. Su función fue ampliar el marco legal de protección frente a la violencia de género. La eventual existencia de delitos y las consecuencias jurídicas concretas deben determinarse según los hechos investigados, las normas penales aplicables y, cuando hay adolescentes involucrados, el régimen de responsabilidad correspondiente.
Consultar el texto oficial de la Ley 27.736.
La escuela no tiene que reemplazar a la Justicia ni anticipar conclusiones sobre los estudiantes investigados. Pero tampoco puede desentenderse de lo que ocurre en su comunidad mientras espera una resolución judicial. La protección de las personas afectadas, el acompañamiento y la prevención de nuevas agresiones requieren decisiones institucionales que no siempre pueden esperar.
¿Qué debería hacer una escuela ante un caso de violencia sexual digital?
Los casos recientes muestran que una escuela necesita mucho más que una charla aislada sobre uso responsable de internet. Necesita criterios conocidos por toda la comunidad, adultos preparados para escuchar, canales de denuncia accesibles y procedimientos que permitan actuar sin multiplicar el daño.
A partir de las orientaciones de UNICEF y del marco argentino de protección de derechos, ese trabajo puede organizarse en cuatro momentos: prevención, detección, intervención y seguimiento. No reemplazan los protocolos ni las obligaciones legales de cada jurisdicción, pero ofrecen una estructura útil para revisar qué tan preparada está una institución.
Prevención: enseñar consentimiento, pero también decidir qué herramientas ofrecemos
La educación digital tiene que incluir conversaciones sobre consentimiento, intimidad, respeto, violencia entre pares y consecuencias de manipular o difundir imágenes. No alcanza con enseñar a escribir instrucciones para una IA, identificar noticias falsas o utilizar nuevas aplicaciones. Los chicos también necesitan comprender que crear una imagen sexual falsa de otra persona vulnera derechos, y que compartirla, utilizarla para humillar o amenazar con publicarla puede ampliar esa agresión.
Estas conversaciones pueden integrarse al trabajo de ciudadanía digital, convivencia escolar y Educación Sexual Integral, con propuestas adecuadas a cada edad. También es importante involucrar a las familias y abordar el papel de quienes observan o reciben contenido, porque muchas situaciones de violencia se sostienen mediante la circulación entre compañeros.
Pero la prevención no termina en la formación de los estudiantes. También implica que los adultos evalúen qué herramientas están habilitando y qué capacidades ponen a disposición dentro de la escuela. Una política institucional de IA debería contemplar para qué se utiliza cada plataforma, si es apropiada para la edad de los alumnos, qué funciones ofrece, qué riesgos presenta y qué acompañamiento tendrán los docentes. Incorporar tecnología sin hacerse estas preguntas no debería confundirse con innovar.
Detección: construir confianza antes de que aparezca una denuncia
Muchas situaciones de violencia digital no llegan inmediatamente a conocimiento de los adultos. Las personas afectadas pueden sentir vergüenza, miedo a nuevas agresiones o desconfianza sobre la respuesta que recibirán. Si creen que van a ser juzgadas, expuestas o responsabilizadas por tener una fotografía en redes sociales, es posible que prefieran guardar silencio.
Por eso, detectar no consiste solamente en reconocer señales de malestar. También significa construir una comunidad donde los estudiantes sepan a quién acudir y confíen en que serán escuchados. Los docentes y equipos de orientación necesitan conocer los canales de comunicación, recibir capacitación y estar preparados para acompañar sin transformar el relato en una nueva experiencia de exposición.
UNICEF recomienda escuchar sin juzgar y evitar la revictimización. En una escuela, eso supone no minimizar lo ocurrido como un conflicto entre compañeros, no cuestionar las decisiones de la persona afectada y no exigirle que repita innecesariamente su relato frente a distintos adultos.
Intervención: proteger primero y no hacer circular el material
Cuando una institución recibe una denuncia por imágenes sexuales falsas, la prioridad debe ser proteger a las personas afectadas, resguardar su confidencialidad y evitar que el hostigamiento continúe. Eso requiere activar los protocolos institucionales, dar intervención a los equipos correspondientes y contactar a los organismos de protección o autoridades competentes cuando la situación lo requiera.
Hay una precaución fundamental: la escuela no debe pedir que le reenvíen imágenes sexuales de menores, descargarlas para mostrarlas a otros docentes ni reproducirlas como parte de una investigación interna. La necesidad de preservar información útil para una denuncia no justifica ampliar la circulación del contenido. Datos como enlaces, fechas, perfiles o mensajes pueden resultar relevantes, pero el tratamiento de material sensible debe realizarse con orientación de profesionales y autoridades competentes.
También es importante evitar respuestas que expongan públicamente a las alumnas o que las obliguen a compartir espacios en condiciones que incrementen su temor o vulnerabilidad, sin dejar de respetar los derechos de todos los estudiantes involucrados. La institución puede y debe adoptar medidas de protección, aunque todavía no se haya determinado judicialmente quién produjo el material o qué aplicación utilizó.
Seguimiento: comprender que el daño no termina con la denuncia
Una denuncia o una medida institucional no elimina automáticamente las consecuencias emocionales y sociales de la violencia digital. Las alumnas afectadas pueden continuar sintiendo temor, enfrentar comentarios o rumores y experimentar dificultades para participar de la vida escolar con tranquilidad.
Por eso, el seguimiento debe incluir acompañamiento emocional y pedagógico, atención a la convivencia y medidas para prevenir nuevas situaciones de hostigamiento. También debería abrir una revisión institucional: cómo funcionaron los canales de denuncia, si los adultos estaban preparados para intervenir y qué cambios hacen falta para responder mejor en el futuro.
La protección no puede depender exclusivamente de la sensibilidad de un docente o de la insistencia de una familia. Tiene que ser una responsabilidad institucional sostenida.
¿Dónde pedir ayuda ante una situación de violencia digital en Argentina?
Cuando una situación involucra imágenes sexuales falsas, amenazas o difusión no consentida de contenido íntimo, es importante buscar orientación y utilizar los canales oficiales. En Argentina, la Línea 102 ofrece escucha, orientación y acompañamiento ante posibles vulneraciones de derechos de niñas, niños y adolescentes, con equipos especializados según la jurisdicción. La Línea 137 brinda asistencia frente a situaciones de violencia familiar o sexual, y las fiscalías correspondientes pueden recibir denuncias por hechos que podrían constituir delitos.
La guía de UNICEF Cuando las pantallas hablan reúne recursos para identificar situaciones de violencia digital y orientar los pasos de intervención. También puede consultarse la información oficial sobre la Línea 102.
Es importante distinguir entre reportar una publicación dentro de una plataforma y realizar una denuncia ante las autoridades. Ambas acciones pueden ser necesarias, pero cumplen funciones distintas. Cuando hay imágenes sexuales que involucran a menores, conviene solicitar orientación especializada antes de manipular o conservar archivos sensibles.
La responsabilidad no puede recaer solamente en los chicos
Frente a estos casos, una respuesta frecuente es pedir más educación digital. Es indispensable, pero insuficiente. No podemos exigirles a los adolescentes que administren por sí solos riesgos complejos mientras dejamos fuera de la discusión a los adultos, las instituciones y las empresas que desarrollan y distribuyen estas tecnologías.
Las familias necesitan acompañar y conversar sobre los usos de la IA, las escuelas deben establecer políticas, educar y contar con protocolos de actuación, y los estudiantes tienen que comprender que sus decisiones digitales pueden afectar profundamente a otras personas. Pero las empresas tecnológicas también tienen una responsabilidad que no puede reducirse a publicar términos y condiciones: deben evaluar los riesgos previsibles de sus productos y trabajar para reducirlos.
No se trata de afirmar que cualquier herramienta puede ser completamente segura ni de suponer que una escuela podrá controlar todas las aplicaciones que utilizan sus alumnos fuera del establecimiento. Se trata de reconocer que el acceso a una capacidad tecnológica no es una decisión neutral, especialmente cuando sus usuarios son menores de edad.
Una institución que decide incorporar inteligencia artificial a su propuesta educativa también está decidiendo qué experiencias habilita, qué límites establece y qué lugar tendrán los adultos en ese proceso. Esa responsabilidad no desaparece porque la tecnología sea novedosa, popular o fácil de utilizar.
¿Cómo aborda Auroria la incorporación de IA en las escuelas?
En Auroria partimos de una convicción: incorporar inteligencia artificial a una institución educativa no debería significar simplemente darles acceso a los chicos a cualquier chatbot. También implica definir para qué se utiliza, cómo se integra al trabajo pedagógico, qué papel tienen los docentes y qué criterios orientan su uso.
Por eso desarrollamos una plataforma pensada para el contexto escolar, con interacciones adaptadas a la edad y al nivel educativo, un enfoque socrático que busca acompañar el razonamiento mediante preguntas y orientaciones, y herramientas para que los docentes puedan seguir el trabajo de sus alumnos. Son decisiones de diseño orientadas a que la IA forme parte de una experiencia educativa acompañada, en lugar de incorporarse como una tecnología aislada del proyecto institucional.
Es importante ser claros sobre el alcance de esa propuesta. Auroria no puede impedir que un estudiante utilice aplicaciones externas para generar imágenes dañinas, ni sus herramientas de seguimiento deben presentarse como sistemas capaces de detectar o prevenir deepfakes sexuales. Ese no es el problema que estamos afirmando resolver.
Lo que sí proponemos es una manera de incorporar inteligencia artificial a la escuela con criterios pedagógicos, participación docente y decisiones institucionales explícitas. En un contexto en el que muchas herramientas llegan directamente a manos de los chicos sin que sus adultos referentes conozcan sus capacidades o limitaciones, creemos que esa diferencia importa.
Si querés profundizar en qué aspectos debería evaluar una institución antes de elegir una herramienta, también podés leer nuestro artículo sobre criterios para seleccionar IA segura para niños y adolescentes.
No podemos controlar toda la IA que utilizan los chicos. Pero sí podemos decidir cuál incorporamos a la escuela.
Los casos de violencia sexual digital que se conocieron en las últimas semanas nos obligan a ampliar la conversación sobre inteligencia artificial y educación. Ya no alcanza con discutir cuánto puede ayudar a aprender, qué tareas facilita o cómo enseñarles a los alumnos a utilizarla responsablemente. También tenemos que preguntarnos qué daños puede permitir, qué barreras existen para reducirlos y quién asume la responsabilidad cuando esas barreras fallan.
La respuesta no puede ser solamente prohibir, ni tampoco confiar en que una charla sobre ciudadanía digital será suficiente. Necesitamos educación, acompañamiento, políticas institucionales, mecanismos de protección y una discusión más exigente sobre las responsabilidades de las empresas tecnológicas.
Pero hay algo que las escuelas sí pueden hacer hoy: dejar de considerar inevitable la incorporación de cualquier herramienta de IA y empezar a evaluar cuáles son apropiadas para sus alumnos, qué usos promueven y cómo se integran a su proyecto educativo.
En Auroria trabajamos para acompañar esa decisión con una plataforma diseñada para el contexto escolar y con criterios pedagógicos desde su origen. Si estás evaluando cómo incorporar inteligencia artificial a tu institución y querés conocer cómo funciona nuestra propuesta, podemos mostrártela.
Agendá una demostración gratuita de Auroria.
Preguntas frecuentes sobre deepfakes sexuales, inteligencia artificial y escuelas
¿Qué son los deepfakes sexuales creados con inteligencia artificial?
Son imágenes o videos generados o manipulados mediante IA que representan falsamente a una persona desnuda o en una situación sexual. Pueden elaborarse a partir de fotografías comunes y sin el consentimiento de la persona representada. Aunque el contenido sea falso, su creación y difusión puede vulnerar derechos y producir consecuencias reales sobre la intimidad, la dignidad y el bienestar de las personas afectadas.
¿Por qué los deepfakes sexuales son una forma de violencia digital?
Porque pueden utilizarse para humillar, exponer, amenazar, acosar o perjudicar a una persona sin su consentimiento. La violencia no depende de que la imagen represente un hecho auténtico: también puede surgir de atribuir falsamente una escena sexual a alguien, difundirla y utilizarla para afectar su vida personal o social.
¿Por qué es especialmente preocupante que los estudiantes puedan acceder a estas herramientas?
Porque algunas tecnologías permiten producir contenido dañino con conocimientos técnicos limitados, mientras que los menores todavía están desarrollando su capacidad para evaluar consecuencias y riesgos. Esto no significa que todos los estudiantes vayan a utilizarlas de manera perjudicial, sino que la prevención no debería depender exclusivamente de su criterio individual. Las empresas, las familias y las instituciones también deben asumir responsabilidades.
¿Qué mostró la investigación de AI Forensics sobre Hugging Face?
En julio de 2026, AI Forensics publicó una investigación sobre herramientas alojadas en Hugging Face que podían utilizarse para generar imágenes íntimas no consentidas. Entre los espacios auditados, solo el 3% mostró evidencia de moderación de resultados. El informe documentó deficiencias en las protecciones de las herramientas examinadas, pero no permite concluir que todas las aplicaciones de IA presenten los mismos problemas ni identifica qué plataformas se utilizaron en los casos argentinos.
¿Es ilegal crear o difundir imágenes sexuales falsas de compañeros en Argentina?
Puede generar consecuencias legales, pero la calificación depende de los hechos concretos y de las normas aplicables. La Ley Olimpia reconoce la violencia digital contra las mujeres e incluye conductas relacionadas con material íntimo real o editado. Cuando hay menores involucrados, también deben considerarse las normas de protección de derechos y el régimen de responsabilidad penal correspondiente.
¿Qué establece la Ley Olimpia sobre la violencia digital?
La Ley 27.736 incorporó la violencia digital o telemática como modalidad de violencia contra las mujeres dentro de la Ley 26.485. Reconoce conductas que pueden afectar la intimidad, la dignidad y otros derechos mediante tecnologías digitales, e incorpora medidas de protección frente al hostigamiento y la difusión no consentida de material íntimo. No convierte automáticamente todas las conductas que contempla en delitos penales autónomos.
¿Qué debe hacer una escuela si una alumna denuncia que crearon imágenes sexuales falsas de ella?
Debe escucharla sin juzgar, priorizar su protección, resguardar la confidencialidad, prevenir nuevas agresiones y activar los protocolos institucionales y las intervenciones de autoridades competentes que correspondan. No debe pedir que se reenvíen ni reproducir imágenes sexuales de menores para investigar por su cuenta. Es importante buscar orientación especializada para el manejo de información sensible.
¿La escuela debe intervenir si las imágenes se crearon fuera del establecimiento?
Puede corresponder una intervención institucional cuando los hechos afectan la convivencia, la seguridad o el bienestar de sus estudiantes, aunque hayan ocurrido en plataformas externas o fuera del horario escolar. Las medidas concretas deben ajustarse a las responsabilidades de la escuela, los protocolos aplicables y la normativa de su jurisdicción.
¿Cómo pueden las escuelas prevenir la violencia sexual digital con IA?
La prevención requiere trabajar sobre consentimiento, intimidad, convivencia y consecuencias de manipular o difundir imágenes, además de establecer canales seguros de denuncia y procedimientos claros de actuación. También es importante evaluar qué herramientas de IA se incorporan a la institución, para qué edades están diseñadas y qué medidas de protección ofrecen. La formación de los estudiantes y la selección responsable de tecnología son tareas complementarias.
¿Dónde se puede denunciar la difusión de imágenes sexuales falsas de menores?
En Argentina, la Línea 102 ofrece orientación ante vulneraciones de derechos de niñas, niños y adolescentes, mientras que la Línea 137 brinda asistencia ante situaciones de violencia familiar o sexual. Cuando los hechos pueden constituir delitos, corresponde acudir a las fiscalías u organismos competentes según la jurisdicción. Es recomendable solicitar asesoramiento antes de manipular o compartir material sensible.
¿Una plataforma de IA educativa puede impedir que los chicos creen deepfakes sexuales?
No puede garantizarlo, especialmente cuando los estudiantes utilizan aplicaciones externas. Una plataforma educativa puede incorporar límites y criterios de uso dentro de su propio entorno, pero la prevención de la violencia digital también requiere educación, acompañamiento adulto, políticas institucionales y responsabilidad de las empresas tecnológicas.
¿Qué debería evaluar una escuela antes de incorporar una herramienta de inteligencia artificial?
Debería considerar para qué edades fue diseñada, qué funciones permite, qué riesgos presenta, qué protecciones incorpora y cómo se integra a su proyecto pedagógico. También importa conocer qué información reciben los docentes para acompañar su uso y cuáles son los límites de la plataforma. No todas las herramientas de IA están pensadas para el mismo contexto ni ofrecen las mismas condiciones de acompañamiento.
Fuentes y recursos para profundizar
Investigación sobre plataformas de IA
Protección de derechos y marco normativo
- UNICEF Argentina y Ministerio de Justicia. Cuando las pantallas hablan: guía para detectar y abordar la violencia en entornos digitales (septiembre de 2026).
- UNICEF Argentina. Convivencia digital en la adolescencia (octubre de 2025).
- Congreso de la Nación Argentina. Ley 27.736, Ley Olimpia. Texto oficial.
- Argentina.gob.ar. Línea 102: orientación y protección de derechos de niños y adolescentes.
Cobertura de los casos en Argentina
