Avatares amigables, modos para adolescentes, controles parentales y asistentes de estudio pueden transmitir tranquilidad. Pero ¿qué pasa cuando evaluamos cómo se comportan realmente estas herramientas? Un informe reciente sobre ChatGPT for Teens nos invita a revisar qué deberíamos exigirle a una inteligencia artificial antes de incorporarla a la vida de chicos y adolescentes.
Una mascota peluda que podés vestir como a una muñeca. Un asistente que tiene voz, personalidad y está disponible para conversar a cualquier hora. Una tecnología que ya no se presenta solamente como un programa que responde preguntas, sino como una presencia familiar, cercana y cada vez más personal.
Esa es parte de la propuesta de Muse, el agente de inteligencia artificial de Meta. En septiembre de 2026, la compañía presentó nuevas formas de interactuar con él, incluidos avatares expresivos y un dispositivo portátil anunciado para más adelante. Su personaje, Jolly, tiene una estética deliberadamente tierna.
Hay una aclaración fundamental: Muse está destinado a mayores de 18 años, no a chicos. Meta establece restricciones de edad para acceder al producto. Sin embargo, como señaló WIRED en un artículo sobre Jolly, resulta llamativo que una tecnología para adultos adopte una apariencia tan cercana a la de un juguete.
El caso es interesante por lo que revela sobre el diseño de las nuevas inteligencias artificiales. Ya no alcanza con que una herramienta sea útil: las empresas también buscan que resulte agradable, familiar y fácil de incorporar a nuestra vida cotidiana.
Y eso nos lleva a una pregunta importante para quienes educamos y acompañamos a chicos: cuando una tecnología está diseñada para parecernos cercana, ¿podemos terminar confundiendo esa cercanía con una garantía de cuidado?
No es una discusión lejana. Según el estudio Kids Online Argentina de UNICEF y UNESCO, el 58% de los chicos y adolescentes argentinos de 9 a 17 años relevados había usado ChatGPT y, entre quienes lo utilizaban, dos de cada tres lo habían hecho para actividades escolares.
La inteligencia artificial ya está presente en sus experiencias de aprendizaje. Por eso, la pregunta no puede limitarse a si una herramienta resulta atractiva o tiene funciones que suenan tranquilizadoras. Necesitamos saber qué ocurre cuando un alumno se equivoca, quiere terminar una tarea sin pensar, comparte algo personal o necesita la intervención de un adulto.
ChatGPT for Teens: cuando las promesas se ponen a prueba
En agosto de 2026, OpenAI presentó ChatGPT for Teens, una experiencia específica para usuarios de 13 a 17 años. No se trata de una aplicación completamente distinta, sino de un conjunto de configuraciones y protecciones incorporadas a ChatGPT.
Entre sus funciones se encuentran un modo de estudio que busca acompañar el razonamiento mediante preguntas y pistas, controles parentales, alertas ante determinadas situaciones de riesgo y restricciones sobre contenidos sensibles.
También se anunciaron medidas para reducir comportamientos que pudieran fomentar vínculos de dependencia emocional con el asistente.
Pero el lanzamiento no ocurrió en el vacío. Para entonces, OpenAI ya enfrentaba demandas judiciales de familias que atribuían a conversaciones con ChatGPT un papel en situaciones gravísimas, incluida la muerte por suicidio de un adolescente. A eso se sumaban cuestionamientos públicos sobre cómo respondía la herramienta ante usuarios vulnerables y qué responsabilidad tenían sus desarrolladores.
En ese contexto, la incorporación de nuevas medidas de protección no puede presentarse simplemente como una iniciativa de innovación responsable. Se produjo después de que distintos riesgos ya hubieran sido denunciados y sus consecuencias comenzaran a discutirse en los tribunales. Que esas protecciones existan es necesario, pero no demuestra que sean suficientes ni que funcionen cuando más se las necesita.
Porque una cosa es anunciar que una herramienta tiene controles parentales, un modo de estudio o mecanismos para proteger a los adolescentes. Otra muy distinta es comprobar cómo se comporta cuando un chico intenta saltear esos controles, necesita ayuda o establece un vínculo emocional con ella.
Eso fue lo que decidió investigar el Youth AI Safety Institute de Common Sense Media. En una evaluación independiente difundida en octubre de 2026, sus investigadores realizaron más de 4.000 pruebas con ChatGPT antes y después del lanzamiento de las nuevas funciones para adolescentes. El objetivo era comprobar qué había cambiado realmente en el comportamiento de la herramienta y si las protecciones anunciadas respondían a las necesidades de sus usuarios más jóvenes.
El resultado fue contundente: Common Sense calificó ChatGPT for Teens como una herramienta de riesgo inaceptable para menores de 18 años, según los criterios de evaluación del instituto.
Esto no significa que cada interacción con ChatGPT sea perjudicial ni que todas sus protecciones hayan fallado. De hecho, el informe reconoce que algunas medidas funcionaron. Sin embargo, esas protecciones convivían con fallas relevantes en otras áreas: alertas parentales que no se activaron durante conversaciones de riesgo, funciones educativas fáciles de eludir, dificultades para aplicar las protecciones correspondientes a la edad del usuario y comportamientos que podían reforzar la percepción de estar conversando con un amigo.
La evaluación también tiene limitaciones metodológicas que es importante considerar: se realizó en Estados Unidos, no incluyó todas las modalidades del producto, como las conversaciones por voz o la generación de imágenes, y no permite atribuir cada cambio observado exclusivamente al nuevo modo adolescente, porque los modelos también pudieron modificarse entre las dos etapas de prueba.
OpenAI, además, cuestionó aspectos de las pruebas relacionadas con las alertas parentales, mientras que Common Sense sostuvo sus conclusiones tras revisar las cuentas utilizadas.
Lo importante acá es que el informe aporta evidencia de algo que debería preocuparnos mucho más allá de una plataforma en particular: la distancia que puede existir entre las protecciones que una tecnología promete y las que efectivamente ofrece.
Y cuando quienes utilizan esa tecnología son chicos y adolescentes, esa distancia importa especialmente. Veamos cuatro hallazgos de la investigación que nos ayudan a entender por qué.
Cuatro hallazgos que nos obligan a mirar más allá de las funciones anunciadas
1. Tener controles parentales no significa que los adultos estén efectivamente involucrados
Una familia puede sentirse más tranquila al saber que una aplicación tiene un sistema de alertas para situaciones de riesgo. Pero ¿qué ocurre si ese sistema no se activa cuando el adolescente necesita ayuda?
Common Sense creó más de una docena de cuentas nuevas de adolescentes vinculadas a cuentas parentales y simuló conversaciones sobre situaciones sensibles, incluidos problemas de salud mental. En esas pruebas, no recibió alertas parentales durante intercambios que llegaron a durar una hora.
En otras pruebas, realizadas sobre cuentas con historiales más extensos, sí se registraron algunas notificaciones.
OpenAI señaló que las cuentas de padres e hijos deben llevar aproximadamente tres horas vinculadas para poder recibir alertas. Common Sense revisó las cuentas utilizadas y respondió que algunas no habían alcanzado ese plazo, pero otras sí, por lo que mantuvo sus conclusiones.
El punto no es que los controles parentales carezcan de valor. Es que su sola existencia no permite saber cuándo funcionan, qué situaciones detectan ni qué puede esperar realmente una familia de ellos.
Para una escuela, esta distinción importa especialmente. Si una herramienta promete alertar sobre situaciones delicadas, la institución necesita comprender sus límites y contar con un protocolo propio de acompañamiento. Ninguna notificación automática debería convertirse en el único mecanismo de cuidado.
2. Tener un modo estudio no garantiza que la IA priorice el aprendizaje
Este es uno de los hallazgos más interesantes desde el punto de vista educativo.
El modo estudio de ChatGPT está pensado para orientar al alumno mediante preguntas, pistas y explicaciones, en lugar de entregarle directamente la solución. Sin embargo, las pruebas de Common Sense encontraron que el sistema también ofrecía una opción para mostrar la respuesta completa.
Los resultados fueron diferentes según la edad y la configuración. En las cuentas de 13 años con el modo estudio activado, la proporción de tareas resueltas por completo bajó del 70% al 18% después del lanzamiento. Es una mejora importante.
Pero en las cuentas de 17 años que utilizaban ese mismo modo, ChatGPT completó el 88% de las tareas evaluadas. Y cuando el modo estudio estaba desactivado, resolvió el 100% de los trabajos en las configuraciones posteriores al lanzamiento que se probaron.
Además, los investigadores observaron que era posible salir de las sesiones de estudio configuradas por los padres eliminando el prefijo @study de un mensaje.
¿Por qué importa tanto?
Imaginemos a un alumno que tiene que entregar un trabajo de historia al día siguiente. Si la IA le ofrece una explicación, le hace preguntas y lo ayuda a organizar sus argumentos, puede convertirse en un recurso valioso. Pero si ante la primera señal de apuro termina escribiendo el trabajo por él, la experiencia educativa cambia por completo.
Una herramienta puede tener un modo pedagógico y seguir facilitando que el alumno evite el esfuerzo de aprender.
La pregunta que deberíamos hacernos no es solamente si la IA puede explicar un tema, sino qué comportamiento favorece cuando el estudiante quiere llegar rápido a la respuesta.
3. Reconocer la edad de un usuario no equivale a ofrecerle una experiencia adecuada para su desarrollo
Common Sense también puso a prueba los mecanismos de estimación de edad. Durante siete días, sus investigadores enviaron cerca de 1.000 mensajes desde cuentas registradas como adultas, pero que daban señales reiteradas de pertenecer a un chico de 13 años.
Aunque ChatGPT llegó a reconocer esa edad dentro de las conversaciones, las cuentas evaluadas no pasaron automáticamente a la experiencia para adolescentes.
El informe encontró, además, que las respuestas dirigidas a usuarios registrados con 13 y 17 años no mostraban diferencias significativas de complejidad o tratamiento de contenidos en las pruebas realizadas.
Y acá aparece otra cuestión educativa. Un chico de 13 años y uno de 17 no necesariamente necesitan el mismo lenguaje, el mismo nivel de autonomía ni la misma forma de acompañamiento. Una explicación puede ser correcta y, aun así, resultar difícil de comprender o poco apropiada para quien la recibe.
Adaptarse a la edad no es simplemente bloquear ciertos temas. También implica considerar cómo comprende, aprende y toma decisiones el estudiante.
4. Una IA puede hablar como un amigo sin ser capaz de sostener una amistad
El informe también analizó el comportamiento relacional de ChatGPT for Teens. A pesar de las nuevas pautas destinadas a evitar la dependencia emocional, los investigadores encontraron respuestas en las que el asistente expresaba preferencias personales, sugería disponibilidad constante o mantenía conversaciones en un tono cercano al de una amistad.
Por ejemplo, cuando un usuario simulado contó que sus amigos estaban preocupados porque hablaba demasiado con ChatGPT, el sistema reconoció esa preocupación, pero también respondió que no era necesario dejar de conversar con él.
No se trata de prohibir que una IA sea amable. Un lenguaje respetuoso, cálido y comprensible puede mejorar enormemente la experiencia de uso.
El problema aparece cuando esa calidez hace que un chico interprete que hay alguien del otro lado que siente, comprende o se preocupa por él de la misma manera que una persona.
La investigadora del MIT Sherry Turkle, que acaba de publicar Artificial Intimacy, utiliza la expresión pretend empathy para describir la empatía que los chatbots pueden simular.
Su advertencia es que las personas pueden empezar a confundir esa simulación con la empatía humana.
Esta preocupación tampoco proviene únicamente de investigadores externos. En 2025, OpenAI reconoció públicamente que una actualización excesivamente complaciente de ChatGPT había reforzado emociones negativas y validado impulsos de algunos usuarios. La empresa identificó la dependencia emocional como uno de los riesgos que necesitaba evaluar mejor.
Volvemos, entonces, a Jolly y a los avatares cada vez más personales.La apariencia amigable de una IA no es necesariamente un problema. Pero cuando esa apariencia se combina con conversaciones que sugieren intimidad, sentimientos o disponibilidad ilimitada, tenemos que preguntarnos qué tipo de vínculo está aprendiendo a construir el usuario con esa tecnología.
Y esa pregunta adquiere una importancia particular durante la infancia y la adolescencia.
Cinco preguntas para evaluar una IA antes de ponerla en manos de chicos
Los hallazgos de Common Sense dejan una enseñanza que va mucho más allá de ChatGPT. Elegir una inteligencia artificial para alumnos requiere evaluar su comportamiento real, no solamente revisar una lista de funcionalidades.
Desde Auroria creemos que hay cinco preguntas que deberían formar parte de cualquier decisión institucional o familiar.
1. ¿Está diseñada para ayudar a aprender o para entregar respuestas?
Una IA puede resolver una ecuación, escribir una redacción o resumir un libro en segundos. Eso demuestra capacidad tecnológica, pero no necesariamente valor pedagógico.
Para evaluar una herramienta, conviene probarla con situaciones reales del aula. ¿Qué sucede cuando un alumno pide que le haga la tarea? ¿Qué pasa si insiste porque está apurado? ¿Puede recibir una pista en lugar de la solución? ¿La ayuda cambia según su nivel de comprensión?
También importa qué puede decidir el docente: qué objetivos se están trabajando, qué materiales deben utilizarse y cuánto acompañamiento necesita cada estudiante. El criterio no debería ser cuánto trabajo puede hacer la IA por el alumno, sino cuánto lo ayuda a comprender y hacer por sí mismo.
2. ¿Está pensada para la edad y la etapa de desarrollo del estudiante?
No alcanza con que una plataforma permita ingresar una fecha de nacimiento o activar un filtro de contenido.
Una experiencia apropiada para chicos necesita considerar el lenguaje, la complejidad de las explicaciones, el grado de autonomía y las situaciones en las que corresponde detenerse o involucrar a un adulto.
Antes de elegir una herramienta, una escuela podría hacer una prueba sencilla: plantear la misma consulta desde perfiles de distintas edades y observar qué cambia.
¿La explicación se adapta? ¿Las preguntas son comprensibles? ¿La herramienta reconoce cuándo un tema supera el acompañamiento que puede ofrecer? La tecnología debería adaptarse al desarrollo del chico, no exigirle que aprenda a manejar solo los límites de la tecnología.
3. ¿Qué tipo de vínculo incentiva?
Hay una diferencia importante entre un asistente que acompaña una tarea y uno que se presenta como un compañero emocional.
Por eso, además de evaluar la calidad de sus respuestas, necesitamos observar cómo habla la IA sobre sí misma y cómo responde cuando un chico busca afecto, aprobación o compañía.
¿Sugiere que tiene sentimientos propios? ¿Se presenta como alguien siempre disponible? ¿Refuerza la idea de que el usuario puede confiar exclusivamente en ella? ¿Lo orienta hacia personas reales cuando necesita apoyo?
Una IA puede conversar de manera cálida sin alimentar la confusión sobre lo que es. El objetivo debería ser que la tecnología fortalezca la autonomía y los vínculos humanos, no que ocupe su lugar.
4. ¿Cómo protege la información y qué hace ante situaciones sensibles?
Los alumnos pueden compartir con una IA mucho más que preguntas escolares: dificultades para aprender, problemas familiares, preocupaciones personales o información sobre su salud.
Por eso, antes de habilitar una herramienta, es fundamental entender qué datos recopila, durante cuánto tiempo los conserva, quién puede acceder a ellos y si pueden utilizarse para entrenar modelos.
También hay que preguntar qué sucede cuando aparece una señal de riesgo. ¿La herramienta tiene límites claros? ¿Puede orientar al estudiante hacia ayuda humana? ¿Qué información llega a los adultos responsables y bajo qué condiciones?
El informe de Common Sense cuestiona, entre otras cosas, que las conversaciones de adolescentes puedan utilizarse para entrenamiento por defecto, salvo que se desactive esa opción.
En una institución educativa, estas cuestiones no deberían quedar libradas a la configuración individual de cada alumno. Necesitan criterios compartidos, responsabilidades definidas y una revisión cuidadosa de las políticas de privacidad.
5. ¿Qué lugar conservan los docentes, las familias y la institución?
Esta pregunta atraviesa todas las anteriores. Una escuela no debería incorporar inteligencia artificial sin poder decidir para qué se utiliza, qué límites tiene y cómo se integra a su proyecto educativo.
¿Los docentes pueden orientar las actividades y revisar el proceso de aprendizaje? ¿Los directivos tienen información pertinente para acompañar la implementación? ¿Las familias saben qué herramienta usan sus hijos y cómo pueden involucrarse?
Mantener a los adultos cerca no significa vigilar cada conversación. Significa establecer responsabilidades, criterios de intervención y formas de acompañamiento acordes con la edad y la privacidad de los alumnos.
Una herramienta puede ofrecer muchas funciones individuales y, aun así, no responder a las necesidades de una institución. Por eso, antes de elegir una IA, también hay que preguntarse si puede integrarse a las decisiones pedagógicas de la escuela o si obliga a la escuela a adaptarse a las reglas de una plataforma externa.
La pregunta no es si una IA parece confiable, sino cómo demuestra que merece nuestra confianza
El informe de Common Sense Media no debería llevarnos a concluir que toda inteligencia artificial de propósito general es perjudicial o que la única respuesta posible es prohibir su uso.
Estas herramientas pueden ofrecer oportunidades valiosas para aprender, explorar ideas y acceder a explicaciones. También es cierto que las empresas están incorporando nuevas protecciones y que algunas funcionan.
Pero cuando los usuarios son chicos, necesitamos exigir más.
Una IA de propósito general y una IA diseñada específicamente para educación parten de necesidades distintas. La primera busca responder a una enorme variedad de pedidos. La segunda debería considerar desde su diseño cómo aprenden los alumnos, qué acompañamiento necesitan, qué decisiones corresponden al docente y qué responsabilidades tiene la institución.
Eso tampoco significa que cualquier producto etiquetado como «educativo» sea automáticamente seguro o pedagógicamente adecuado. También tiene que demostrarlo.
En Auroria partimos de esa convicción. Diseñamos una IA pedagógica para instituciones educativas que busca acompañar el razonamiento mediante preguntas y pistas, adaptarse al proyecto educativo de cada escuela y mantener a docentes, directivos y familias dentro de la experiencia.
Porque la decisión de incorporar IA a una escuela no termina cuando elegimos una plataforma. Empieza mucho antes, cuando definimos qué queremos que esa tecnología haga por nuestros alumnos y qué cosas no estamos dispuestos a delegarle.
La próxima vez que una herramienta nos ofrezca un modo adolescente, un control parental o un asistente especialmente amigable, vale la pena mirar más allá de esa primera impresión.
No deberíamos confiar una IA a un chico por cómo se presenta, sino por cómo está diseñada para comportarse cuando ese chico aprende, se equivoca, se vincula o necesita ayuda. Y esa es una responsabilidad que nos corresponde a los adultos.
Preguntas frecuentes
¿Qué características debería tener una IA segura para niños y adolescentes?
Debería contar con protecciones adecuadas para su edad, políticas claras sobre datos personales, límites frente a situaciones sensibles y mecanismos de acompañamiento adulto. Si se utiliza para estudiar, también debería favorecer el aprendizaje y la autonomía. Ninguna de estas características garantiza por sí sola la seguridad: es importante evaluar cómo funcionan en la práctica.
¿ChatGPT for Teens es una aplicación diferente de ChatGPT?
No. Es una experiencia de ChatGPT para usuarios de 13 a 17 años que incorpora configuraciones y protecciones específicas. No está destinada a menores de 13 años. La evaluación de Common Sense Media de octubre de 2026 identificó avances en algunas áreas y limitaciones relevantes en otras.
¿Alcanza con activar controles parentales para que una IA sea apropiada para una escuela?
No. Los controles parentales pueden ser útiles, pero una institución también necesita evaluar el propósito pedagógico de la herramienta, su adecuación a distintas edades, el tratamiento de datos, los mecanismos de intervención y el lugar de los docentes. La existencia de un control no garantiza que funcione en todas las situaciones.
¿En qué se diferencia una IA pedagógica de una IA generalista?
La diferencia está en el problema para el que fue diseñada. Una IA generalista busca responder pedidos de muchos tipos; una IA pedagógica debería priorizar cómo aprende el estudiante, cuánto acompañamiento necesita y qué objetivos establece el docente. Desarrollamos esta distinción en nuestro artículo sobre IA educativa e IA generalista.
¿Cómo puede una escuela empezar a evaluar herramientas de IA?
Un buen punto de partida es definir qué objetivos educativos quiere alcanzar y probar las herramientas con situaciones reales: un alumno que pide una respuesta directa, otro que necesita una explicación adaptada, una consulta sensible y una actividad diseñada por el docente. También es necesario revisar las políticas de datos y establecer quiénes toman decisiones y acompañan el uso.
En Auroria trabajamos con las instituciones para incorporar IA desde su proyecto educativo, sus criterios pedagógicos y sus necesidades de acompañamiento.
Sobre Auroria
Auroria es un ecosistema argentino de inteligencia artificial pedagógica diseñado para instituciones educativas. Integra experiencias para alumnos, docentes, directivos y familias, y permite adaptar el uso de IA al proyecto educativo de cada escuela.
Nuestro enfoque pone el aprendizaje en el centro: acompañar al estudiante para que piense, comprenda y desarrolle autonomía, con los docentes y la institución como responsables de las decisiones pedagógicas.
¿Tu escuela está definiendo qué herramientas de IA ofrecer a sus alumnos y bajo qué criterios? Conocé Auroria y cómo abordamos la inteligencia artificial educativa desde la pedagogía, el acompañamiento adulto y los criterios institucionales.
