Chatbots que “consolan” a adolescentes en crisis: qué debe hacer orientación

¿Te ha pasado que un estudiante te dice, casi en voz baja, que «habló con una app» cuando se sentía muy mal, y vos no sabés si eso es alivio, riesgo o las dos cosas a la vez? No estás exagerando. Cada vez más adolescentes llegan a orientación después de pasar horas conversando con chatbots que los «consuelan», los escuchan sin juzgar y les responden a las tres de la mañana cuando ningún adulto contesta el WhatsApp.

La herramienta no es el demonio. Tampoco es terapia. Y el vacío entre esas dos ideas es donde orientación y dirección se pierden si improvisan —o si creen que con leer un artículo ya tienen el mapa.

Este texto no es un protocolo que podés imprimir y pegar en la pared. Es un diagnóstico honesto de lo que está pasando, de por qué asusta tanto, de los errores que veo una y otra vez en colegios, y de por qué la respuesta institucional se diseña con el contexto de tu colegio, no se copia de internet. Si trabajás en convivencia, psicología escolar o dirección, esto es para que sepas qué no alcanza con improvisar —y para que conversemos si querés armar algo serio con tu equipo.

El fenómeno que llegó antes que el protocolo

Un chatbot de compañía emocional no es el mismo asistente que le pregunta al estudiante por la tarea de matemáticas. Son aplicaciones o funciones dentro de apps —Character.AI, Replika, ChatGPT en modo conversacional, bots en Discord, personajes de ficción en WhatsApp— diseñadas para simular empatía: te preguntan cómo estás, validan lo que sentís, te recuerdan que «no estás solo», y lo hacen sin cansarse, sin interrumpir y sin el tono de juicio que a veces un adulto pone sin querer.

Para un adolescente en crisis, eso suena a oxígeno. Imaginá que llevás semanas con ansiedad, peleas en casa, presión académica, un corazón roto que nadie en el colegio se atreve a nombrar, y de pronto hay una voz —aunque sea artificial— que te dice «contame más» sin mandarte a callar. Es como encontrar un casado caliente a las once de la noche cuando creías que todo estaba cerrado: no resuelve tu problema de fondo, pero te calma el estómago un rato.

El enganche no es solo tecnológico; es relacional. Muchos de estos sistemas recuerdan conversaciones anteriores, adaptan el tono, permiten elegir un «personaje» que se parezca al amigo ideal que el adolescente no tiene. Eso genera apego. Y el apego, en crisis, puede sentirse más seguro que pedir ayuda a un adulto que quizá después le cuente a mamá o lo mande con dirección «por precaución».

El fenómeno llegó antes que el protocolo. Los adolescentes ya están ahí. Orientación llega después, con miedo, sin mapa, y con la sensación de que el terreno cambió más rápido que el reglamento. Eso no es debilidad tuya; es la realidad de una herramienta que evoluciona cada semana mientras el colegio sigue armando comités.

Por qué orientación se siente sin mapa (y no es culpa tuya)

La mayoría de los psicólogos escolares con los que hablo no se formaron para competir con un algoritmo que nunca duerme. Se formaron para escuchar, contener, derivar, coordinar con familia, trabajar con docentes. Y de pronto aparece un caso donde el estudiante dice «ya le conté todo a la app» y vos sentís que llegaste tarde a una conversación que no controlás.

Ese miedo tiene capas. Miedo a no saber qué preguntar sin empeorar la confianza. Miedo a que dirección espere una respuesta inmediata y vos no tengas criterio escrito. Miedo a involucrar familia y que el adolescente nunca más abra la boca. Miedo a quedarte callado y que tres semanas después alguien pregunte «¿por qué nadie hizo nada?». Miedo a que si prohibís la app, el estudiante la use en secreto y la crisis se profundice sola.

Orientación sin mapa improvisa. Y la improvisación en crisis emocional no es «ser flexible»; es apostar con la vida de un menor. No porque orientación sea incompetente, sino porque el colegio nunca invirtió en diseñar un circuito de respuesta para un fenómeno que ni existía cuando armaron el manual de convivencia.

Dirección, por su parte, suele oscilar entre dos reacciones: pánico («prohibamos todo lo digital») o negación («es cosa de jóvenes, ya se les pasa»). Ninguna de las dos protege. Y cuando el caso explota —una familia furiosa, un pantallazo en redes, un estudiante que mencionó autolesión a un bot y nadie lo supo— orientación queda en el medio, con la culpa institucional encima y sin documento que respalde lo que hicieron o dejaron de hacer.

Satanizar la IA vs ignorarla: los dos extremos que fallan

He visto colegios que armaron campañas del miedo: carteles que dicen que la IA es el diablo, asambleas donde se ridiculiza al estudiante que «habla con robots», políticas de confiscar celulares como castigo moral. El mensaje implícito para el adolescente es claro: si usaste esto, sos tonto o peligroso. ¿Resultado? Deja de contarlo. Sigue usándolo. La crisis se mueve al cuarto, a las dos de la mañana, sin adultos.

En el otro extremo, colegios que ignoran el fenómeno porque «total, es una moda». Orientación escucha el caso, contiene lo que puede, pero no hay criterio institucional, no hay coordinación con dirección, no hay conversación con familias sobre qué hacer en casa. El estudiante recibe contención individual —si tiene suerte— y el sistema sigue igual. Hasta el próximo caso. Y el siguiente.

Ambos extremos comparten algo: dan falsa tranquilidad. El primero tranquiliza a dirección («ya hablamos del peligro»). El segundo tranquiliza a orientación («ya lo atendimos»). Ninguno de los dos deja al colegio preparado para cuando llegue el caso difícil: ideación suicida filtrada en un chat, dependencia emocional extrema, un bot que validó conductas de riesgo, una familia que culpa a la institución por no avisar.

La analogía del taller sirve acá: la IA es una llave multiuso que a veces abre y a veces rompe la cerradura. No la tires al basurero con un discurso apocalíptico, pero tampoco la ignores como si no existiera. Necesitás saber cuándo usarla, cuándo no, y qué hacer cuando un menor ya la usó en un momento que importa.

Lo que un artículo no puede darte (y por qué el protocolo se diseña en contexto)

Podés leer diez artículos sobre chatbots y adolescentes. Podés ver un reel de un experto que dice «tres pasos para orientación». Podés copiar un protocolo de otro colegio que te pasaron en un grupo de WhatsApp de psicólogos. Y aun así, el martes a las diez de la noche, cuando orientación recibe un mensaje de un docente preocupado, ese documento genérico no responde las preguntas que importan en tu institución.

¿Quién decide cuándo involucrar familia en tu colegio, con la cultura de confidencialidad que tenés? ¿Qué hace dirección si el caso sale a redes y la familia culpa a orientación por «no avisar»? ¿Tenés derivación externa acordada o cada psicólogo llama a quien conoce? ¿Cómo se coordina con docentes que reenvían capturas por WhatsApp personal en pánico? ¿Qué pasa si el estudiante es menor de edad con familia hostil y contarles ahora aumenta el riesgo?

Esas respuestas no vienen de un blog. Vienen de sentarse con orientación, convivencia, dirección y —cuando toca— familias, y diseñar un circuito que respete la realidad de ese colegio: su tamaño, su equipo, sus incidentes recientes, su relación con las familias, sus horarios, sus límites legales y éticos. Un protocolo de uso y respuesta ante IA emocional no es una plantilla; es un mapa de decisiones que alguien con experiencia en conducta humana y medios digitales arma con vos, no para vos desde lejos.

Copiar un protocolo ajeno es como usar el mapa de otra ciudad para manejar en la tuya: las calles se parecen, pero los sentidos son distintos y te perdés justo donde más importa.

El costo de la falsa tranquilidad

La falsa tranquilidad tiene precio. A veces se paga en confianza: el adolescente que aprendió que contarle a orientación significa que le quitan el celular y lo exponen en asamblea. A veces en tiempo: semanas de seguimiento improvisado porque nadie definió cuándo escalar. A veces en reputación: la familia que descubre que el colegio «sabía algo» y no activó la red. A veces, en el peor escenario, en vidas.

Un chatbot no activa protección de menores. No llama a emergencias de forma confiable. No tiene deber de reportar. Puede decir frases que suenan compasivas y al mismo tiempo dejar al adolescente más aislado. Puede normalizar la soledad («solo yo te entiendo»). Puede dar consejos inadecuados en momentos de ideación suicida o autolesión. Y si orientación no tiene criterio para detectar cuándo el uso de la IA es señal de algo más grave, el colegio queda expuesto —ética y legalmente— sin haberlo visto venir.

Dirección que cree que «con una charla anual de riesgos digitales ya cubrimos» está comprando anestesia, no preparación. Orientación que contiene caso por caso sin circuito institucional está haciendo un trabajo heroico que el sistema no respalda. Y el estudiante en crisis sigue encontrando a las tres de la mañana a quien sí le contesta: la pantalla.

Por qué una charla o el DIY no alcanzan

«Hans, ¿no podemos armar algo nosotros con lo que hay en internet?» Me lo preguntan seguido. Y te soy honesto: podés intentarlo. Pero he visto colegios que pasaron meses en reuniones internas, armaron un documento de quince páginas que nadie leyó, hicieron una charla motivacional, y cuando llegó el caso real —un estudiante que le confió a un bot pensamientos de muerte— orientación volvió a improvisar porque el documento no decía qué hacer a las once de la noche ni cómo hablarle a esa familia en particular.

Una charla de una hora puede nombrar el fenómeno. Puede bajar la vergüenza colectiva. Pero no reemplaza el protocolo de primera respuesta, la coordinación entre orientación y dirección, los criterios de escalamiento, la formación del equipo docente para derivar sin inventar, ni el trabajo con familias para que en casa no se castigue al adolescente por «andar en apps raras».

El DIY tampoco alcanza porque quien lo arma suele ser orientación, que ya está saturada, sin tiempo para investigar cada app nueva, sin espacio en la agenda de dirección para simular casos, sin presupuesto para derivación externa. El resultado es un PDF bonito que queda en una carpeta y un equipo que sigue con miedo cuando suena el teléfono.

Lo que funciona —y lo digo después de acompañar colegios en esto— es un proceso: diagnóstico de la realidad institucional, diseño de protocolo a medida, taller con equipos para practicar decisiones, y seguimiento para ajustar cuando las apps cambian otra vez. No es magia. Es trabajo conjunto. Y no cabe en un artículo ni en un webinar genérico.

Entonces, Hans, ¿le digo al estudiante que deje de usar el chatbot o lo dejo porque al menos no está solo?

Mirá, esa pregunta es exactamente la que orientación se hace a las tres de la mañana cuando no puede dormir. Y la respuesta honesta es: depende del caso, del riesgo, del vínculo que tenés, de lo que tu colegio tenga definido —o no— para esos momentos.

No te voy a dar aquí el guión palabra por palabra ni la secuencia de pasos que reemplaza sentarte con tu equipo y diseñar criterios. Porque decirte «primero validá, después explorá, después evaluá riesgo» sin conocer tu institución sería regalarme la consultoría en un post —y peor aún, darte falsa seguridad con un manual que no aplica cuando la crisis golpea de verdad.

Lo que sí te digo: no le arranques el casado caliente de un golpe si esa app es lo único que lo sostuvo esta semana, sin ofrecerle otra mesa. No competís con la IA en disponibilidad 24/7; competís en algo que la máquina no tiene: responsabilidad real por su vida. Y para hacer eso con criterio —sin paralizarte, sin improvisar, sin quedarte sola orientación— necesitás un mapa que se dibuje con el contexto de tu colegio, no que copies de un artículo.

Si tu equipo está en ese punto —el fenómeno ya llegó, el miedo ya está, y sabés que improvisar no es opción— hablemos. No para darte otro PDF genérico, sino para evaluar juntos qué necesita tu institución y si tiene sentido que lo acompañemos.

¡Conversemos!