Ciudad de México.- Las conversaciones que los adolescentes mantienen con asistentes de inteligencia artificial podrían convertirse en una señal de alerta para sus familias. Meta comenzó a ampliar un sistema que avisará a los padres cuando detecte posibles indicios de riesgo relacionados con el suicidio o las autolesiones en las interacciones de sus hijos con estas herramientas.
La medida, anunciada hace unos días, también contempla las búsquedas que los menores realizan en Facebook e Instagram. Sin embargo, uno de los cambios más importantes es que el sistema podrá identificar señales preocupantes en las conversaciones con Meta AI, el asistente de inteligencia artificial disponible en Facebook, Instagram y Messenger.
La empresa explicó que las alertas no se enviarán por cualquier conversación sobre salud mental, sino cuando sus sistemas identifiquen expresiones que puedan indicar que un adolescente está pensando en hacerse daño.
Para reducir los errores, Meta desarrolló un sistema de inteligencia artificial que identifica estas conversaciones y posteriormente las somete a una revisión humana antes de enviar una notificación a los padres.
Esto significa que no será únicamente una computadora la que determine cuándo avisar a las familias. Según la compañía, las conversaciones señaladas serán revisadas por personal encargado de valorar si existen indicios suficientes para emitir una alerta.
Aun así, Meta reconoce que podrían generarse notificaciones en situaciones donde no exista un peligro real, debido a que el sistema busca actuar con precaución cuando detecta mensajes que pueden tener distintas interpretaciones.
Otra característica importante es que los padres no recibirán una copia de las conversaciones ni podrán conocer las palabras exactas que sus hijos escribieron. La notificación solamente les informará que se detectó una posible situación de riesgo y les ofrecerá orientación para abordar el tema.
Las alertas podrán llegar mediante correo electrónico, mensajes de texto, WhatsApp o notificaciones dentro de las aplicaciones, dependiendo de los datos de contacto registrados.
La medida se aplicará a nivel mundial, pero únicamente a las familias que tengan activadas las herramientas de supervisión parental en las cuentas de sus hijos adolescentes.
En el caso de las búsquedas, el sistema enviará avisos cuando un menor intente consultar repetidamente términos relacionados con suicidio o autolesiones durante un periodo corto. Meta no ha detallado públicamente cuántas búsquedas son necesarias para activar una notificación.
La compañía comenzó a utilizar este mecanismo en Instagram durante febrero de 2026 y posteriormente lo extendió a otros países. Ahora incorpora Facebook y las conversaciones con su asistente de inteligencia artificial.
Actualmente, las plataformas también cuentan con restricciones que buscan impedir que los adolescentes encuentren publicaciones que promuevan las autolesiones. Cuando se detectan determinadas búsquedas, en lugar de mostrar resultados, se ofrecen recursos de orientación y líneas de apoyo.
Para desarrollar las nuevas medidas, Meta consultó a más de 75 profesionales especializados en salud mental adolescente, quienes revisaron las respuestas que proporciona su inteligencia artificial ante conversaciones relacionadas con situaciones de riesgo.
La compañía también informó que trabaja en mecanismos para alertar a los servicios de emergencia cuando una conversación con Meta AI sugiera que una persona enfrenta un peligro inminente.
Sin embargo, las nuevas funciones han generado preguntas sobre los límites de la privacidad de los adolescentes y la manera en que las plataformas tecnológicas utilizan la información de sus usuarios.
Aunque las notificaciones buscan facilitar que los padres identifiquen posibles señales de alarma, recibir un aviso no significa necesariamente que exista una emergencia ni constituye un diagnóstico sobre la salud mental del menor.
El sistema tampoco garantiza que las familias cuenten con los conocimientos necesarios para responder adecuadamente, por lo que la orientación profesional continúa siendo importante cuando existen señales de preocupación.
Con esta medida, Meta busca que la inteligencia artificial no solamente responda preguntas de los adolescentes, sino que también permita advertir a sus familias sobre posibles situaciones de riesgo, aunque su eficacia dependerá de qué tan bien logre distinguir entre una conversación informativa y una verdadera señal de alerta.
ExpokNews
Hola, déjenos un comentario