Salud mental. Meta implementará alertas para padres ante conversaciones de riesgo de adolescentes con su IA
El gigante tecnológico busca prevenir casos de suicidio y autolesiones mediante un nuevo sistema de detección temprana que incluye supervisión humana.
En un esfuerzo por reforzar la seguridad de los menores en sus plataformas, Meta anunció que comenzará a alertar a padres y madres si un adolescente mantiene conversaciones sobre suicidio o autolesiones con Meta AI.
Esta medida busca establecer un puente de comunicación directa en situaciones de vulnerabilidad detectadas por el asistente virtual.
Un paso más allá de las recomendaciones
Hasta el momento, cuando Meta AI identificaba referencias vinculadas al suicidio o las autolesiones, el sistema se limitaba a mostrar líneas de ayuda y recomendar al joven que se comunicara con un adulto de confianza.
Preocupante suba de la tasa de suicidios
La novedad de este anuncio es la incorporación de una notificación directa a los responsables de la cuenta supervisada, lo que permite una intervención parental más rápida y efectiva.
Evaluación humana y precisión
Para evitar falsas alarmas y garantizar la sensibilidad del proceso, Meta ha implementado un mecanismo de detección temprana que incluye una evaluación realizada por personas antes de informar sobre posibles situaciones de riesgo.
El desarrollo de esta herramienta contó con la participación de especialistas que analizaron diversos factores en las interacciones de la IA:
- La adecuación de las respuestas según la edad del usuario.
- La capacidad del sistema para reconocer correctamente las emociones expresadas.
- La pertinencia de la orientación brindada de acuerdo al nivel de riesgo detectado.
Los suicidios se contagian: ¿mito o realidad?
El futuro del acompañamiento digital
Las observaciones de los expertos se están utilizando para optimizar la forma en que el asistente acompaña estas conversaciones críticas.
Entre las mejoras previstas, Meta planea que la IA realice un reconocimiento explícito de los sentimientos del adolescente antes de proceder a recomendar recursos de apoyo o sugerir el contacto con un adulto.
