La herramienta busca detectar posibles crisis de salud mental en usuarios de Instagram entre 13 y 17 años mediante Meta AI
La empresa tecnológica Meta anunció una nueva medida de seguridad que permitirá alertar a los padres que utilizan herramientas de supervisión parental de Instagram cuando sus hijos adolescentes presenten señales de angustia relacionadas con salud mental durante conversaciones con Meta AI, su asistente de inteligencia artificial.
La función ya fue activada en Estados Unidos, Reino Unido, Australia y Canadá, mientras que la compañía informó que planea ampliarla a nivel global antes de finalizar este año.
El sistema analizará las conversaciones en busca de posibles señales de riesgo, incluyendo referencias sutiles relacionadas con hacerse daño. Cuando detecte una situación preocupante, el intercambio será enviado primero a una revisión manual antes de generar una alerta para los padres.
Meta indicó que la medida forma parte de sus esfuerzos para reforzar la seguridad de los adolescentes en sus plataformas digitales y ofrecer mayor apoyo ante posibles situaciones de vulnerabilidad emocional.