Meta agrega nuevas alertas de seguridad de IA para adolescentes
INDIANÁPOLIS, Indiana — Meta está ampliando las herramientas de supervisión parental al introducir notificaciones en tiempo real para los padres cuando un adolescente discute sobre suicidio o autolesión con la IA de Meta.
Bajo la política recién lanzada, Meta ahora alertará proactivamente a los padres supervisores si la conversación de su adolescente con el chatbot de IA de Meta sugiere que pueden estar considerando el suicidio o la autolesión.
La función se expande sobre las protecciones existentes que anteriormente redirigían a los adolescentes en crisis hacia líneas de ayuda o los alentaban a hablar con un adulto de confianza, ahora asegurando que los cuidadores se integren directamente cuando se detecta una situación de gravedad.
Para determinar qué conversaciones justifican una alerta inmediata, Meta colaboró extensamente con expertos en seguridad infantil y padres a construir un sistema de inteligencia artificial dedicado capaz de identificar referencias tanto explícitas como sutiles al daño autoinfligido.
Reconociendo el grave impacto emocional que pueden tener estas notificaciones en una familia, Meta ha establecido un protocolo obligatorio de revisión humana donde el personal capacitado evalúa manualmente todas las interacciones marcadas antes de que se envíe una alerta.
Sin embargo, en los casos en los que la intención del adolescente sigue siendo ambigua, la empresa confirmó que se inclinará del lado de la precaución y notificará al padre o madre supervisor independientemente, priorizando la seguridad de los jóvenes sobre posibles falsas alarmas.
Las notificaciones ya están activas para las familias que utilizan las herramientas de supervisión parental de Instagram en los Estados Unidos, el Reino Unido, Canadá y Australia, con un lanzamiento global previsto para finales de año.
Los padres reciben las alertas directamente a través de notificaciones de la aplicación, correo electrónico, mensaje de texto o WhatsApp, junto con orientación accionable y desarrollada por expertos sobre cómo abordar de manera constructiva estas conversaciones delicadas con su hijo.
La actualización ha recibido el apoyo de defensores de la seguridad infantil que enfatizan la importancia de la conciencia de los cuidadores durante emergencias de salud mental.
El director ejecutivo de ConnectSafely, Larry Magid, señaló que si bien la privacidad de los adolescentes es vital, los padres deben ser informados cuando un niño está en riesgo de autolesionarse, elogiando la actualización por encontrar un equilibrio necesario entre la independencia de los adolescentes y el apoyo familiar.
Para refinar aun más la forma en que la IA interactúa con los jóvenes vulnerables, Meta consultó a más de 75 profesionales de la salud mental especializados en psicología adolescente para asegurarse de que el chatbot responda con empatía, reconozca los sentimientos y evite terminar abruptamente las conversaciones mientras guía a los usuarios hacia ayuda fuera de línea.
Más allá de las alertas a los padres, Meta anunció medidas adicionales de seguridad en toda la plataforma, incluido un protocolo de intervención de emergencia que se encuentra en desarrollo para contactar si cualquier usuario, ya sea adolescente o adulto, muestra un riesgo de suicidio inminente y creíble durante una conversación con la IA.
Esta iniciativa se basa en las prácticas de crisis existentes de Meta en Facebook e Instagram, que generaron más de 19 000 referencias de emergencia para verificaciones de bienestar a nivel mundial el año pasado.
Además, la configuración más estricta de “Contenido limitado” de Instagram se aplicará directamente a las interacciones con la IA de Meta, asegurando que cuando los padres elijan filtros de contenido más restrictivos para sus hijos adolescentes, el chatbot decline una gama más amplia de solicitudes sensibles.
Meta agrega nuevas alertas de seguridad de IA para adolescentes fue publicado originalmente en wibc.com
