Instagram ha anunciado que comenzará a enviar una notificación de alerta a los padres cuando identifique que sus hijos buscan repetidamente términos relacionados con el suicidio o autolesión en un periodo corto de tiempo, una opción de notificaciones que se ampliará para las conversaciones de 'chatbots' con IA próximamente.
La plataforma propiedad de Meta bloquea las búsquedas relacionadas con contenido sobre suicidio o autolesiones cuando se llevan a cabo desde una cuenta de adolescentes. En su lugar, dirigen a los menores a recursos y líneas de ayuda profesional para ofrecer apoyo.
Sin embargo, Instagram ha anunciado que agregará una nueva función de alerta para los padres de las cuentas de adolescentes, de cara a proporcionar a los adultos a cargo información necesaria para apoyar a sus hijos en caso de que requieran ayuda.
Concretamente, estas notificaciones se enviarán a los padres cuando la compañía identifique que el menor ha buscado de forma insistente términos relacionados con el suicidio o la autolesión, durante un periodo corto de tiempo, como ha explicado la red social en un comunicado.
De esta forma, a pesar de «lo angustioso» que puede resultar para un padre recibir una alerta de estas características, la compañía ha matizado que las alertas están diseñadas para proporcionar recursos necesarios para apoyar a los adolescentes.
Así, estas alertas se activarán en caso de que los menores incluyan frases en la búsqueda que promuevan el suicidio o la autolesión, así como que sugieran que un adolescente quiere hacerse daño a sí mismo. Tras ello, las alertas llegarán a los padres suscritos en la supervisión de la cuenta del menor en cuestión, ya sea a través de correo electrónico, SMS o mensajes de WhatsApp, y se basarán en las búsquedas y actividad de los adolescentes.
Al tocar la notificación, se abrirá un mensaje a pantalla completa en el que se explicará que su adolescente a cargo ha intentado buscar repetidamente términos relacionados con el suicidio o la autolesión y ofrecerá recursos de expertos para ayudarles a abordar conversaciones potencialmente delicadas relacionadas con su situación.
Estas notificaciones se comenzarán a enviar a los padres en Estados Unidos, Reino Unido, Australia y Canadá durante la próxima semana. Asimismo, estarán disponibles en otras regiones a finales de este año.
Instagram también ha adelantado que, de forma similar a estas notificaciones, comenzarán a lanzar alertas parentales similares para "ciertas experiencias con IA" a finales de este año. De esta forma, se avisará a los padres cuando un adolescente intente mantener ciertos tipos de conversaciones relacionadas con el suicidio o la autolesión con Meta AI. No obstante, la compañía ha aclarado que su 'chatbot' ya está entrenado para responder de forma segura a los adolescentes.