Prévia: A Meta implementou um novo recurso que permite aos pais serem notificados quando adolescentes interagem com sua inteligência artificial e apresentam sinais de risco, como pensamentos suicidas. A medida visa equilibrar a privacidade dos jovens com a necessidade de proteção familiar.
A Meta, empresa responsável por plataformas como Facebook e Instagram, anunciou uma nova funcionalidade que promete aumentar a segurança dos adolescentes que utilizam seu assistente de inteligência artificial. A partir de agora, os pais poderão ser alertados quando as conversas de seus filhos com o Meta AI indicarem possíveis sinais de suicídio ou automutilação.
Essa iniciativa surge em um contexto onde a saúde mental dos jovens é uma preocupação crescente. A Meta busca encontrar um equilíbrio entre a privacidade dos adolescentes e a necessidade de os pais estarem informados sobre possíveis riscos à saúde emocional de seus filhos.
Alertas serão enviados após análise das conversas
Os alertas serão enviados aos responsáveis que utilizam as ferramentas de supervisão do Instagram. Quando o Meta AI identificar uma conversa que sugira risco, os pais receberão uma notificação, acompanhada de orientações de especialistas em saúde mental.
O sistema foi projetado para detectar tanto referências diretas quanto sinais mais sutis de sofrimento emocional. Antes de qualquer notificação ser enviada, as conversas sinalizadas passarão por uma revisão manual, garantindo que a abordagem seja cautelosa e fundamentada.
Entre os fatores que podem gerar alertas estão comentários sobre a vontade de se machucar, conversas que expressem sofrimento emocional intenso e situações em que o adolescente possa necessitar de apoio fora do ambiente digital.
A Meta ressalta que essa ferramenta não substitui o acompanhamento profissional, mas é uma forma de auxiliar os pais a perceberem sinais que poderiam passar despercebidos. A intenção é promover um diálogo aberto e preventivo entre pais e filhos.
Além dos avisos, a empresa está desenvolvendo uma funcionalidade que poderá acionar serviços de emergência quando uma conversa indicar risco imediato de suicídio. Essa estratégia já foi testada em outras plataformas da Meta, resultando em mais de 19 mil encaminhamentos para serviços de emergência no último ano.
Para garantir a eficácia do sistema, a Meta consultou mais de 75 especialistas em saúde mental de adolescentes, que ajudaram a moldar a ferramenta. A avaliação profissional é considerada essencial para aprimorar a segurança das interações dos jovens com a inteligência artificial.
Atualmente, os novos alertas estão disponíveis para pais que utilizam a supervisão do Instagram em países como Estados Unidos, Reino Unido, Austrália e Canadá. A Meta planeja expandir essa funcionalidade para outros países até o final do ano, ampliando assim a proteção para mais adolescentes ao redor do mundo.
