A OpenAI anunciou novas restrições para o ChatGPT, visando limitar o acesso a informações sobre armas de fogo e violência, especialmente para adolescentes. As mudanças, divulgadas na última sexta-feira (30), fazem parte de uma revisão abrangente dos procedimentos de segurança da empresa e incluem mecanismos para identificar conversas que possam indicar risco real de violência.
As novas diretrizes não se restringem apenas a usuários menores de idade, mas incluem também adultos. O ChatGPT passará a oferecer respostas menos detalhadas sobre ataques em massa, evitando a disseminação de informações que possam facilitar a reprodução de atos violentos ou glorificar os responsáveis por esses eventos. A OpenAI reconhece que a exposição a detalhes operacionais pode transformar os perpetradores em figuras de destaque, o que pode incentivar imitações.
Relatório de Segurança da Comunidade
Uma das iniciativas mais significativas é a criação do Relatório de Segurança da Comunidade, que reunirá informações sobre a identificação de ameaças e a eficácia das medidas de prevenção. A primeira edição deste relatório está prevista para ser lançada no início de 2027, trazendo dados do segundo semestre de 2026. A OpenAI já comunicou mais de 200 casos às autoridades policiais no terceiro trimestre de 2026, relacionados a ameaças potencialmente graves, demonstrando um compromisso com a segurança pública.
Interrupção de Conversas e Limites para Adolescentes
Outra mudança importante é a capacidade do ChatGPT de interromper automaticamente conversas que apresentem sinais de intenção violenta. Se o sistema detectar um padrão de comportamento preocupante, a conta do usuário poderá ser temporariamente suspensa. Para adolescentes, as restrições serão ainda mais rigorosas, limitando o acesso a informações práticas sobre armas, mesmo que as perguntas não indiquem uma intenção explícita de causar danos.
Os adolescentes ainda poderão buscar informações sobre prevenção da violência e apoio, mas a OpenAI enfatiza a necessidade de distinguir entre conteúdos que ajudam a entender ou evitar situações perigosas e orientações que possam ser usadas para facilitar ações violentas. Para isso, a empresa utiliza um sistema de previsão de idade que considera padrões de comportamento durante o uso da plataforma.
Ampliação dos Controles Parentais
Além das restrições de conteúdo, a OpenAI está ampliando os controles parentais, permitindo que responsáveis vinculem suas contas às de adolescentes. Isso permitirá que os responsáveis recebam alertas sobre comportamentos preocupantes, como automutilação ou discussões sobre violência. A partir de agora, notificações também serão enviadas quando uma conta de adolescente for temporariamente suspensa por violar as políticas sobre violência.
As novas proteções serão implementadas nas próximas semanas, com a OpenAI afirmando que continuará a ajustar seus sistemas para reconhecer sinais de alerta e decidir quando limitar respostas ou interromper conversas. A empresa destaca que a violência é um fenômeno complexo e que as ferramentas digitais devem trabalhar em conjunto com familiares, profissionais e autoridades para promover um ambiente mais seguro.
