OpenAI lança relatório de segurança comunitária e endurece regras do ChatGPT sobre violência e armas para menores

A OpenAI diz que o ChatGPT é um dos produtos de IA mais usados do mundo e que montou sistemas para detectar danos potenciais, revisar atividade preocupante e escalar ameaças críveis. Os números citados: mais de 200 encaminhamentos a autoridades policiais no terceiro trimestre de 2026. O primeiro Community Safety Report sai no início de 2027, cobrindo o segundo semestre de 2026, com atualizações a cada seis meses. Vai trazer exemplos anonimizados, mitigações novas, mudanças de política e dados de apoio.

Na prática, há duas camadas. Para todos os usuários, o modelo passa a dar menos detalhes sobre ataques em massa do passado, mesmo que a informação esteja em outras fontes. Fica restrita a reconstrução de ataques (armas, equipamentos, como foram obtidos) e comparações de escala de dano que ampliem a notoriedade do atacante. A segunda camada trata de sinais de alerta: quando chats recentes indicam possível violência, o ChatGPT responde de forma mais conservadora, e a empresa trabalha para aplicar os mesmos limites quando prevê que o usuário tem menos de 18 anos, sem exigir intenção violenta. A OpenAI também prepara o encerramento automático de conversas com fixação em violência e pausa temporária de contas que acumulem vários encerramentos. Notificações a pais sobre essa pausa ainda estão em desenvolvimento. As salvaguardas começam a ser liberadas nas próximas semanas, ou seja, ainda não são produto pleno.

Em 20 de agosto de 2026, o CEVIU noticiou "OpenAI Reforça ChatGPT para Adolescentes com Novas Ferramentas de Segurança e 'Study Mode'", com foco em proteção de adolescentes. Agora o recorte é violência e armas: o limite sobre informação de armas e sistemas de segurança passa a valer para menores mesmo sem sinal de intenção violenta. Em 8 de maio de 2026, o CEVIU noticiou "Contato de Confiança para ChatGPT: Recurso Opcional de Segurança da OpenAI", sobre alertas de risco de autoagressão. A empresa diz agora que amplia o trabalho de resumos factuais de sinais de alerta, compartilhado em maio, para o contexto de violência.

Para quem constrói produtos sobre modelos da OpenAI ou avalia seus limites, a leitura é que a política deixa de olhar só o pedido isolado e passa a pesar histórico de conversa e idade prevista. Isso tende a gerar mais recusas e falsos positivos, e o relatório semestral será a primeira chance de medir a eficácia com dados, não só com declaração da empresa.