OpenAI Lança Ferramentas Aprimoradas de Combate a Abuso Sexual Infantil Online, Incluindo Detecção de CSAM Gerado por IA
Aprofundamento CEVIU
Aprofundamento
A OpenAI lançou um pacote de ferramentas e suporte para combater o CSAM (material de abuso sexual infantil) online, incluindo conteúdo gerado por IA. A iniciativa se alinha ao seu "Child Safety Blueprint" e foca em detecção, bloqueio e denúncia de abuso. Uma das principais novidades é um classificador de imagens capaz de identificar sinais visuais de abuso e indicar se o CSAM foi gerado por IA. Desenvolvida com o auxílio do National Center for Missing and Exploited Children (NCMEC), esta ferramenta será disponibilizada gratuitamente para organizações selecionadas via API da OpenAI.
A empresa também introduziu avisos no ChatGPT que interrompem tentativas de buscar material abusivo, explicam as consequências e direcionam os usuários para ajuda. Além disso, publicou um guia para desenvolvedores sobre como prevenir e detectar abuso, e está oferecendo suporte e treinamento para investigadores de aplicação da lei sobre o uso de IA em investigações de CSAM.
O que mudou
Esta é a primeira vez que a OpenAI disponibiliza amplamente um classificador de CSAM com sinal específico para material gerado por IA. Em 20 de agosto de 2026, o CEVIU noticiou que a OpenAI lançou um recurso de privacidade para modelos de fronteira, o Private Safety Processing, para conciliar segurança e privacidade. No mesmo dia, a empresa reforçou o ChatGPT para adolescentes com novas ferramentas de segurança. Já em 30 de outubro de 2026, a OpenAI lançou um relatório de segurança comunitária e endureceu as regras do ChatGPT sobre violência e armas para menores, mencionando investimentos em sistemas avançados para detectar danos. O lançamento atual integra e expande essas iniciativas, focando especificamente na detecção de CSAM com uma ferramenta dedicada e ampliação do suporte para organizações e autoridades.
Por que isso importa
Para quem opera plataformas ou desenvolve aplicações com modelos de IA, a disponibilidade de um classificador de CSAM que diferencia conteúdo gerado por IA é um avanço crucial. Significa que as ferramentas de moderação podem se tornar mais eficazes na identificação de novos vetores de abuso, reduzindo falsos positivos e otimizando o trabalho das equipes de segurança. A oferta via API democratiza o acesso a essa tecnologia, permitindo que organizações menores ou com menos recursos implementem defesas robustas contra CSAM. A colaboração com entidades como o NCMEC e o foco em deter comportamentos antes que se concretizem, via avisos no ChatGPT, mostram uma abordagem proativa e multifacetada para um problema complexo e urgente.
Linha do tempo
OpenAI facilita a verificação de imagens geradas por seus modelos com padrão C2PA e parceria com Google.
OpenAI lança GPT-5.6-Cyber para cibersegurança e expande programa Daybreak.
OpenAI lança recurso de privacidade (Private Safety Processing) para modelos de fronteira com retenção zero de dados.
OpenAI reforça ChatGPT para adolescentes com novas ferramentas de segurança e 'Study Mode'.
OpenAI lança estrutura de triage para análise de desalinhamento de modelos de IA.
OpenAI lança relatório de segurança comunitária e endurece regras do ChatGPT sobre violência e armas para menores.
OpenAI lança ferramentas aprimoradas de combate a abuso sexual infantil online, incluindo detecção de CSAM gerado por IA.
Perguntas frequentes
O que é o novo classificador de CSAM da OpenAI?
É uma ferramenta de IA que detecta sinais visuais de material de abuso sexual infantil (CSAM), incluindo aquele gerado por IA. Ele ajuda equipes a identificar novas imagens e otimizar o processo de revisão, reduzindo falsos positivos.
Como as organizações podem acessar o classificador de CSAM?
A OpenAI está oferecendo acesso gratuito ao classificador para organizações verificadas através de sua API. O objetivo é tornar a detecção de CSAM mais acessível para organizações de segurança infantil e a indústria em geral.
Quais outras medidas a OpenAI está implementando para combater o CSAM?
Além do classificador, a OpenAI introduziu avisos no ChatGPT para deter buscas de material abusivo, publicou um guia para desenvolvedores sobre prevenção de abuso e está fornecendo suporte e treinamento para investigadores da lei sobre o uso de IA em suas investigações.
Fontes
- openai.comfonte original
- Categoria
- CEVIU IA
- Publicado
- 16 de novembro de 2026
- Editoria
- CEVIU IA
