Voltar
🛡️CEVIU IA

OpenAI Lança Ferramentas Aprimoradas de Combate a Abuso Sexual Infantil Online, Incluindo Detecção de CSAM Gerado por IA

Aprofundamento CEVIU

Aprofundamento

A OpenAI lançou um pacote de ferramentas e suporte para combater o CSAM (material de abuso sexual infantil) online, incluindo conteúdo gerado por IA. A iniciativa se alinha ao seu "Child Safety Blueprint" e foca em detecção, bloqueio e denúncia de abuso. Uma das principais novidades é um classificador de imagens capaz de identificar sinais visuais de abuso e indicar se o CSAM foi gerado por IA. Desenvolvida com o auxílio do National Center for Missing and Exploited Children (NCMEC), esta ferramenta será disponibilizada gratuitamente para organizações selecionadas via API da OpenAI.

A empresa também introduziu avisos no ChatGPT que interrompem tentativas de buscar material abusivo, explicam as consequências e direcionam os usuários para ajuda. Além disso, publicou um guia para desenvolvedores sobre como prevenir e detectar abuso, e está oferecendo suporte e treinamento para investigadores de aplicação da lei sobre o uso de IA em investigações de CSAM.

O que mudou

Esta é a primeira vez que a OpenAI disponibiliza amplamente um classificador de CSAM com sinal específico para material gerado por IA. Em 20 de agosto de 2026, o CEVIU noticiou que a OpenAI lançou um recurso de privacidade para modelos de fronteira, o Private Safety Processing, para conciliar segurança e privacidade. No mesmo dia, a empresa reforçou o ChatGPT para adolescentes com novas ferramentas de segurança. Já em 30 de outubro de 2026, a OpenAI lançou um relatório de segurança comunitária e endureceu as regras do ChatGPT sobre violência e armas para menores, mencionando investimentos em sistemas avançados para detectar danos. O lançamento atual integra e expande essas iniciativas, focando especificamente na detecção de CSAM com uma ferramenta dedicada e ampliação do suporte para organizações e autoridades.

Por que isso importa

Para quem opera plataformas ou desenvolve aplicações com modelos de IA, a disponibilidade de um classificador de CSAM que diferencia conteúdo gerado por IA é um avanço crucial. Significa que as ferramentas de moderação podem se tornar mais eficazes na identificação de novos vetores de abuso, reduzindo falsos positivos e otimizando o trabalho das equipes de segurança. A oferta via API democratiza o acesso a essa tecnologia, permitindo que organizações menores ou com menos recursos implementem defesas robustas contra CSAM. A colaboração com entidades como o NCMEC e o foco em deter comportamentos antes que se concretizem, via avisos no ChatGPT, mostram uma abordagem proativa e multifacetada para um problema complexo e urgente.

Linha do tempo

  1. OpenAI facilita a verificação de imagens geradas por seus modelos com padrão C2PA e parceria com Google.

  2. OpenAI lança GPT-5.6-Cyber para cibersegurança e expande programa Daybreak.

  3. OpenAI lança recurso de privacidade (Private Safety Processing) para modelos de fronteira com retenção zero de dados.

  4. OpenAI reforça ChatGPT para adolescentes com novas ferramentas de segurança e 'Study Mode'.

  5. OpenAI lança estrutura de triage para análise de desalinhamento de modelos de IA.

  6. OpenAI lança relatório de segurança comunitária e endurece regras do ChatGPT sobre violência e armas para menores.

  7. OpenAI lança ferramentas aprimoradas de combate a abuso sexual infantil online, incluindo detecção de CSAM gerado por IA.

Perguntas frequentes

O que é o novo classificador de CSAM da OpenAI?

É uma ferramenta de IA que detecta sinais visuais de material de abuso sexual infantil (CSAM), incluindo aquele gerado por IA. Ele ajuda equipes a identificar novas imagens e otimizar o processo de revisão, reduzindo falsos positivos.

Como as organizações podem acessar o classificador de CSAM?

A OpenAI está oferecendo acesso gratuito ao classificador para organizações verificadas através de sua API. O objetivo é tornar a detecção de CSAM mais acessível para organizações de segurança infantil e a indústria em geral.

Quais outras medidas a OpenAI está implementando para combater o CSAM?

Além do classificador, a OpenAI introduziu avisos no ChatGPT para deter buscas de material abusivo, publicou um guia para desenvolvedores sobre prevenção de abuso e está fornecendo suporte e treinamento para investigadores da lei sobre o uso de IA em suas investigações.

Fontes

Avalie este artigo:
Categoria
CEVIU IA
Publicado
16 de novembro de 2026
Editoria
CEVIU IA

Quer receber mais sobre CEVIU IA?

Conteúdo curado diariamente, direto no seu e-mail.

Conteúdo curado diariamenteDiversas categoriasCancele quando quiser