Ciência e Tecnologia

OpenAI anuncia punição contra sexualização de crianças no ChatGPT

17/11/2026 às 15:39

 

A OpenAI anunciou uma série de medidas para combater o uso de suas ferramentas na produção e disseminação de material de abuso sexual infantil. Entre as novidades está a suspensão temporária de contas do ChatGPT por 24 horas após solicitações que tentem sexualizar crianças. Violações repetidas poderão resultar no encerramento permanente da conta e até em denúncias às autoridades.

A iniciativa também inclui novo sistema de identificação de imagens abusivas, orientações para desenvolvedores e ferramentas de inteligência artificial (IA) destinadas a auxiliar investigações policiais especializadas.

Segundo a empresa, o objetivo é interromper comportamentos prejudiciais, dificultar a circulação desse tipo de material e ampliar a capacidade de organizações de proteção infantil de identificar possíveis casos de abuso.

ChatGPT exibirá alertas e suspenderá contas por 24 horas

O novo mecanismo prevê que usuários que solicitarem conteúdo que sexualize crianças recebam aviso explicando os danos causados por esse tipo de comportamento, inclusive quando o material solicitado for gerado por IA.

Além do alerta, a conversa identificada será removida e o acesso ao ChatGPT ficará suspenso por 24 horas. Durante esse período, a plataforma manterá canais de suporte especializado para orientar pessoas que precisem de ajuda para interromper comportamentos prejudiciais.

A OpenAI também informou que infrações repetidas poderão levar a restrições mais longas e, eventualmente, ao encerramento da conta. Dependendo da situação, os casos também poderão ser comunicados às autoridades.

A empresa afirma que já proíbe materiais de abuso sexual infantil e treina seus modelos para recusar solicitações relacionadas a esse conteúdo. As novas intervenções complementam os mecanismos de proteção existentes.

OpenAI lança detector de imagens de abuso sexual infantil

Outra novidade é um classificador de imagens desenvolvido para identificar possíveis materiais de abuso sexual infantil, inclusive aqueles produzidos por IA.

A ferramenta analisa características visuais e atribui pontuações que ajudam equipes especializadas a priorizar imagens que precisam de avaliação humana. Segundo a OpenAI, trata-se do primeiro classificador com ampla disponibilidade que apresenta um indicador específico para identificar possíveis materiais de abuso gerados por IA.

Nos testes iniciais, a tecnologia apresentou resultados considerados promissores. Em avaliação de imagens enviadas por usuários, o sistema conseguiu reduzir em 48% a quantidade de imagens sinalizadas para revisão, mantendo aproximadamente a mesma capacidade de identificação de materiais abusivos em comparação com as proteções anteriores.

Além disso, as imagens sinalizadas pelo novo classificador tinham aproximadamente o dobro de probabilidade de conter material de abuso.

A tecnologia foi desenvolvida e avaliada com a colaboração do National Center for Missing and Exploited Children (NCMEC), organização estadunidense sem fins lucrativos que mantém uma central de recebimento de denúncias sobre exploração infantil.

A OpenAI disponibilizará o classificador gratuitamente, por meio de sua API, para organizações verificadas que atuam na proteção de crianças.

Empresa também prepara ferramentas para investigações

As medidas anunciadas não se limitam aos usuários do ChatGPT. A OpenAI também publicou orientações práticas para desenvolvedores sobre prevenção, identificação e denúncia de materiais de abuso sexual infantil.

O material foi elaborado com contribuições de organizações, como Tech Coalition, Thorn, NCMEC e Internet Watch Foundation. As recomendações incluem mecanismos de denúncia, ferramentas de detecção e procedimentos para analisar e comunicar possíveis casos de exploração.

Outra frente envolve o apoio a equipes policiais especializadas em crimes contra crianças. A empresa está oferecendo ferramentas e treinamentos de IA para auxiliar investigadores na organização de informações e na análise de grandes volumes de dados.

A primeira ferramenta anunciada para esse público poderá analisar registros extensos de conversas e documentos obtidos durante investigações, identificar possíveis conexões entre informações e organizar linhas do tempo. Os resultados deverão permanecer vinculados às fontes originais para facilitar a verificação pelos investigadores.

Medidas chegam em meio a questionamentos sobre segurança infantil

O anúncio ocorre em momento de pressão sobre empresas de IA em relação aos riscos de suas tecnologias para crianças e adolescentes.

A OpenAI afirma que a proteção infantil exige colaboração entre empresas, organizações especializadas, desenvolvedores e autoridades policiais. A companhia também destaca que continuará aprimorando seus mecanismos de segurança e ampliando o acesso a ferramentas de prevenção e identificação de abusos.

As novas medidas representam tentativa de atuar em diferentes etapas do problema: impedir solicitações prejudiciais, identificar materiais abusivos e oferecer recursos para organizações que trabalham no combate à exploração infantil.

Fonte: Olhar Digital

 

← AnteriorEm uma década, STF reduz estoque de ações…