A OpenAI anunciou novas regras para o ChatGPT no que diz respeito à segurança, liberdade e privacidade dos adolescentes. A medida surge depois que a família de um garoto de 16 anos que se matou após meses de conversa com o bot entrou com uma ação judicial nos Estados Unidos contra a empresa.
“Priorizamos a segurança em detrimento da privacidade e da liberdade dos adolescentes; esta é uma tecnologia nova e poderosa, e acreditamos que menores precisam de proteção significativa”, escreveu Sam Altman, CEO da OpenAI.
Ele acrescentou que, inicialmente, é preciso separar os usuários menores de 18 anos. O ChatGPT é destinado a quem tem 13 anos ou mais, e que a companhia está desenvolvendo um sistema de previsão de idade para estimá-la com base em como as pessoas usam o bot de IA.
Quando identificado que um usuário tem menos de 18 anos, ele será automaticamente direcionado para uma experiência no ChatGPT com políticas adequadas à sua idade. Isso inclui o bloqueio de conteúdo sexual gráfico e, em casos raros de sofrimento agudo, o possível envolvimento de autoridades policiais para garantir a segurança.
“Em caso de dúvida, optaremos pela segurança e usaremos como padrão a experiência para menores de 18 anos. Em alguns casos ou países, também podemos solicitar um documento de identidade; sabemos que isso compromete a privacidade dos adultos, mas acreditamos que seja uma troca válida”, apontou o executivo.
Outra medida será a aplicação de regras diferentes aos adolescentes que utilizam os produtos da OpenAI. Por exemplo, o ChatGPT será treinado para não ter conversas de flerte, se solicitado, ou se envolver em discussões sobre suicídio ou automutilação, mesmo em um ambiente de escrita criativa.
Além disso, segundo Altman, se um usuário menor de 18 anos estiver com ideação suicida, a empresa tentará entrar em contato com seus pais e, se não for possível, com as autoridades.
“Percebemos que esses princípios estão em conflito e que nem todos concordarão com a forma como estamos resolvendo esse conflito. São decisões difíceis, mas, após conversar com especialistas, é o que consideramos melhor e queremos ser transparentes em nossas intenções”, completou o CEO da OpenAI.
Fonte: Época Negócios
