A Meta anunciou novas medidas de segurança em seus chatbots de inteligência artificial, impedindo que conversem com adolescentes sobre temas delicados como suicídio, automutilação e transtornos alimentares.
A decisão ocorre após críticas e uma investigação aberta nos EUA, motivada por documentos internos vazados que sugeriam interações inapropriadas com jovens.
Chatbots vão levar jovens para especialistas
Segundo a empresa revelou exclusivamente ao TechCrunch, os chatbots passarão a redirecionar adolescentes a serviços especializados, em vez de interagir diretamente nesses casos.
Um porta-voz afirmou que os produtos já tinham proteções desde o lançamento, mas que novas barreiras foram adicionadas “como precaução extra”.
Entidades de proteção à infância, como a Fundação Molly Rose, criticaram a postura reativa da companhia.
“Testes de segurança devem ocorrer antes do lançamento, não depois que os danos já podem ter acontecido”, disse Andy Burrows, chefe da organização.
Segurança extra para adolescentes
A Meta afirmou que continua atualizando seus sistemas e que adolescentes já contam com contas diferenciadas no Facebook, Instagram e Messenger, com controles extras de privacidade. Pais e responsáveis também poderão verificar, em breve, com quais chatbots os jovens interagiram.
As mudanças refletem preocupações mais amplas sobre os riscos de IA para usuários vulneráveis. Recentemente, a OpenAI enfrentou um processo após pais acusarem o ChatGPT de influenciar o suicídio de um adolescente.
Além disso, a Reuters revelou que ferramentas da Meta foram usadas para criar chatbots que imitavam celebridades, incluindo versões sexualizadas, o que levou à remoção de alguns deles.
Fonte: Olhar Digital
