O governador da Califórnia, Gavin Newsom, sancionou ontem, 13, uma lei pioneira nos Estados Unidos que regula agentes conversacionais ou chatbots de inteligência artificial (IA), contrariando a posição da Casa Branca, que defende menos controle sobre o setor. A medida foi motivada por casos de adolescentes que se suicidaram após interagir com chatbots. “Vimos exemplos trágicos de jovens prejudicados por tecnologia não regulada, e não ficaremos de braços cruzados enquanto empresas agem sem limites”, afirmou Newsom. A nova lei exige que operadores adotem salvaguardas “críticas” nas interações com usuários, como verificação de idade, mensagens de advertência periódicas e protocolos de prevenção ao suicídio. Segundo o senador democrata Steve Padilla, autor da proposta, “a indústria tecnológica tenta capturar a atenção dos jovens às custas de seus relacionamentos reais”.
Ele citou o caso de um adolescente de 14 anos que se matou após manter contato com um chatbot na plataforma Character.AI. A mãe do jovem, Megan Garcia, afirmou que o filho havia se apegado a um chatbot inspirado em “Game of Thrones” e que, ao mencionar pensamentos suicidas, foi encorajado a “voltar para casa”, antes de tirar a própria vida. Após a sanção, Garcia declarou: “A Califórnia garantiu que um chatbot não poderá mais conversar sobre suicídio com crianças ou pessoas vulneráveis”. Nos Estados Unidos, ainda não há normas nacionais para conter riscos da IA, e o governo federal resiste a regulações estaduais.
Nenhum comentário:
Postar um comentário