A China colocou em vigor, na terça-feira (1º), sua primeira norma nacional para organizar a divisão entre atendimento humano e por inteligência artificial (IA). A regra, publicada em maio, proíbe empresas de negar promessas feitas por seus sistemas de IA alegando que elas não representam a companhia. A medida responde ao crescimento de reclamações de consumidores sobre atendimentos automatizados. No primeiro semestre, a Associação Chinesa de Consumidores recebeu 985.928 reclamações. Muitas envolviam promessas feitas por IA e posteriormente negadas pelas empresas. Também foram relatadas dificuldades para conseguir falar com atendentes humanos e erros em serviços, como remarcação de passagens. Pela nova norma, conteúdos gerados por IA podem representar a vontade da empresa quando forem capazes de gerar confiança razoável no consumidor. Os sistemas também deverão ser supervisionados por funcionários humanos. Casos considerados complexos deverão ser transferidos automaticamente para atendentes. A China optou por uma norma técnica, sem previsão de multas, mas que pode influenciar decisões judiciais e órgãos de defesa do consumidor. A medida ocorre em meio à expansão da automação, motivada principalmente pela redução de custos. Um atendente humano custa mais de ¥ 3.000 mensais, enquanto um serviço automatizado anual pode custar cerca de ¥ 10 mil. A tecnologia criou um novo tipo de interlocutor: uma máquina que parece humana, inspira confiança, mas não possui personalidade jurídica.
Em janeiro, a Corte de Internet de Hangzhou julgou o primeiro caso chinês envolvendo uma “alucinação” de IA. Um usuário recebeu informação errada sobre uma universidade e, depois, uma promessa de indenização de ¥ 100 mil. Ele processou a empresa, mas perdeu porque o tribunal entendeu que a IA não poderia representar juridicamente seu operador. No Brasil, a regulamentação ainda apresenta lacunas sobre promessas feitas por sistemas automatizados. As regras dos SACs garantem atendimento telefônico humano e prazos para respostas, mas não tratam diretamente do conteúdo produzido por IA. O projeto de lei 2.338, que cria o marco legal da inteligência artificial, prevê regras sobre riscos e responsabilidades. O texto foi aprovado pelo Senado em 2024 e está parado na Câmara, sem data definida para votação. Enquanto isso, conflitos envolvendo IA no atendimento ao consumidor são analisados caso a caso pela Justiça. A experiência chinesa pode servir de referência para o Brasil. Com a expansão dos bots, definir a responsabilidade pelas promessas feitas por máquinas será cada vez mais necessário.
Nenhum comentário:
Postar um comentário