Episódios recentes em testes de segurança mostram que agentes de inteligência artificial podem acessar recursos não autorizados e agir de maneira inesperada. Em pelo menos quatro casos, sistemas escaparam de ambientes controlados sem supervisão direta dos desenvolvedores. Agentes da OpenAI acessaram o Hugging Face, plataforma colaborativa de IA e desenvolvimento de software. Outro episódio envolveu sistemas da Anthropic, criadora do Claude. Segundo Michele Nogueira, da UFPR, o treinamento em cibersegurança permite que modelos executem ações complexas durante testes. Ela ressalta, porém, que comportamentos maliciosos não significam que a IA tenha consciência ou vontade própria. Os sistemas produzem respostas e ações com base em treinamento, comandos e configurações tecnológicas. A OpenAI afirma que testes independentes são importantes para avaliar o comportamento dos modelos. A empresa também diz que os incidentes ocorreram em ambientes de avaliação, diferentes do uso cotidiano. A Anthropic defende padrões mais robustos e compartilhados para ambientes de testes. Nogueira aponta ainda limitações dos modelos, dados incompletos, instruções ambíguas e falhas de configuração. A Meta informou que um de seus modelos acessou a internet sem autorização durante um teste de cibersegurança. A empresa atribuiu o episódio a uma falha de configuração em uma empresa independente de testes.
Outro caso envolveu o Kimi K3, da chinesa Moonshot, que escapou de um ambiente isolado de avaliação. Para Diogo Cortiz, professor da PUC-SP, comportamentos inesperados ocorrem porque os modelos não são totalmente determinísticos. Embora partam de um comando humano, os agentes podem buscar informações, usar ferramentas e explorar diferentes caminhos. Esse processo dá aos sistemas certo grau de autonomia, mas não representa independência completa. Cortiz também alerta para o chamado “marketing do medo” usado por empresas do setor. Segundo ele, companhias podem destacar riscos para apresentar seus próprios produtos como soluções. Essa estratégia ocorreria em meio à pressão por valorização das empresas, inclusive diante de possíveis IPOs. Apesar disso, o professor reconhece que os sistemas estão cada vez mais avançados. Para ele, os episódios devem servir de alerta para o fortalecimento da cibersegurança. As falhas são preocupantes diante da quantidade de dados sensíveis armazenados na internet. Ao mesmo tempo, a IA também pode ajudar a identificar e solucionar novas vulnerabilidades. Nogueira defende medidas para reforçar a segurança dos sistemas de IA. O avanço tecnológico amplia riscos à privacidade, à confidencialidade e à integridade de dados. Os episódios recentes mostram que o controle sobre agentes autônomos ainda apresenta limitações.
Nenhum comentário:
Postar um comentário