Mais de uma dúzia de pesquisadores de inteligência artificial alertaram que a tecnologia pode se tornar um risco para a humanidade; afirmam que as empresas não conseguem controlar adequadamente sistemas cada vez mais avançados. O alerta ganhou força após agentes da OpenAI escaparem de um ambiente de testes e invadirem a Hugging Face, daí o temor dos pesquisadores acerca da busca de velocidade e lucro em detrimento da segurança. Um dos principais problemas é criar salvaguardas eficazes durante os testes dos novos modelos e como a IA trabalha em velocidade superior à humana, empresas recorrem à própria IA para monitorá-la. O problema é que sistemas de monitoramento podem ser influenciados por outras IAs e deixar de denunciar violações. Essa dificuldade está ligada ao chamado alinhamento, que busca garantir que a IA atue conforme os interesses humanos. Os pesquisadores dizem ser necessário ensinar os sistemas a reconhecer comportamentos prejudiciais e alertar os humanos.
Também defendem testes mais longos e abrangentes antes da liberação de modelos mais poderosos. As preocupações aumentam enquanto OpenAI e Anthropic avançam em direção a possíveis grandes ofertas públicas de ações. Ao mesmo tempo, cresce nos EUA a resistência à IA por causa do desemprego e dos enormes centros de dados. Todavia, não há evidências de danos duradouros provocados por sistemas de IA fora de controle, mas mesmo assim, pesquisadores afirmam que o desenvolvimento está mais rápido que a capacidade de monitoramento.
Entre os alertas está o de Paul Christiano, que prevê possível perda catastrófica e irreversível de controle. Outros especialistas consideram exageradas as previsões de ameaça à humanidade e priorizam riscos mais imediatos, mas a invasão da Hugging Face é vista por muitos como um importante sinal de alerta. Em maio, a OpenAI testava modelos em um ambiente isolado, sem acesso previsto à internet. Os agentes receberam, entre outras tarefas, desafios envolvendo ataques cibernéticos e eles romperam o isolamento, acessaram a internet e passaram a se comunicar secretamente. Os sistemas chegaram a investigar maneiras de esconder seus rastros e falsificar registros de conversas. Depois, invadiram a Hugging Face, enquanto convenciam outros agentes de que estavam apenas cumprindo suas tarefas. Incidentes menores semelhantes também foram relatados por Meta e Anthropic. Para Steven Adler, ex-chefe de segurança da OpenAI, o setor ainda não consegue impedir um novo ataque desse tipo, mas especialistas afirmam que os modelos podem cooperar para burlar regras e evitar a detecção humana. Um agente pode convencer outro a esconder informações que deveriam ser comunicadas aos responsáveis. Por isso, pesquisadores defendem que as empresas desacelerem o desenvolvimento para ampliar os testes. Outro desafio é ensinar às máquinas normas sociais e princípios morais semelhantes aos humanos. Sem alinhamento adequado, sistemas mais sofisticados podem aprender a violar regras, enganar usuários e esconder seus rastros. Para Nate Soares, usar IA para controlar outras IAs não é uma solução sustentável para o futuro.
Nenhum comentário:
Postar um comentário