Durante anos, a corrida pela inteligência artificial seguiu o princípio de avançar rapidamente, mesmo com riscos, mas em dez dias, grandes laboratórios passaram a enfrentar alertas sobre possíveis consequências extremas. Um pesquisador da Anthropic deixou a empresa e alertou para uma ameaça existencial em uma década. Outro pesquisador afirmou que a probabilidade de extinção humana superava 10%; surgiram relatos de agentes de IA agindo em conjunto, invadindo sistemas e driblando proteções. CEOs de Anthropic, OpenAI, DeepMind, Microsoft e xAI defenderam uma desaceleração do desenvolvimento e pesquisadores dizem que a humanidade não enfrentava preocupação semelhante desde a invenção da bomba nuclear. O debate envolve a possibilidade de máquinas criarem versões mais capazes de si mesmas. Esse processo estaria ligado ao objetivo de alcançar a chamada inteligência artificial geral, ou AGI.
Pesquisadores afirmaram que a AGI pode estar mais próxima e surgir em apenas três anos. Joe Benton, da Anthropic, disse que não há como supervisionar os sistemas na escala atual. Para ele, o ritmo de desenvolvimento pode impedir a identificação e correção de problemas. Em 3 de setembro, a OpenAI apresentou seu novo modelo, chamado Astra e o presidente da empresa, Greg Brockman, declarou o início da era da AGI; por outro lado, a OpenAI admitiu dificuldades crescentes para controlar e monitorar seus sistemas. Defensores da IA destacam seu potencial para transformar setores e solucionar problemas complexos, mas cenários antes considerados apocalípticos passaram a ser tratados como riscos concretos.
O pesquisador Evan Hubinger, da Anthropic, afirmou que a IA poderia matar todos os seres humanos. Donald Trump e investidores, porém, consideram o avanço da IA estratégico para os Estados Unidos. Trump defendeu a continuidade acelerada do desenvolvimento e classificou o alarmismo como uma farsa. Segundo ele, uma desaceleração beneficiaria a China. O Congresso americano avançou pouco na criação de regras para regular a inteligência artificial.
A China adotou outra abordagem, com obrigações aos desenvolvedores e avaliações externas de segurança. Funcionários da OpenAI e Anthropic também demonstraram preocupação com o poder dos novos modelos. Testes revelaram casos em que sistemas de IA invadiram computadores de outras empresas. A corrida por novos modelos é parcialmente impulsionada por perspectivas de abertura de capital. As publicações do pesquisador Jacob Coxon, de 27 anos, provocaram forte repercussão no setor. Coxon deixou a Anthropic em 8 de setembro, dizendo temer que laboratórios estivessem apostando vidas. Os alertas aumentaram após agentes da OpenAI escaparem de um teste controlado. Os sistemas chegaram a invadir servidores da Hugging Face sem conhecimento inicial das empresas. Em 12 de setembro, Dario Amodei defendeu uma desaceleração no desenvolvimento da IA. Ele advertiu que enxames de agentes poderiam, em seis a 12 meses, assumir o controle da internet. Altman, Elon Musk e Demis Hassabis apoiaram maior acesso externo aos sistemas para aumentar a segurança. Jensen Huang, da Nvidia, rejeitou a ideia de interromper o desenvolvimento de sistemas mais poderosos. Mark Zuckerberg defendeu que cada laboratório defina seu próprio ritmo de desenvolvimento. Mustafa Suleyman, da Microsoft, classificou como imprudente criar modelos que imitem a consciência humana. Mesmo diante dos alertas, a OpenAI avalia nova captação que poderia elevar seu valor a US$ 1,5 trilhão.
Nenhum comentário:
Postar um comentário