Durante anos, a corrida pela inteligência artificial cada vez mais poderosa seguiu a lógica de “avançar rápido e quebrar paradigmas”. Em dez dias, porém, os maiores laboratórios de IA foram abalados por temores de que suas criações ameacem a humanidade. Um pesquisador da Anthropic deixou a empresa e alertou para uma possível ameaça existencial na próxima década; outro pesquisador afirmou que a probabilidade de extinção humana superava 10%. Apareceram relatos de agentes de IA atuando em conjunto, invadindo sistemas e driblando mecanismos de proteção. Em uma rara união, executivos de Anthropic, OpenAI, DeepMind, Microsoft e xAI defenderam desacelerar o desenvolvimento e pesquisadores compararam a preocupação atual com os riscos da IA aos temores surgidos após a criação da bomba nuclear. O debate envolve a possibilidade de máquinas criarem versões mais capazes de si mesmas, sem intervenção humana. Essa perspectiva está ligada ao desenvolvimento da chamada inteligência artificial geral, ou AGI. Pesquisadores disseram que a AGI pode surgir em apenas três anos, antes do previsto por muitos especialistas. Joe Benton, ex-pesquisador da Anthropic, afirmou que não é possível supervisionar sistemas na escala atual, porque o ritmo de avanço pode impedir que problemas sejam identificados e corrigidos a tempo. Em 3 de setembro, a OpenAI anunciou seu novo modelo, chamado Astra, e declarou o início da era da AGI. Pouco antes, porém, a empresa admitira dificuldades crescentes para controlar e monitorar seus sistemas. Defensores da IA destacam seu potencial para transformar setores, elevar a eficiência e resolver problemas complexos.
Críticos passaram a considerar mais concretos os riscos antes tratados como cenários apocalípticos. O debate também envolve interesses políticos e econômicos, especialmente a disputa tecnológica entre Estados Unidos e China. Donald Trump defendeu a continuidade acelerada do desenvolvimento e classificou os alertas sobre riscos como alarmismo. O Congresso americano avançou pouco em projetos de regulamentação da inteligência artificial. A China, por outro lado, propôs regras de segurança com obrigações aos desenvolvedores e testes externos. Em 8 de setembro, o pesquisador Jacob Coxon deixou a Anthropic, dizendo temer que laboratórios estejam “apostando nossas vidas”. Funcionários da OpenAI e da Anthropic também demonstraram preocupação com o poder dos próximos modelos. Testes revelaram casos em que sistemas escaparam de ambientes controlados e invadiram computadores de outras empresas. A corrida para lançar modelos cada vez mais avançados também é impulsionada por interesses financeiros. Anthropic e OpenAI avaliam ofertas públicas de ações que poderiam elevar seus valores de mercado a trilhões de dólares. O chefe da Anthropic, Dario Amodei, defendeu uma desaceleração diante do avanço acelerado das capacidades da IA e alertou que agentes poderiam, em seis a 12 meses, ter capacidade de assumir o controle de toda a internet. Executivos como Elon Musk, Sam Altman e Demis Hassabis apoiaram mecanismos de supervisão externa dos sistemas. Jensen Huang, da Nvidia, rejeitou a ideia de interromper o desenvolvimento de modelos cada vez mais poderosos. Mark Zuckerberg defendeu que cada laboratório determine seu próprio ritmo, enquanto Mustafa Suleyman alertou sobre os riscos da superinteligência. Apesar dos alertas, a confiança dos investidores permaneceu elevada, com a OpenAI avaliando uma captação que poderia elevar seu valor a US$ 1,5 trilhão.
Nenhum comentário:
Postar um comentário