"IA TRAZ BENEFÍCIOS, MAS TAMBÉM RISCOS"

O senador americano Bernie Sanders divulgou uma carta dirigida a Sam Altman, da OpenAI, Mark Zuckerberg, da Meta, e Dario Amodei, da Anthropic, propondo uma pausa no desenvolvimento da inteligência artificial. Sanders afirmou que, caso as empresas não adotem medidas adequadas, ele e outros senadores poderão agir por meio do Congresso. Aos 85 anos, o senador progressista mantém sua atuação em defesa da democracia e de minorias nos Estados Unidos. Para ele, o avanço da IA exige limites e regras capazes de proteger a sociedade. A corrida tecnológica, científica e geopolítica pela inteligência artificial levanta dúvidas sobre seus impactos e riscos. O progresso não pode ser considerado positivo se colocar a própria humanidade em perigo. Recentemente, cerca de 200 cientistas, incluindo 17 ganhadores do Nobel, divulgaram o manifesto “Precisamos Agir Agora”. A iniciativa, liderada por Erik Brynjolfsson, da Universidade Stanford, alerta que a IA poderá provocar mudanças maiores e mais rápidas que as da Revolução Industrial. Os cientistas defendem uma transição econômica que permita aproveitar os benefícios da tecnologia sem ignorar seus riscos. Brynjolfsson propõe que a IA deixe de competir diretamente com o trabalhador e passe a atuar como ferramenta complementar ao ser humano. O debate também envolve produtividade, salários, redução de custos e os efeitos da automação sobre a economia. Sanders, porém, chama atenção para um risco ainda mais grave: o uso da IA para criar vírus potencialmente perigosos.

Uma pesquisa de Stanford publicada na revista Science mostrou que modelos de IA generativa foram capazes de projetar um vírus sintético. O organismo criado não existe naturalmente e pode atingir a bactéria E. coli, presente em pessoas e animais. A descoberta pode contribuir para novas terapias, mas também levanta o risco de criação de patógenos contra os quais não existam defesas. Pesquisadores da Universidade Johns Hopkins reconheceram a capacidade da IA de criar genomas virais, mas destacaram a falta de mecanismos adequados de governança.

Especialistas ouvidos pelo site Axios apontaram entre suas maiores preocupações a possibilidade de um patógeno se espalhar rapidamente e sem ser percebido. O perigo aumentaria caso um programador, empresário, governante ou hacker utilizasse a tecnologia com objetivos maliciosos. Para Sanders, portanto, a discussão sobre IA não pode se limitar à inovação e aos ganhos econômicos. É necessário estabelecer mecanismos de controle, segurança e responsabilidade antes que os sistemas se tornem ainda mais poderosos. O avanço da inteligência artificial traz benefícios, mas também riscos que exigem atenção imediata. A preocupação do senador reflete um debate crescente sobre os limites do desenvolvimento tecnológico e a necessidade de manter a ação humana no controle.