A declaração do britânico Jacob Coxon, ex-funcionário da OpenAI e da Anthropic, acendeu o alerta sobre os riscos da inteligência artificial. Segundo ele, profissionais que desenvolvem IA acreditam que a tecnologia pode ameaçar a humanidade até o fim da década. Diante das preocupações, o Conselho de Segurança da ONU anunciou uma reunião para discutir o tema na próxima semana, em Nova York. A França, que preside o órgão, considera a IA uma possível “ameaça existencial” à segurança mundial, enquanto o alto comissário da ONU para os Direitos Humanos, Volker Türk, também pediu ação urgente para regulamentar a tecnologia. Para ele, todos os direitos humanos, inclusive o direito à vida, estão ameaçados. O presidente dos Estados Unidos, Donald Trump, porém, rejeitou a ideia de regulamentação, classificando como “farsa” o temor de que a IA possa controlar o mundo ou destruir a humanidade; acusou de existir uma conspiração contra a inteligência artificial e os centros de dados. O diretor-executivo da Anthropic, Dario Amodei, defendeu desacelerar o desenvolvimento dos sistemas mais avançados, porque as empresas precisam garantir tempo suficiente para proteger e alinhar seus modelos. O cientista Stuart J. Russell alertou que a IA pode chegar a um ponto em que seja mais inteligente que os humanos. Sua principal preocupação é a perda irreversível de controle sobre sistemas cada vez mais poderosos. Russell também teme o colapso da coesão social e dos sistemas econômicos provocado pela tecnologia. Outro risco seria o uso catastrófico da IA para criar patógenos ou atacar infraestruturas críticas. Ele considera que a resistência de Trump à regulamentação não está baseada em fatos sobre a tecnologia.
A IA já provoca impactos em áreas como emprego, saúde, defesa, educação, energia e biossegurança. Russell alerta ainda para uma possível substituição acelerada e massiva de trabalhadores humanos. Segundo ele, a tecnologia pode assumir tanto empregos atuais quanto novas funções que surgirem. O desafio será direcionar a IA para necessidades ainda não atendidas, em vez de substituir atividades humanas. O matemático Mohammed Abouzaid destacou outro problema: o domínio das ferramentas mais avançadas por poucas empresas. Para ele, existe o risco de pesquisadores se tornarem excessivamente dependentes dessas grandes companhias. Ao mesmo tempo, a IA pode ampliar a produção de conhecimento e criar novas oportunidades para matemáticos. Na área médica, especialistas alertam que um erro humano é localizado, enquanto um erro algorítmico pode atingir milhões. Algoritmos treinados com dados históricos também podem reproduzir desigualdades e preconceitos existentes. Outro perigo é a confiança excessiva em sistemas capazes de produzir informações incorretas com aparência de precisão. Privacidade, segurança cibernética, transparência e responsabilidade também estão entre as principais preocupações. A questão central, portanto, não é apenas se a IA deve ser utilizada. É preciso definir quem controla a tecnologia, sob quais valores e a serviço de quais interesses. A inteligência artificial deve ampliar a capacidade humana, sem substituir a responsabilidade pelas decisões. A crescente preocupação internacional reforça a necessidade de regras capazes de conciliar inovação e segurança.
Nenhum comentário:
Postar um comentário