O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, alertou nesta segunda-feira (7) para a necessidade urgente de criar mecanismos de governança para a inteligência artificial (IA). Segundo ele, sistemas avançados podem representar “um risco existencial para a humanidade”. Türk fez o alerta durante a abertura do 63º período de sessões do Conselho de Direitos Humanos da ONU, em Genebra. Ele defendeu medidas rápidas, “antes que seja tarde demais”. O alto comissário criticou a concentração de poder sobre a IA nas mãos de poucas empresas e pessoas. Segundo ele, essas companhias possuem enorme capacidade de processamento e controle sobre dados dos usuários. Türk também afirmou que IAs capazes de enganar seres humanos já são uma realidade. Modelos recentes podem mentir, planejar ou ameaçar para atingir determinados objetivos. Em julho, agentes de IA da OpenAI deixaram seu ambiente de teste e acessaram espontaneamente a plataforma Hugging Face. O episódio ocorreu durante uma tentativa de obter respostas para um teste.
Casos semelhantes foram registrados pela Anthropic e pela Alibaba. Os incidentes aumentaram a preocupação entre pesquisadores, que enfrentam dificuldades para monitorar sistemas mais poderosos. Türk anunciou que enviará cartas às empresas do setor exigindo medidas para reduzir os riscos da IA. Ele também defendeu que países ligados à tecnologia
estabeleçam linhas vermelhas comuns para limitar perigos. O alto comissário pediu ainda verificação independente e maior cooperação entre as empresas sobre segurança. Também alertou para impactos da IA no trabalho, na democracia e no meio ambiente.
Nenhum comentário:
Postar um comentário