OpenAI, Anthropic e Google DeepMind trabalham na criação de um órgão de supervisão dos riscos da inteligência artificial. A informação foi divulgada pela OpenAI à AFP ontem, 15. A iniciativa ocorre em meio ao aumento dos apelos por maior controle e segurança da tecnologia. As preocupações cresceram nas últimas semanas com alertas de ex-funcionários de grandes empresas de IA. Eles afirmam que o avanço da tecnologia pode representar riscos significativos para a humanidade. As principais empresas do setor também defendem há meses maior supervisão e um marco regulatório nos EUA. A proposta de criar uma entidade de supervisão foi apresentada em julho por Demis Hassabis, cofundador e diretor-executivo do Google DeepMind. Hassabis sugeriu um modelo semelhante à Autoridade Reguladora da Indústria Financeira dos Estados Unidos. O órgão funcionaria como uma estrutura de autorregulação do próprio setor de inteligência artificial. Segundo ele, o financiamento teria de ser significativo e vir principalmente das empresas. Também seria necessário reunir especialistas técnicos e grandes recursos computacionais. Esses recursos permitiriam realizar testes em larga escala nos sistemas de IA. Em agosto, o governo americano iniciou uma avaliação dos novos modelos de inteligência artificial. A participação, porém, é voluntária, e a metodologia adotada ainda não foi divulgada.
A discussão ganhou força após Dario Amodei, chefe da Anthropic, defender uma desaceleração no desenvolvimento da IA. O presidente Donald Trump, contudo, reiterou que não pretende impor limites ao setor e afirmou que os alertas sobre a IA dominar o mundo e destruir a humanidade são uma farsa. Integrantes de seu governo também rejeitam restrições mais amplas à tecnologia. A justificativa é o temor de que a China avance e assuma a liderança mundial em inteligência artificial. Na semana passada, o ex-desenvolvedor da Anthropic Jacob Coxon advertiu sobre os riscos da tecnologia. Segundo ele, as empresas de IA estariam colocando em risco a vida das pessoas. Na segunda-feira (14), Bilal Chughtai, ex-pesquisador do Google DeepMind, reforçou essas preocupações, afirmando acreditar que a inteligência artificial pode ter consequências fatais para a humanidade. Ele também declarou que o tempo para evitar um possível desfecho grave pode estar se esgotando. O debate reúne, assim, empresas, governos e pesquisadores em torno da segurança da IA. Enquanto algumas empresas defendem mecanismos de supervisão, o governo Trump mantém posição contrária a limites rígidos. A criação do novo órgão pretende ampliar os testes e o monitoramento dos riscos associados aos sistemas de IA.
Nenhum comentário:
Postar um comentário