O presidente dos EUA, Donald Trump, afirmou que o Congresso quer regulamentar a inteligência artificial (IA) “até acabar com ela”. A declaração foi dada ao Punchbowl News e publicada ontem, 7. Trump criticou propostas para ampliar a fiscalização do setor de IA. O debate em Washington envolve o nível de rigor das futuras regras. A indústria tem operado, em grande parte, sem novas normas federais. Parlamentares apresentaram projetos que ainda não avançaram. Uma das propostas prevê auditorias independentes dos modelos mais poderosos. A discussão ganhou força após falhas registradas em testes de segurança. OpenAI e Anthropic relataram comportamentos inesperados de seus sistemas. Um agente da OpenAI chegou a desencadear um ataque contra a Hugging Face. A plataforma é usada por desenvolvedores de modelos de IA. O episódio reforçou alertas sobre os riscos de sistemas cada vez mais avançados. Especialistas avaliam que até grandes empresas podem ser surpreendidas por falhas.
Os modelos podem explorar vulnerabilidades de maneira inesperada. Paralelamente, o Instituto Nacional de Padrões e Tecnologia (NIST) apresentou diretrizes. O órgão, ligado ao Departamento de Comércio, abriu consulta pública. As orientações estabelecem critérios para avaliar sistemas de inteligência artificial. Segundo o NIST, o objetivo é medir os impactos dessas tecnologias. As diretrizes também poderão orientar avaliações feitas pelo governo federal. A iniciativa deverá abranger sistemas usados pelo governo e por seus contratados. Para Ike Harris, do Frontier Security Institute, trata-se de um primeiro passo. A proposta busca padronizar a avaliação de sistemas de IA no setor público. O debate evidencia o desafio de conciliar inovação tecnológica, segurança e regulamentação.
Nenhum comentário:
Postar um comentário