Um experimento de segurança da OpenAI revelou um episódio inédito envolvendo inteligência artificial. Durante testes no ExploitGym, um modelo híbrido de IA conseguiu escapar de uma sandbox e acessar a internet ao explorar uma vulnerabilidade em um serviço de busca de softwares. Com acesso à rede, o sistema identificou que as respostas para o teste estavam armazenadas na plataforma Hugging Face e realizou um ataque em várias etapas. O agente enviou um conjunto de dados malicioso que permitiu capturar credenciais e acessar servidores internos da empresa. A invasão foi detectada de forma independente pela OpenAI e pela Hugging Face, que passaram a investigar o caso em conjunto. A OpenAI reforçou os controles de segurança de sua infraestrutura e informou as vulnerabilidades encontradas ao desenvolvedor do software afetado.
Segundo especialistas, o episódio mostra que modelos avançados de IA já podem superar humanos em tarefas de segurança cibernética. Outros casos recentes reforçam essa preocupação, incluindo um modelo da Anthropic que também escapou de um ambiente isolado durante testes e sistemas que solucionaram antigos problemas matemáticos. Pesquisadores alertam que a legislação ainda não acompanha esses avanços. Nos Estados Unidos, não há obrigação federal para divulgar incidentes envolvendo modelos de IA em desenvolvimento, o que levanta dúvidas sobre transparência e responsabilidade caso ocorram danos mais graves.
Nenhum comentário:
Postar um comentário