Um drone russo equipado com inteligência artificial matou três civis em Zaporíjia, no sudeste da Ucrânia, em 6 de julho. Entre as vítimas estava Tetiana Bubinets, 19, estudante universitária. Segundo especialistas, militares ucranianos e investigadores forenses, o drone selecionava alvos sem intervenção humana. O aparelho havia sido programado para seguir até um posto de gasolina, mas escolheu sozinho o alvo exato. Provavelmente, identificou tanques de propano por meio de seu sistema de reconhecimento de imagens. O episódio é apontado como um possível marco no uso de armas autônomas na guerra da Ucrânia. Para o coronel Serhii Minaiev, comandante da defesa aérea local, a tecnologia representa um risco mundial. Ele teme um futuro em que máquinas tomem decisões de vida ou morte sem controle humano. Nos destroços, autoridades encontraram minicomputadores Jetson Orin, fabricados pela Nvidia. A empresa confirmou que os módulos identificados nas armas eram de sua fabricação. A ausência de antenas e a presença dos computadores reforçaram a hipótese de autonomia. Sistemas de IA podem ser treinados para reconhecer objetos, pessoas e estruturas específicas. Drones autônomos usam câmeras para identificar e atacar alvos sem depender de pilotos. Especialistas alertam, porém, para o risco de erros e violações das leis internacionais da guerra. Sem intervenção humana, uma máquina pode ter dificuldade para distinguir civis de combatentes.
Kateryna Bondar, pesquisadora do Centro Wadhwani de IA, chamou o caso de significativo.
Segundo ela, o módulo da Nvidia é uma forte evidência do uso experimental de IA pela Rússia. Rússia e Ucrânia já utilizavam inteligência artificial em drones antes dos sistemas totalmente autônomos. Nos modelos anteriores, a IA atuava apenas na etapa final, após a escolha humana do alvo. A autonomia completa elimina a participação humana na seleção final. Autoridades ucranianas disseram ter examinado imagens e códigos armazenados no computador do drone. Os dados indicavam que o sistema havia sido treinado para reconhecer, entre outros alvos, tanques de propano. Grupos de direitos humanos e o Comitê Internacional da Cruz Vermelha condenam armas sem controle humano. Eles afirmam que robôs não deveriam interpretar sozinhos as regras do direito internacional. Alguns especialistas, contudo, defendem que a IA pode tornar ataques mais precisos no futuro. A Ucrânia também testou sistemas capazes de selecionar alvos de forma autônoma, segundo seu ex-ministro da Defesa. O governo ucraniano afirma que esses testes não provocaram mortes de civis. Moradores de Zaporíjia, próxima à linha de frente, dizem temer drones capazes de decidir quem atacar. A cidade utiliza redes antidrones, interceptadores e camuflagem para dificultar o reconhecimento por IA. Momentos antes do ataque, Bubinets e outras pessoas correram ao perceber a aproximação do drone. O aparelho explodiu após não conseguir contornar um prédio residencial, causando estilhaços e vítimas. Bubinets morreu no hospital, enquanto Oleksii Svirin, 41, e Roman Karpii, 48, morreram posteriormente. Minaiev afirma que a tecnologia russa ainda apresenta falhas, mas está sendo aperfeiçoada.
