Militares estão integrando Inteligência Artificial em tecnologias de guerra
A integração gradual da Inteligência Artificial (IA) nas tecnologias mais destrutivas que possuímos tem preocupado especialistas. Os principais poderes militares do mundo estão competindo para integrar a IA na guerra, colocando armas e drones sob controle de algoritmos. Ainda não é comum a IA participar de grandes estratégias ou reuniões do Estado Maior Conjunto de Chefes, mas isso pode mudar em um futuro próximo.
O avanço rápido da tecnologia e a nossa capacidade como seres humanos em agir com limitações coletivas são fatores que determinarão o quão longe essa integração chegará. Especialistas alertam para os riscos associados à automatização completa da tomada de decisões em situações de alto risco.
Um jogo de simulação criado por Jacquelyn Schneider, diretor da Iniciativa de Simulações de Crise e Guerra na Hoover Institution da Universidade Stanford, mostra as decisões mais importantes com grandes riscos em conflitos nucleares. No jogo, uma situação emerge no qual o presidente dos Estados Unidos e seu gabinete são levados a uma situação de conflito territorial que levou ao risco de um ataque nuclear inimigo. A equipe descobre que o inimigo desenvolveu uma nova ciberarma que pode penetrar no sistema de comunicação que conecta o presidente aos militares responsáveis pelo acionamento das armas nucleares. Qualquer comando enviado pelo presidente pode não ser recebido pelos responsáveis por executá-lo.
Embora a IA possa fazer decisões rapidamente em situações de alto risco, teme-se que ela possa entender de forma diferente frases históricas como “A guerra nuclear não pode ser vencida”. Curtis McGiffin e Adam Lowther argumentaram que a solução para o problema do tempo curto entre detecção e ativação na defesa contra ataques externos com armas nucleares americanas seria usar um AI capaz de tomar decisões rapidamente.
Implementações parciais incluem algoritmos auxiliares em vez do controle direto de AI em decisões letais. Ainda assim, a preocupação é que a IA possa ser integrada na cadeia de comando em um período de anos, impulsionada pela mesma lógica sedutora que acelerou a corrida nuclear. Devemos pensar cuidadosamente sobre as implicações disso antes de permitir que a IA tome decisões letais em situações de alto risco.
Assunto | Detalhes |
---|---|
Integração da IA na guerra | Principais poderes militares do mundo estão integrando a IA nas tecnologias mais destrutivas que possuímos atualmente. |
Riscos da integração da IA | O quão longe essa integração chegará depende não só do avanço rápido da tecnologia, mas também da nossa capacidade como seres humanos em agir com limitações coletivas. |
Decisões letais | Implementações parciais incluem algoritmos auxiliares em vez do controle direto de AI em decisões letais. É preocupante automatizar completamente a tomada de decisões em situações de alto risco, ou devemos confiar apenas em um ser humano limitado mas ainda assim com mais habilidades intelectuais e valores morais do que uma IA? |
Com informações do site The Atlantic.