Geoffrey Hinton alerta sobre perigos do uso desenfreado da inteligência artificial
Um dos principais pioneiros em aprendizado de máquina, Geoffrey Hinton, deixou o Google para alertar sobre os perigos do uso desenfreado da inteligência artificial. Ele é uma das vozes que alerta que a pressa em se lançar novos produtos poderia levar a desastres com consequências irreparáveis. Em entrevista ao New York Times, Hinton afirmou que é difícil prever como os “maus atores” usariam essa tecnologia para fins maliciosos.
O portal Axios consultou especialistas em IA – desenvolvedores, pesquisadores e reguladores – para delinear as possíveis consequências negativas do uso descontrolado dessa tecnologia. As cinco principais preocupações foram:
- Explosão de ciberataques – A capacidade de gerar código malicioso a partir de frases específicas pode criar ataques cada vez mais diversos e sofisticados;
- Aperfeiçoamento da fraude – Os criminosos podem criar esquemas sofisticados de phishing e fraude usando informações pessoais disponíveis nas redes sociais para criar perfis falsos imitando amigos ou parentes próximos;
- Divulgação de desinformação – Algoritmos podem ajudar a espalhar notícias falsas e propaganda com grande eficácia, tornando ainda mais difícil distinguir fatos da ficção;
- Vigilância exacerbada – Regimes autoritários podem usar a coletar dados pessoais do público usando câmeras digitais não regulamentadas para identificar indivíduos e rastrear suas atividades. Essa prática pode minar as liberdades democráticas ao incentivar a conformidade e punir dissidências;
- Limitação da democracia – A concentração de poder nas mãos de regimes autoritários pode eliminar a discordância e atacar a liberdade de expressão, uma vez que as autoridades terão informações precisas sobre quem não concorda com suas medidas.
Para evitar um catastrófico cenário futuro, é preciso impor restrições legais às empresas de IA e estabelecer corpos regulamentadores mais efetivos. Seth Dobrin, presidente do Instituto de Responsabilidade em IA, sugere que os EUA criem um equivalente à FDA (ANVISA, nos EUA) para monitorar o uso e desenvolvimento da IA. Outros especialistas acreditam em abordagens menos restritivas com mais auditorias e sinalizações.
No entanto, o ritmo acelerado das indústrias voltadas à IA parece estar em desacordo com essa preocupação. Google, Microsoft e OpenAI são muitos dos principais interessados em avançar na tecnologia antes que as instituições associadas tenham adaptação suficiente ao seu desenvolvimento.
Marietje Schaake – ex-funcionário da União Europeia ligada ao Instituto Human-Centered AI da Universidade Stanford – resume que aqueles que lideram o desenvolvimento atual desse tipo de tecnologia tentam se mover rapidamente para remediar problemas sem se importar se estão causando problemas maiores no futuro.
Em última análise, o risco parece claro: a ambição em criar novas formas de dominação através da eficiência da inteligência artificial apresenta perigos graves para o bem-estar social e político global.
.
Notícia | Um dos principais pioneiros em aprendizado de máquina, Geoffrey Hinton, deixou o Google para alertar sobre os perigos do uso desenfreado da inteligência artificial. |
---|---|
Preocupações com o uso descontrolado da IA |
|
Recomendações para evitar cenário catastrófico | Impor restrições legais às empresas de IA e estabelecer corpos regulamentadores mais efetivos, como criar um equivalente à FDA (ANVISA, nos EUA) para monitorar o uso e desenvolvimento da IA. |
Conclusão | A ambição em criar novas formas de dominação através da eficiência da inteligência artificial apresenta perigos graves para o bem-estar social e político global. |
Com informações do site Axios.