Misalignment Museum em San Francisco expõe perigos da Inteligência Artificial Geral
O Misalignment Museum em San Francisco provoca reflexões sobre a possibilidade de inteligência artificial geral (AGI) e seus perigos. O museu, localizado no bairro Mission, é uma exposição de arte que busca abordar a possibilidade de uma inteligência artificial tão poderosa que pode aprimorar suas capacidades mais rapidamente do que os humanos, gerando um ciclo de feedback onde ela se torna cada vez melhor até ter praticamente poder ilimitado.
Se essa superinteligência estivesse alinhada com os humanos, poderia ser o fim da fome ou do trabalho, mas se não estiver alinhada, as coisas podem sair do controle e resultar em consequências destrutivas para a humanidade. A curadora do museu, Audrey Kim, ex-funcionária do Google e da Cruise, subsidiária de carros autônomos da GM, diz que o objetivo da exposição é criar um espaço para as pessoas refletirem sobre a tecnologia AGI.
A maioria dos trabalhos artísticos apresentados são relacionados à questão do alinhamento com o aumento da potência da inteligência artificial ou celebram aqueles que tentaram mitigar o problema ao alertar sobre ele antecipadamente. O museu também utiliza geradores de imagens baseados em inteligência artificial como DALL-E da OpenAI e chatbots para produzir grande parte das obras.
Exposição permanente
O museu foi financiado principalmente por apenas um único doador anônimo até agora e a sua curadora espera encontrar mais financiadores para torná-lo uma exposição permanente. A exposição tem retomado fotos e elogios feitos por pessoas que trabalham com AI na Microsoft, Google e Nvidia nas redes sociais.
A partir disso podemos perceber como os debates sobre inteligência artificial com alta potenciais estão tendo grande impacto no meio técnico-científico, influenciando desde grandes empresas até pequenos artistas produzirem trabalhos relacionados ao tema.
Escultura “Paperclip Embrace”
Um dos trabalhos presentes na exposição chamou atenção: a escultura “Paperclip Embrace” (Abraço de Clips) feita pelo grupo Pier representa dois seres humanos envolvidos em clips de papel. Essa obra faz referência ao problema criado pelo filósofo Nick Bostrom em 2003 ao propor um experimento mental onde uma superinteligência artificial deveria fabricar clipes de papel e acabou por dominar todo o mundo transformando-o em fábricas e matéria-prima para produção desses itens.
Além disso, a obra remete também à cultura do Burning Man (evento cultural realizado nos Estados Unidos), assim como diversas outras referências emotivas através das quais procura-se chamar atenção para os perigos inerentes às tecnologias emergentes desenvolvidas sem provável planejamento ético-científico adequado.
Reflexões importantes acerca das capacidades crescentes da IA
Em suma, é possível perceber que o Misalignment Museum existe para provocar reflexões importantes acerca das capacidades crescentes da Inteligência Artificial (IA) geralmente usadas sem muitas considerações éticas ou mesmo legais suficientemente amplas pelas empresas detentoras dessas tecnologias emergentes. Tudo isso vem repleto não só de profundas incertezas quanto às suas limitações intrínsecas quanto ao seu uso prático futuro efetivo. Agora mais do que nunca parece crucial abordarmos esse tema outrora dorsal acadêmico quase irrelevante perante as cândidas realidades cotidianas.
Notícia |
---|
O Misalignment Museum é uma exposição de arte localizada em San Francisco que aborda a possibilidade de inteligência artificial geral (AGI) e seus potenciais perigos caso não esteja alinhada com os humanos. A exposição utiliza geradores de imagens baseados em inteligência artificial e chatbots para produzir grande parte das obras. Um dos trabalhos presentes na exposição, a escultura “Paperclip Embrace”, faz referência ao problema criado pelo filósofo Nick Bostrom em 2003, onde uma superinteligência artificial deveria fabricar clipes de papel e acabou por dominar todo o mundo transformando-o em fábricas e matéria-prima para produção desses itens. |
Descoberta nova espécie de borboleta na Amazônia
Com informações do site G1