Carta aberta alerta para os riscos do avanço da inteligência artificial
No mês de março de 2023, diversos especialistas assinaram uma carta aberta preocupados com o avanço da inteligência artificial (IA) na sociedade. O escritor Evgeny Morozov concorda que a IA ainda tem muito a evoluir até alcançar a inteligência humana, mas destaca a importância do avanço atual. Um exemplo é o chatbot ChatGPT, que passou no Teste de Turing, criado pelo matemático Alan Turing em 1950 para avaliar se um modelo de IA consegue imitar uma conversa humana. Isso representa um marco na pesquisa de IA.
No entanto, Morozov aponta que os chatbots têm suas limitações, pois suas respostas são baseadas em modelos probabilísticos e grandes volumes de dados treinados por humanos. Isso significa que os criadores desses modelos podem facilmente manipulá-los para atender às suas próprias finalidades, o que é perigoso, considerando sua onipresença por meio dos motores de busca e sua capacidade semelhante à humana em criar realidades e gerar confiança onde ela não existe naturalmente.
A falta de conhecimento sobre as implicações da tecnologia na sociedade é outro problema relatado pelos signatários da carta. O desenvolvimento acelerado da IA está ocorrendo mais rápido do que nossa habilidade em entender totalmente suas consequências, o que pode levar a resultados indesejados ou indesejáveis. Por exemplo, o xadrez e as traduções foram considerados impossíveis para a IA, mas agora já foram solucionados.
Entre as críticas à IA estão a falta de moral, ética, consciência, instinto e bom senso, que são características humanas. Mas os defensores da tecnologia argumentam que seu potencial evolutivo é enorme, apesar de suas deficiências iniciais. Ainda assim, é necessário manter um olhar crítico sobre o avanço da IA antes de confiar cegamente em suas promessas.
A carta aberta dos especialistas sugere que precisamos avaliar com cautela as implicações futuras do progresso da IA na sociedade e considerar seriamente seus riscos potenciais.
Resumo da Notícia |
---|
Diversos signatários assinaram uma carta aberta preocupados com o avanço da inteligência artificial (IA) na sociedade. |
O chatbot ChatGPT foi o segundo a passar no Teste de Turing criado pelo matemático Alan Turing em 1950 para avaliar se um modelo de IA pode imitar uma conversa de forma convincente o suficiente para enganar outro participante. |
A falta de conhecimento sobre as implicações da tecnologia na sociedade é outro problema relatado pelos signatários da carta. |
Algumas limitações diversas em relação aos seres humanos, como falta de moral, ética, consciência, instinto e bom senso, são algumas das críticas feitas à IA. |
Os defensores da tecnologia argumentam que seu potencial evolutivo é enorme, apesar de suas deficiências iniciais. |
É necessário manter um olhar crítico sobre o avanço da IA antes de confiar cegamente em suas promessas. |
Com informações do site The Guardian.