CEO do Google admite que problemas de “alucinação” ainda assombram a tecnologia de inteligência artificial
O CEO do Google, Sundar Pichai, admitiu que problemas de “alucinação” ainda assombram a tecnologia de inteligência artificial (IA) e que sua equipe está trabalhando para resolvê-los. Segundo Pichai, esses problemas são “esperados”. “Ninguém no campo resolveu ainda os problemas com alucinações. Todos os modelos têm esse problema”. Quando perguntado se o problema de alucinações seria resolvido no futuro, Pichai ressaltou que “é uma questão de debate intenso”, mas disse que sua equipe eventualmente “fará progresso”.
O chatbot da Google, Bard, é parte de uma nova onda revolucionária de IA que pode rapidamente gerar desde um ensaio sobre William Shakespeare até letras de rap no estilo de DMX. Porém, os chatbots e seus colegas ainda têm ao menos um problema seríssimo: às vezes eles inventam coisas.
Essa tendência indesejada foi exposta durante o programa 60 Minutes da CBS no domingo passado. Durante a reportagem sobre The Inflation Wars: A Modern History (As guerras inflacionárias: uma história moderna), de Peter Temin, o Bard declarou confiantemente que o livro “fornece uma história sobre a inflação nos EUA” e discute as políticas usadas para controlá-la. O problema é que este livro não existe. O chatbot cometeu um erro semelhante em março, quando afirmou em demonstração pública que o Telescópio Espacial James Webb capturou primeiramente uma imagem de um exoplaneta em 2005 – na verdade, isso foi conseguido um ano antes pelo Very Large Telescope no Chile.
Os chatbots como o Bard usam grandes modelos linguísticos (LLMs) que alavancam bilhões de pontos de dados para prever a próxima palavra em uma cadeia de textos. Esses sistemas tendem a produzir ilusões em que os modelos geram texto que parece plausível, mas não é factual.
Preocupações sobre a tecnologia AI
Para alguns críticos que alertam sobre possíveis consequências não intencionais dos sistemas AI, a resposta de Pichai pode não ser suficiente. O cofundador da Microsoft, Bill Gates, argumentou em março que o desenvolvimento da tecnologia AI poderia agravar a desigualdade mundial de riqueza. Elon Musk tem alertado sobre os perigos da IA há meses, argumentando que a tecnologia atingirá a economia “como um asteroide”. Os sistemas de IA também poderiam exacerbar a inundação de informações falsas por meio da criação deep fakes – imagens enganosas de eventos ou pessoas criadas por meio da IA – e até mesmo prejudicar o meio ambiente.
De acordo com um relatório anual do Instituto para IA centrada no homem da Universidade Stanford, pesquisadores alertaram na semana passada que ameaça se configura como uma potencial “catástrofe nuclear”, enquanto instavam a “necessidade urgente” de políticas governamentais internacionais. No domingo, Pichai revelou que compartilha algumas das preocupações dos pesquisadores e defende enfaticamente que a criação de sistemas AI deve incluir não apenas engenheiros, mas também cientistas sociais, éticos e filósofos para garantir que os resultados beneficiem todos.
Notícia | O chatbot da Google, Bard, é parte de uma nova onda revolucionária de inteligência artificial (IA) que pode rapidamente gerar desde um ensaio sobre William Shakespeare até letras de rap no estilo de DMX. Porém, os chatbots e seus colegas ainda têm ao menos um problema seríssimo: às vezes eles inventam coisas. |
---|---|
Problemas | Os chatbots como o Bard usam grandes modelos linguísticos (LLMs) que alavancam bilhões de pontos de dados para prever a próxima palavra em uma cadeia de textos. Esses sistemas tendem a produzir ilusões em que os modelos geram texto que parece plausível, mas não é factual. |
Preocupações | Bill Gates argumentou em março que o desenvolvimento da tecnologia AI poderia agravar a desigualdade mundial de riqueza. Elon Musk tem alertado sobre os perigos da IA há meses, argumentando que a tecnologia atingirá a economia “como um asteroide”. Os sistemas de IA também poderiam exacerbar a inundação de informações falsas por meio da criação deep fakes – imagens enganosas de eventos ou pessoas criadas por meio da IA – e até mesmo prejudicar o meio ambiente. |
Recomendação | Sundar Pichai defende enfaticamente que a criação de sistemas AI deve incluir não apenas engenheiros, mas também cientistas sociais, éticos e filósofos para garantir que os resultados beneficiem todos. |
Com informações do site Fortune.