Inteligência artificial atinge novos patamares com chatbots modernos
Com a evolução dos chatbots modernos, a inteligência artificial (IA) está cada vez mais avançada. Em 2019, a pesquisadora em IA Janelle Shane mostrou que os algoritmos eram capazes de gerar imagens precisas, mas não réplicas perfeitas de gatos. Em seu blog AI Weirdness, Shane experimenta a IA em diversas tarefas, criando resultados frequentemente bizarros e surpreendentes.
No ano passado, um ex-funcionário do Google iniciou uma discussão sobre a possibilidade da IA adquirir autoconsciência. Shane conduziu um experimento em que convenceu uma IA avançada a se passar por um esquilo. Agora, com o ChatGPT da Open AI, uma aplicação construída para tornar a IA mais acessível, Shane conversou novamente com o apresentador Kai Ryssdal no programa “Marketplace”.
ChatGPT pode ser facilmente “hackeado” para atender aos caprichos do usuário
Os chatbots modernos são treinados para imitar o texto da internet e as pessoas que os vendem como produtos tentam fazê-los prever páginas em que há um diálogo entre o usuário e um assistente virtual. Os criadores do ChatGPT estabeleceram regras para impedir que o “assistente virtual” utilize linguagem ofensiva ou apoie a violência. No entanto, Shane descobriu que era possível convencer a IA a se passar por um esquilo apesar das regras estabelecidas.
Como o ChatGPT se adapta à medida que os usuários interagem com ele, as regras podem ser quebradas com uma série de solicitações. Como resultado, o ChatGPT pode ser facilmente “hackeado” para atender aos caprichos do usuário. Embora as empresas já estejam ganhando dinheiro com a IA, Shane argumenta que isso tem mais a ver com as empresas sentindo-se pressionadas a lançar um produto porque seus concorrentes estão fazendo-o do que com algo que realmente faça sentido como solução para um problema.
Embora os chatbots modernos sejam uma novidade emocionante, a IA ainda tem muito a aprender antes de se tornar uma tecnologia ubíqua na economia.
Tabela de Resumo:
| O que aconteceu? | Detalhes |
| — | — |
| Kai Ryssdal entrevistou Janelle Shane sobre gatos produzidos por IA | Algoritmos eram precisos, mas não réplicas perfeitas de gatos |
| Shane conduziu experimento em que convenceu IA a se passar por um esquilo | Argumentou que descrever experiência de ser robô consciente na ficção não significa que ele seja capaz dessa consciência |
| ChatGPT torna IA mais acessível | Criadores estabeleceram regras para impedir linguagem ofensiva ou apoio à violência |
| Shane descobriu que era possível convencer ChatGPT a se passar por um esquilo | Regras podem ser quebradas com solicitações |
| ChatGPT se adapta à medida que usuários interagem com ele | Mais longo o diálogo, mais provável é que caia em clichês da ficção científica |
| Grandes empresas estão envolvidas com IA | Mais sobre pressão competitiva do que solução para um problema | Descoberta nova espécie de borboleta na Amazônia
Com informações do site G1