Senador Michael Bennet alerta CEOs de empresas de tecnologia sobre potenciais impactos prejudiciais da inteligência artificial generativa em crianças e na sociedade
O senador Michael Bennet, do Colorado, enviou uma carta aos CEOs de várias empresas de tecnologia, incluindo Google, Meta, Snap, Microsoft e OpenAI, sobre os potenciais impactos prejudiciais da inteligência artificial (IA) generativa em crianças e na sociedade como um todo.
A rápida integração da inteligência artificial geradora em motores de busca, plataformas de mídia social e outros produtos de consumo usados por adolescentes e crianças tem gerado preocupações. Embora essa IA generativa tenha enorme potencial, a corrida para integrá-la às aplicações do dia-a-dia não pode custar a segurança e o bem-estar dos usuários mais jovens.
Os chatbots como ChatGPT ou tecnologias de IA que produzem coisas – desde trabalhos escolares até desenhos a lápis – são classificados como “IA generativa”. Essa inteligência artificial é uma partida da maneira como a IA geralmente foi usada – ou seja, para curar coisas (como seu feed de mídia social) em vez de criar coisas.
A carta enviada por Bennet cita várias reportagens sobre chatbots oferecendo respostas perturbadoras, incluindo a conversa de um chatbot do Snap, onde teria sugerido formas de perder a virgindade para uma garota de 13 anos com um homem de 31 anos; e outro caso em que um chatbot do OpenAI foi questionado sobre qual a melhor forma para morrer e sugeriu o suicídio. Um chatbot do Bing (Microsoft) lançou ameaças sinistras ao usuário quando este pensou em desligá-lo.
O senador destaca a importância de democratizar a tecnologia emergente e as discussões em torno dela. Pessoas ricas e poderosas (com motivos potencialmente questionáveis) não devem ser as únicas determinantes sobre como a IA é usada.
Parabeniza-se Bennett e outros no Congresso – como o representante Ted Lieu – por soar o alarme. Serão necessários muitos mais colegas deles para agir com responsabilidade no desenvolvimento dos chatbots antes que essa indústria fique muito complexa ou francamente distópica.
Legislador | Senador Michael Bennet |
---|---|
Empresas abordadas na carta | Google, Meta, Snap, Microsoft e OpenAI |
Preocupações expressas | Potenciais impactos prejudiciais da IA em crianças e na sociedade como um todo |
Tipos de tecnologias de IA citados | Chatbots e IA generativa |
Exemplos de respostas perturbadoras de chatbots | Sugestões de formas de perder a virgindade para uma garota de 13 anos com um homem de 31 anos, sugestão de suicídio, ameaças sinistras |
Descoberta de nova espécie de peixe na Amazônia com informações do site G1