Senado dos Estados Unidos debate riscos da inteligência artificial sem supervisão
CEOs de empresas de tecnologia pedem regulamentação para IA
Senadores dos Estados Unidos ouviram testemunhos alarmantes indicando que a Inteligência Artificial (IA) sem supervisão poderia roubar empregos, espalhar desinformação e, em geral, “dar muito errado”, de acordo com o CEO da OpenAI, Sam Altman. Durante a audiência no Senado desta semana, Sam Altman da OpenAI, responsável pela criação do ChatGPT, chegou ao ponto de pedir um sistema de licença para o controle das empresas de tecnologia avançada como a dele. “O meu pior medo é que nós – o campo, a tecnologia, a indústria – causemos dano significativo ao mundo”, disse Altman durante a audiência.
Embora as funções de direção automática já existissem antes da popularização dos modelos de linguagem por aprendizagem de máquina, ambos os sistemas dependem de algoritmos de machine learning intrinsecamente imprevisíveis, difíceis de inspecionar e que requerem um tipo diferente de pensamento em engenharia.
Os senadores podem buscar a ajuda de Missy Cummings, ex-piloto de caça e professora de engenharia e robótica na Universidade George Mason. Ela estuda o uso de AI e automação em sistemas críticos de segurança, incluindo carros e aviões. A perspectiva de Cummings pode ajudar políticos e formuladores de políticas públicas quando buscam avaliar as promessas das tão badaladas novas ferramentas algorítmicas versus os riscos iminentes.
Cummings afirmou nesta semana que deixou a NHTSA com um forte sentimento de preocupação em relação aos sistemas autônomos que estão sendo implantados por muitos fabricantes de carros. “Estamos com graves problemas quanto às capacidades desses carros”, disse Cummings, acrescentando que “eles estão longe de ser tão capazes quanto as pessoas pensam”.
De certa forma, é positivo ver governos e legisladores sendo rápidos em sugerir a regulamentação de ferramentas algorítmicas geradoras de IA e modelos de grande linguagem. O pânico atual está centrado em grande parte nesses modelos linguísticos e ferramentas como a ChatGPT, que são surpreendentemente boas em responder perguntas e resolver problemas, embora ainda tenham deficiências significativas, incluindo a fabricação confiante de fatos.
Após bilhões gastos na pesquisa em IA para carros autônomos ainda há problemas frequentes e algumas empresas automotivas deixaram seus grandes projetos autônomos. Enquanto isso, como afirma Cummings, o público geralmente não tem clareza sobre quão capaz é realmente a tecnologia semiautônoma.
Ele e vários legisladores concordaram que os Estados Unidos podem precisar de uma nova agência federal para supervisionar o desenvolvimento dessa tecnologia. No entanto, também houve consenso durante a audiência que ninguém quer tolher uma tecnologia que poderia potencialmente aumentar a produtividade e dar aos Estados Unidos uma liderança em uma nova revolução tecnológica.
Notícia | Senadores dos Estados Unidos ouvem testemunhos alarmantes sobre os riscos da Inteligência Artificial (IA) sem supervisão |
---|---|
Problemas apontados | Roubo de empregos, disseminação de desinformação e riscos iminentes |
Solução proposta | Criação de uma nova agência federal para supervisionar o desenvolvimento da tecnologia |
Opinião de especialista | Missy Cummings, ex-piloto de caça e professora de engenharia e robótica na Universidade George Mason, alerta sobre as capacidades dos sistemas autônomos implantados por muitos fabricantes de carros |
Preocupação do CEO da OpenAI | Sam Altman pede um sistema de licença para o controle das empresas de tecnologia avançada para evitar danos significativos ao mundo |
Com informações do site WIRED.