Senadores americanos discutem a necessidade de supervisão da inteligência artificial (IA) em audiência recente
Na última semana, senadores americanos ouviram o CEO da OpenAI, Sam Altman, alertar sobre os perigos de uma IA não verificada que poderia roubar empregos e espalhar desinformação. Altman e vários legisladores concordaram que os EUA podem precisar de uma nova agência federal para supervisionar o desenvolvimento da tecnologia. No entanto, a audiência também concordou que ninguém quer atrapalhar uma tecnologia que potencialmente pode aumentar a produtividade e dar aos EUA uma liderança em uma nova revolução tecnológica.
Os senadores preocupados podem considerar falar com Missy Cummings, professora de engenharia e robótica da Universidade George Mason que estuda o uso de IA e automação em sistemas críticos de segurança, incluindo carros e aeronaves. Cummings deixou a Administração Nacional de Tráfego Rodoviário no início deste ano com um profundo senso de preocupação sobre os sistemas autônomos que estão sendo implantados por muitos fabricantes de carros. Ela afirma: “Eles estão longe de ser tão capazes quanto as pessoas pensam”.
Os projetos autônomos de direção foram elevados por quantias absurdas de hype, com montadoras, startups e investidores despejando enormes quantias no desenvolvimento e implantação de uma tecnologia que ainda tem muitos problemas não resolvidos. Houve um ambiente regulatório permissivo em torno dos carros autônomos na metade dos anos 2010, com autoridades governamentais relutantes em frear uma tecnologia que prometia valer bilhões para empresas americanas.
Enquanto isso, o público frequentemente não tem clareza sobre a real capacidade da tecnologia semi-autônoma. Em um sentido, é bom ver governos e legisladores sendo rápidos em sugerir regulamentação das ferramentas gerativas da IA e grandes modelos de linguagem. O pânico atual está centrado em grandes modelos de linguagem e ferramentas como o ChatGPT, que são notavelmente bons em responder perguntas e resolver problemas, mesmo que ainda tenham deficiências significativas, incluindo a fabricação confiante de fatos.
Na audiência do Senado desta semana, Altman da OpenAI, que nos deu o ChatGPT, foi tão longe a ponto de pedir um sistema de licenciamento para controlar se empresas como a dele têm permissão para trabalhar em IA avançada. “Meu pior medo é que nós – o campo, a tecnologia, a indústria – causemos danos significativos ao mundo”, disse Altman durante a audiência.
| Notícia | Senadores americanos ouviram testemunho alarmante sobre riscos da inteligência artificial não verificada |
|---|---|
| Problemas apontados | Roubo de empregos, disseminação de desinformação e riscos em sistemas críticos de segurança |
| Solução proposta | Criação de uma nova agência federal para supervisionar o desenvolvimento da tecnologia |
| Opinião de especialista | Missy Cummings alerta sobre a falta de capacidade dos carros autônomos e a necessidade de avaliar os riscos da IA |
| Regulamentação sugerida | Sistema de licenciamento para controlar empresas que trabalham em IA avançada |
Com informações do site WIRED.