Senado dos EUA discute a regulamentação de Inteligência Artificial (IA)
Na última semana, o Senado dos EUA realizou uma audiência para discutir a regulamentação de novas tecnologias de inteligência artificial (IA). A reunião contou com a presença de grandes nomes da indústria, incluindo Sam Altman, CEO da OpenAI, que concordaram com a necessidade de regulamentar a IA. No entanto, especialistas alertam sobre um possível risco de ‘captura’ das indústrias caso as grandes empresas sejam autorizadas a escrever as regras que governam essa tecnologia.
Christina Montgomery, da IBM, e Gary Marcus, um crítico conhecido da IA, também estiveram presentes na audiência e levantaram preocupações sobre a captação regulatória, ou seja, a impressão de que algo está sendo feito quando na verdade não há mudanças significativas.
Embora não tenham sido representados na audiência, a Microsoft e o Google foram mencionados pelos especialistas presentes. Sam Altman foi visto como o porta-voz não oficial do setor, sendo a sua OpenAI considerada a empresa mais influente em IA no mundo atualmente.
Apesar de ter mencionado o problema da captura regulatória, Altman foi menos claro sobre suas opiniões em relação à concessão de licenças para empresas menores de IA. Alguns especialistas acreditam que um sistema de licenciamento pode ser eficaz, mas outros apontam que isso poderia concentrar ainda mais o poder nas mãos das grandes empresas da indústria e prejudicar a competição. Para Margaret Mitchell, ex-pesquisadora do Google e agora chefe de ética científica da Hugging Face, uma forma de certificação individual pode ser mais adequada.
Durante a audiência, os representantes da indústria frequentemente chamaram a atenção para danos hipotéticos futuros e deram pouca atenção aos problemas conhecidos já causados pela IA no presente. Joy Buolamwini, por exemplo, identificou repetidamente problemas com preconceito racial em reconhecimento facial, resultando em falhas na identificação de rostos negros e muitos casos de prisões indevidas nos EUA.
Em comparação com as propostas apresentadas no Congresso, a União Europeia estabeleceu classificações de sistemas de IA baseados no risco ao qual estão associados, além de proibir usos considerados danosos à sociedade, como programas preditivos para policiamento e vigilância em massa. Esse projeto tem atraído elogios por parte de especialistas em direitos digitais.
Notícia |
---|
Houve uma audiência no Senado dos EUA para discutir a regulamentação de novas tecnologias de inteligência artificial (IA). |
Grandes representantes da indústria concordaram com a necessidade de regulamentar a IA e os políticos pareceram felizes em transferir a responsabilidade pela elaboração de regras às próprias empresas. |
Especialistas apontam para um possível risco de ‘captura’ das indústrias, caso as grandes empresas sejam autorizadas a escrever as regras que governam essa tecnologia. |
Sam Altman, CEO da OpenAI, foi visto como o porta-voz não oficial do setor na audiência. |
Embora sua OpenAI ainda seja considerada uma startup por alguns, ela é provavelmente a empresa mais influente em IA no mundo atualmente. |
Alguns especialistas acreditam que um sistema de licenciamento pode ser eficaz, mas outros apontam que isso poderia concentrar ainda mais o poder nas mãos das grandes empresas da indústria e prejudicar a competição. |
O projeto da União Europeia estabelece classificações de sistemas de IA baseado no risco ao qual estão associados, além de proibir usos considerados danosos à sociedade como programas preditivos para policiamento e vigilância em massa. |
Com informações do site The Verge.