Grupo de ética tecnológica solicita investigação da FTC sobre OpenAI por violações das regras de proteção ao consumidor
O Center for AI and Digital Policy (CAIDP), um grupo focado em ética tecnológica com ênfase em inteligência artificial, pediu hoje que a Federal Trade Commission (FTC) investigue a OpenAI por violar as regras de proteção ao consumidor. O CAIDP alega que o lançamento das ferramentas para geração de texto por AI da organização tem sido “parcial, enganoso e um risco à segurança pública”.
O CAIDP argumenta que o modelo gerador GPT-4 da OpenAI pode produzir código malicioso, propaganda altamente personalizada e dados de treinamento tendenciosos que resultam em estereótipos incorporados ou preferências injustas relacionadas à raça e gênero em coisas como contratação. A organização procura responsabilizar a OpenAI por violar a seção 5 do FTC Act, que proíbe práticas comerciais desleais e enganosas.
Em resposta, o CAIDP busca a interrupção de futuras implantações comerciais de modelos GPT, avaliações independentes dos modelos antes de qualquer disponibilização futura, criação de uma ferramenta de relatórios públicos semelhante à que permite aos consumidores denunciar fraudes e regras firmes sobre os regulamentos da FTC para sistemas AI generativos.
O CAIDP destaca não apenas a produção de propaganda personalizada e potencialmente maliciosa por parte do modelo gerador de texto, mas também dados tendenciosos incorporados ou preconceito racial e de gênero na contratação. Além disso, a reclamação destaca falhas significativas de privacidade na interface do produto da OpenAI, como um bug recente que expôs histórias ChatGPT da OpenAI e talvez detalhes de pagamento para outros usuários.
O CAIDP é conhecido por levantar preocupações sobre o uso responsável de tecnologias emergentes. A organização não é a primeira a pedir cautela nas iniciativas contribuintes no desenvolvimento da IA generativa. É importante enfatizar chamados para prudência nos testes e desenvolvimento contínuo dessas tecnologias para minimizar potenciais riscos prejudiciais ao público em geral.
Notícia |
---|
O grupo CAIDP pediu que a FTC investigue a OpenAI por violar regras de proteção ao consumidor com o lançamento de ferramentas para geração de texto por AI, que podem ser enganosas e um risco à segurança pública. |
O modelo gerador GPT-4 da OpenAI pode produzir propaganda personalizada e maliciosa, bem como dados tendenciosos incorporados ou preconceito racial e de gênero na contratação. |
O CAIDP busca interromper futuras implantações comerciais de modelos GPT, avaliações independentes dos modelos antes de qualquer disponibilização futura e regras firmes sobre os regulamentos da FTC para sistemas AI generativos. |
Descoberta nova espécie de borboleta na Amazônia
Com informações do site G1.