Comissão Federal de Comércio alerta empresas sobre o uso manipulativo da inteligência artificial generativa
A Comissão Federal de Comércio (FTC) emitiu um alerta para empresas que utilizam ferramentas de inteligência artificial generativa para manipular o comportamento do consumidor. A inteligência artificial generativa é um subconjunto da IA que pode gerar novos conteúdos com base em padrões aprendidos a partir de dados existentes. Embora o conteúdo gerado pela máquina pareça autêntico e realista, a agência alerta que o uso manipulativo da IA generativa pode ser ilegal, mesmo se nem todos os clientes forem prejudicados e mesmo se aqueles prejudicados não forem parte de uma classe protegida por leis anti-discriminatórias.
A FTC está examinando cuidadosamente produtos de IA sob todos os aspectos das autoridades da FTC. A agência está ciente de que a IA generativa tem levado as pessoas a tomar decisões prejudiciais em áreas como finanças, saúde, educação, habitação e emprego e está focando muito no impacto do consumidor dessas tecnologias nessas áreas. Anteriormente, a FTC havia se concentrado em casos relacionados à fraude em torno da IA. No entanto, neste artigo recente a agência destaca também o aspecto de injustiça, notando que uma prática pode ser considerada injusta se causar mais danos do que benefícios.
A FTC usa o exemplo de chatbots projetados para fornecer informações, conselhos, suporte e companhia. Muitos desses chatbots são construídos para persuadir e são projetados para responder perguntas com confiança, mesmo quando as respostas podem ser fictícias. Além disso, as máquinas estão se tornando cada vez mais humanas, usando pronomes pessoais e emojis em suas respostas de saída.
A inteligência artificial generativa tem o potencial de gerar confiança entre os consumidores e levá-los a acreditar que a ferramenta os entende como um ser humano de verdade faria. No entanto, a FTC alerta as organizações sobre elementos de design que poderiam enganar consumidores, pois tem sido um elemento comum em ações recentes da FTC onde os elementos do design dos sistemas manipulam os consumidores para fazer escolhas prejudiciais.
As empresas que utilizam ferramentas de IA generativas devem estar cientes desses riscos e tomar cuidado para não causar danos aos consumidores através do uso dessas tecnologias manipuladoras. A FTC fornece orientações claras sobre como evitar comportamentos injustos ou enganosos na publicidade online relacionada à IA generativa. As empresas devem ter cuidado com elementos de design que fazem os usuários tomarem decisões contrárias às suas metas.
Em resumo, o artigo da FTC destaca que o uso manipulativo da inteligência artificial generativa pode ser ilegal, mesmo que não cause danos óbvios aos consumidores ou seja prejudicial a grupos discriminados pela lei. A agência está examinando produtos em todos os aspectos das autoridades da FTC para garantir que nenhum dano seja causado. As empresas que usam ferramentas de IA generativas devem estar cientes dos potenciais riscos e tomar medidas para evitar comportamentos injustos ou enganosos na publicidade online relacionada à IA generativa.
Data da notícia: | 1º de maio |
Título: | FTC alerta empresas sobre uso manipulativo da IA generativa |
Resumo: | A FTC lançou um artigo em seu blog alertando sobre o uso manipulativo da IA generativa e destacando que pode ser ilegal, mesmo sem causar danos óbvios aos consumidores. A agência está examinando produtos em todos os aspectos para garantir que nenhum dano seja causado. As empresas que usam ferramentas de IA generativas devem estar cientes dos potenciais riscos e evitar comportamentos injustos ou enganosos na publicidade online relacionada à IA generativa. |
Com informações do site WilmerHale.