Funcionários atuais e antigos da Google acusam a empresa de negligenciar seus compromissos éticos em inteligência artificial (IA) para vencer a concorrência.
Em março deste ano, a Google lançou o chatbot Bard, sua IA, mesmo após alertas de seus funcionários de que a ferramenta era “um mentiroso patológico” e sugeriu ações perigosas ou mal orientadas quando consultada por conselhos. A empresa agora é acusada de priorizar a corrida competitiva em vez do compromisso ético.
De acordo com 18 trabalhadores atuais e antigos da Google, além de documentos internos revisados pela Bloomberg, a empresa está fornecendo informações de baixa qualidade para acompanhar a concorrência. Além disso, a companhia teria reduzido as prioridades em relação aos compromissos éticos assumidos e se desviado das promessas feitas em 2021 de dobrar sua equipe dedicada ao estudo da ética em IA e aumentar os recursos para avaliar os danos potenciais das tecnologias.
Compromissos éticos negligenciados
A equipe responsável pela segurança e implicações éticas dos novos produtos teria recebido ordens para não impedir o desenvolvimento desses dispositivos generativos e encontrar soluções menos invasivas. Os funcionários por trás dos compromissos éticos da IA afirmam estar enfraquecidos e desmoralizados.
A Google busca integrar aplicações geradoras de IA impactantes sociais aos seus produtos mais importantes em questão de meses antes da concorrente OpenAI fazer o mesmo. A pretensão da empresa é revitalizar seu negócio de busca maduro com tecnologia emergente, que pode fazer uso de inteligência artificial generativa em milhões de celulares e casas ao redor do mundo.
Em resposta às perguntas da Bloomberg, a Google afirmou que a IA responsável continua sendo uma das prioridades da empresa e que continua investindo na equipe que trabalha na aplicação dos princípios éticos de IA nas suas tecnologias. Mesmo assim, em janeiro deste ano a equipe teria perdido pelo menos três membros durante um processo de demissão.
Com a aceleração do progresso em inteligência artificial, surgiram novas preocupações em relação aos seus efeitos sobre a sociedade. A luta para desenvolver uma inteligência artificial avançada e ao mesmo tempo ética tem sido objeto constante de debate interno na empresa. A meta é garantir o equilíbrio entre competição e segurança em um ambiente onde apenas um pesquisador em segurança da IA é dedicado para cada trinta trabalhadores que colaboram no desenvolvimento tecnológico, apontou o Centro para Tecnologia Humana em uma apresentação recente.
Notícia |
---|
Funcionários da Google acusam a empresa de priorizar a corrida competitiva em detrimento do compromisso ético na área de inteligência artificial (IA). |
18 trabalhadores atuais e antigos da empresa afirmam que a Google está fornecendo informações de baixa qualidade para acompanhar a concorrência e reduziu as prioridades em relação aos compromissos éticos assumidos. |
A equipe responsável pela segurança e implicações éticas dos novos produtos teria recebido ordens para não impedir o desenvolvimento de dispositivos generativos e encontrar soluções menos invasivas. |
A Google pretende integrar aplicações geradoras de IA impactantes sociais aos seus produtos mais importantes antes da concorrente OpenAI fazer o mesmo. |
A velocidade do desenvolvimento pode não permitir tempo suficiente para estudar plenamente eventuais danos causados pelas tecnologias geradoras. |
Com informações do site Yahoo Finance.