Microsoft elimina equipe de ética em inteligência artificial
A Microsoft recentemente cortou sua equipe responsável por garantir o uso ético da inteligência artificial (IA) em seus produtos. A medida faz parte dos 10 mil cortes de empregos anunciados pela empresa em janeiro deste ano. A redução desse setor pode afetar as salvaguardas que garantem que os produtos da Microsoft com recursos de aprendizado de máquina atendam aos padrões éticos da empresa para o uso da IA. A decisão surge em meio a discussões sobre os efeitos controversos dos modelos de IA na sociedade.
Embora a Microsoft ainda mantenha seu Escritório de IA Responsável, que trabalha com o Comitê Aether da empresa e a Estratégia Responsável de IA na Engenharia (RAISE) para disseminar práticas responsáveis nas operações diárias, fontes afirmam que a equipe de ética e sociedade desempenhou um papel crucial garantindo que esses princípios fossem diretamente refletidos na forma como os produtos foram projetados.
Os membros do grupo deveriam aconselhar equipes à medida que Redmond acelerava a integração das tecnologias de IA em uma série de produtos. No entanto, menos de dez pessoas foram afetadas pelos cortes.
De acordo com informações não confirmadas, CEO Satya Nadella e CTO Kevin Scott estariam ansiosos para integrar rapidamente as tecnologias da OpenAI nos produtos da Microsoft. No entanto, problemas surgiram com essas tecnologias, desde respostas erradas até linguagem ofensiva ou “gaslighting”. O rápido desenvolvimento e institucionalização desses sistemas maiores levantou debates sobre seu impacto na sociedade.
Em resposta às demissões reportadas, um porta-voz da Microsoft disse que os funcionários anteriores haviam alimentado uma cultura empresarial focada na inovação responsável ao longo dos anos passados.
É importante destacar que ainda há muitas pessoas trabalhando nessas questões na Microsoft, incluindo novas equipes responsáveis pela IA, além do Escritório Responsável pela IA. Espera-se mais informações sobre essa estratégia no evento “O Futuro do Trabalho com IA”, conduzido pelo CEO Nadella em 16/03 deste ano.
Notícia: | A Microsoft eliminou sua equipe de ética e sociedade responsável por garantir o uso ético do software de inteligência artificial (IA) como parte dos 10.000 cortes de empregos anunciados em janeiro. |
---|---|
Impacto: | A redução desse setor pode remover algumas salvaguardas destinadas a garantir que os produtos da Microsoft que integram recursos de aprendizado de máquina atendam aos padrões éticos da empresa para o uso da IA. |
Consequências: | A integração das tecnologias da OpenAI nos produtos da Microsoft pode gerar problemas, desde respostas erradas até linguagem ofensiva ou “gaslighting”. O rápido desenvolvimento desses sistemas levantou debates sobre seu impacto na sociedade. |
Com informações do The Register.