Bilhões de dólares estão sendo investidos na Inteligência Artificial (IA), mas a questão da ética está se tornando cada vez mais relevante. Modelos de IA já estão apresentando preconceitos, como a discriminação hipotecária contra futuros proprietários negros. Isso levanta a pergunta sobre qual papel a ética desempenha na construção dessa tecnologia e onde os investidores se encaixam à medida que correm para financiá-la.
Investidores devem garantir que a ética seja uma prioridade na construção de tecnologias de IA
Um fundador recentemente disse à TechCrunch+ que é difícil pensar em ética quando a inovação é tão rápida: as pessoas constroem sistemas, depois os quebram e editam. Portanto, há alguma responsabilidade sobre os investidores para garantir que essas novas tecnologias estejam sendo construídas por fundadores com ética em mente.
Para ver se isso está acontecendo, TechCrunch+ falou com quatro investidores ativos no espaço sobre como eles pensam sobre ética em IA e como os fundadores podem ser incentivados a pensar mais sobre preconceitos e fazer a coisa certa. Alguns investidores disseram que enfrentam essa questão fazendo diligências debatidas na ética do fundador para ajudar a determinar se eles continuarão tomando decisões que o firma pode apoiar.
“Empatia do fundador é uma grande bandeira verde para nós”, disse Alexis Alston da Lightship Capital. “Essas pessoas entendem que embora estejamos procurando retornos de mercado, também buscamos investimentos que não causem um impacto negativo no mundo.”
Outros investidores acham que fazer perguntas difíceis pode ajudar a separar o joio do trigo. “Toda tecnologia traz consigo consequências não intencionais, seja preconceito, redução de agência humana, violações de privacidade ou algo mais.” disse Deep Nishar da General Catalyst.
Políticas governamentais também estão mirando a IA. A UE aprovou leis para aprendizado de máquina e os EUA introduziram planos para uma força-tarefa de AI para começar a examinar os riscos associados à IA. Isso é além do Projeto AI Bill of Rights apresentado no ano passado. Com muitas empresas de capital de risco líderes injetando dinheiro em esforços em IA na China, é importante perguntar como a ética global na IA pode ser aplicada em todo o mundo.
Investidores ativos no setor falam sobre a importância da ética em IA
TechCrunch+ perguntou a quatro investidores ativos no setor sobre como eles abordam diligências debatidas, as bandeiras verdes que procuram e suas expectativas sobre regulamentações em IA. “Para nós é importante entender exatamente quais dados o modelo utiliza, de onde os dados vêm e como eles estão sendo tratados. Nós realizamos bastante diligência técnica com nosso GP focado em AI para garantir que nossos modelos possam ser treinados para mitigar ou eliminar tendências preconceituosas”, afirmou um dos investidores.
Quando questionados se deixariam de investir caso percebessem que os fundadores não estavam levando ética em consideração, a resposta foi um enfático “Sim”. Um dos investidores declarou: “Acho que há maneiras muito engenhosas pelas quais os fundadores podem proteger o bem-estar dos usuários dos aplicativos sem sacrificar um centavo do ritmo do crescimento ou dos retornos ao acionista. Cabe aos fundadores manter isso em mente durante todo o processo de desenvolvimento e, se considerarmos que as preocupações éticas do leigo são insuficientes para motivá-los, então eles não são bons parceiros para nós.”
Quando perguntado se vê a IA como solução ou problema, um investidor respondeu: “Eu vou acrescentar mais um: eu os vejo como uma escrita em branco e as possibilidades são infinitas. Mas tanta coisa depende daqueles que os criam e usam, é por isso que nossos investimentos buscam alinhamentos em perspectivas éticas e de proteção ao usuário.”
Bilhões de dólares inundam a IA |
---|
Modelos de AI já estão sendo afetados por preconceitos, conforme evidenciado pela discriminação hipotecária contra futuros proprietários negros. |
Investidores devem garantir que essas novas tecnologias estejam sendo construídas por fundadores com ética em mente. |
Políticas governamentais estão mirando a IA. |
Investidores ativos no setor abordam diligências debatidas, procuram bandeiras verdes e têm expectativas sobre regulamentações em IA. |
Investidores financeiros em empresas de AI deixariam de investir caso percebessem que os fundadores não estivessem levando ética em consideração. |
Máquinas são uma escrita em branco e as possibilidades são infinitas, mas depende daqueles que as criam e usam. |
Com informações do site TechCrunch.