CEO da OpenAI compara trabalho em inteligência artificial ao Projeto Manhattan
O CEO da OpenAI, Sam Altman, comparou o trabalho de sua empresa em inteligência artificial ao Projeto Manhattan, quando as primeiras armas nucleares foram desenvolvidas na Segunda Guerra Mundial. Em uma entrevista de 2019, Altman afirmou que o esforço dos Estados Unidos para construir uma bomba atômica naquela época foi “um projeto do tamanho da OpenAI – nível de ambição que aspiramos”. A OpenAI é a empresa responsável pelo GPT-4, o modelo de aprendizado profundo mais recente que exibe desempenho de nível humano em vários benchmarks profissionais e acadêmicos.
Pedido para pausa na pesquisa em laboratórios de IA
Após o lançamento do poderoso sistema de IA, mais de 2.000 especialistas e líderes tecnológicos em todo o mundo assinaram uma carta pedindo uma pausa na pesquisa em laboratórios de IA, especificamente exigindo uma pausa imediata de pelo menos seis meses no treinamento de sistemas mais poderosos do que o GPT-4. Outros líderes da indústria alertaram sobre os riscos da tecnologia IA sem controle adequado, como Elon Musk e Steve Wozniak.
Altman concorda com opiniões opostas sobre o futuro da IA
Altman disse que a hype sobre a IA está fora de controle atualmente: “A histeria em torno desses sistemas – mesmo se tudo o que esperamos for correto a longo prazo – está totalmente fora de controle a curto prazo”, disse ele. Altman é frequentemente otimista sobre o crescimento futuro da IA, embora concorde com opiniões opostas. Em uma única conversa, ele está em ambos os lados do clube do debate, segundo Kelly Sims, da Thrive Capital, empresa que trabalhou com Altman como consultor na OpenAI.
Necessidade de controle adequado da tecnologia IA
A carta apoiada por Musk pede uma pausa para dar espaço aos laboratórios e formuladores da política para criar salvaguardas e regras sobre inteligência artificial. Os laboratórios e especialistas independentes devem usar essa pausa para desenvolver e implementar um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que sejam rigorosamente auditados e supervisionados por especialistas independentes externos, afirma a carta aberta, além de pedir aos políticos sistemas robustos de governança da IA.
Conclusão
Altman comparou sua empresa ao Projeto Manhattan em termos do tamanho e ambição do projeto da OpenAI. Ele cita J. Robert Oppenheimer para enfatizar que a tecnologia acontece porque é possível. A histeria atual em torno dos sistemas de IA é preocupante e precisa ser controlada antes que mais progresso possa ser feito.
Notícia | O CEO de tecnologia da OpenAI comparou o trabalho de sua empresa em inteligência artificial ao Projeto Manhattan, quando as primeiras armas nucleares foram desenvolvidas na Segunda Guerra Mundial. |
---|---|
Lançamento do GPT-4 | A OpenAI é a empresa responsável pelo GPT-4, o modelo de aprendizado profundo mais recente que exibe desempenho de nível humano em vários benchmarks profissionais e acadêmicos. |
Carta aberta | Mais de 2.000 especialistas e líderes tecnológicos em todo o mundo assinaram uma carta pedindo uma pausa na pesquisa em laboratórios de IA, especificamente exigindo uma pausa imediata de pelo menos seis meses no treinamento de sistemas mais poderosos do que o GPT-4. |
Alertas sobre riscos | Elon Musk e Steve Wozniak alertaram sobre os riscos da tecnologia IA sem controle adequado. |
Opinião do CEO | Altman disse que a hype sobre a IA está fora de controle atualmente e que a histeria atual em torno dos sistemas de IA é preocupante e precisa ser controlada antes que mais progresso possa ser feito. |
Com informações do site Fox Business.