Investidor alerta para risco de IA “semelhante a um Deus” que poderia destruir ou tornar os humanos obsoletos se não for contida adequadamente
O investidor em inteligência artificial, Ian Hogarth, em um ensaio publicado no Financial Times, alertou sobre os perigos da tecnologia e de uma possível IA geral que seria “semelhante a um Deus”, pois aprenderia por si mesma. Ele advertiu que a competição acirrada entre empresas como o OpenAI poderia levar a um desastre, já que não há regulação quanto ao desenvolvimento rápido da tecnologia.
De acordo com Hogarth, uma IA geral representaria algo muito maior do que as três letras do acrônimo AGI sugerem, justificando então a referência dele à essa tecnologia como “semelhante a um Deus”. Essa IA seria capaz de se desenvolver sozinha e transformar o mundo sem supervisão ou limitações. E isso representa um grande risco para o futuro da humanidade.
Hogarth estudou engenharia e inteligência artificial na Universidade de Cambridge antes de cofundar Songkick, vendida posteriormente ao Warner Music Group. Segundo seu site pessoal, ele investiu em mais de 50 startups que utilizam aprendizado de máquina, incluindo Anthropic, fundada por ex-funcionários do OpenAI. Ele escreve um relatório anual chamado “The State of AI”.
Competição acirrada pode levar ao desastre
O CEO da Nvidia, Jensen Huang, cujos GPUs são frequentemente usados para alimentar a IA, disse em uma recente teleconferência sobre ganhos que a AI se tornou um milhão de vezes mais poderosa na última década. Ele espera uma evolução semelhante a partir do ChatGPT do OpenAI dentro da próxima década, de acordo com o PC Gamer.
Hogarth também alertou sobre a competição acirrada entre aqueles na vanguarda da tecnologia, como o OpenAI e o DeepMind (controlado pela Alphabet), que representa um risco para uma IA “semelhante a Deus” instável devido à falta de supervisão. Eles estão correndo em direção a uma linha final sem compreender completamente o que há do outro lado.
Embora a IA tenha um grande impacto no futuro, Hogarth ressalta que se isso será positivo ou desastroso depende de quão rapidamente se busca o progresso e quanto tempo levará para estabelecer regulamentações adequadas.
Quem? | Ian Hogarth |
---|---|
O que? | Advertiu sobre os perigos de uma possível IA geral que seria “semelhante a um Deus” |
Por quê? | A competição acirrada entre empresas como o OpenAI poderia levar a um desastre, já que não há regulação quanto ao desenvolvimento rápido da tecnologia. |
Com informações do site Business Insider.