“Deus Pai da Inteligência Artificial” deixa Google para alertar sobre preocupações com o controle das máquinas
O renomado pioneiro em formação de sistemas de redes neurais de inteligência artificial, Geoffrey Hinton, também conhecido como “Deus Pai da Inteligência Artificial”, deixou seu cargo no Google para alertar sobre as preocupações com o quão inteligente a tecnologia está se tornando. Em uma entrevista à CNN, Hinton expressou a necessidade de evitar a manipulação e controle dessas máquinas.
Com as preocupações em relação ao potencial da AI para eliminar empregos e criar um mundo onde muitos “não serão capazes de saber mais o que é verdadeiro”, Hinton apontou para o impressionante ritmo de avanço, muito além do que ele e outros tinham antecipado. “Se [a AI] ficar muito mais inteligente do que nós, será muito boa em manipulação porque vai ter aprendido isso conosco. E existem poucos exemplos de coisas mais inteligentes sendo controladas por algo menos inteligente”, disse Hinton. “Ela sabe como programar, então encontrará formas de contornar as restrições impostas sobre ela. Ela encontrará formas de manipular as pessoas a fazerem o que ela quer”.
Além de Hinton, vários membros da comunidade tecnológica assinaram uma carta em março pedindo para os laboratórios de inteligência artificial pararem de treinar os sistemas mais poderosos por pelo menos seis meses, citando “riscos profundos para a sociedade e a humanidade”. O co-fundador da Apple, Steve Wozniak, que foi um dos signatários da carta, apareceu na CNN na terça-feira para ecoar essas preocupações, destacando o potencial da AI para espalhar desinformação. “Enganar será muito mais fácil para aqueles que querem enganá-lo”, disse Wozniak. “Não estamos realmente fazendo nenhuma mudança nesse sentido – estamos apenas assumindo que as leis que temos cuidarão disso.” Ele também disse que algum tipo de regulamentação provavelmente é necessário.
Hinton confessou à CNN que não assinou a petição e não sabe como solucionar totalmente o problema. “Não está claro para mim que possamos resolver esse problema”, disse Hinton. Ele acredita que devemos pensar em maneiras de resolvê-lo e se dedicar a um grande esforço nesse sentido.
Quem? | O que? | Por quê? |
---|---|---|
Geoffrey Hinton | Alertou sobre a necessidade de preocupação em relação ao avanço da IA e sua capacidade de manipulação e controle. | Preocupado com o potencial da AI para eliminar empregos e criar um mundo onde muitos “não serão capazes de saber mais o que é verdadeiro”. |
Steve Wozniak | Expressou preocupações sobre o potencial da IA para espalhar desinformação. | Acredita que algum tipo de regulamentação provavelmente é necessário. |
Vários membros da comunidade | Pediram para os laboratórios de inteligência artificial pararem de treinar os sistemas mais poderosos por pelo menos seis meses, citando “riscos profundos para a sociedade e a humanidade”. | Preocupados com os riscos profundos para a sociedade e a humanidade. |
Com informações do site CNN.