O ganhador do Nobel de Física, John Hopfield, chama os novos avanços da IA ​​de “desconcertantes” e alerta contra a “falta de compreensão”

John Hopfield, um cientista americano que ganhou o Prêmio Nobel de Física de 2024 e professor emérito em Princeton, classificou os recentes avanços nas tecnologias de inteligência artificial (IA) como “muito desconcertantes”, segundo um relatório da AFP.

Hopfield, 91 anos, também alertou contra a “falta” de uma compreensão mais profunda das tecnologias avançadas e alertou sobre uma catástrofe potencial se não for controlada, acrescentou.

Hopfield e o co-vencedor Geoffrey Hinton (76) pediram uma “compreensão mais profunda do funcionamento interno dos sistemas de aprendizagem profunda para evitar que saiam do controle”, de acordo com o relatório.

‘Ascensão de tecnologia potencialmente perigosa’

Falando por vídeo para um público na Universidade de Nova Jersey, Hopfield chamou a física nuclear e a engenharia biológica de as duas “tecnologias poderosas, mas potencialmente perigosas” que surgiram durante sua vida.

“Você está acostumado a ter tecnologias que não são apenas boas ou ruins, mas têm capacidades em ambas as direções. E como físico, estou muito nervoso com algo sobre o qual não tenho controle, algo que não entendo bem. o suficiente para que eu possa entender quais são os limites até os quais essa tecnologia pode ser levada”, disse ele.

‘IA é muito, muito desconcertante’

Hopfield afirmou que a IA também está entre as tecnologias onde é importante ter controle os limites e a compreensão da tecnologia.

“Essa é a questão que a IA coloca. Embora os sistemas modernos de IA pareçam maravilhas absolutas, há uma falta de compreensão sobre como funcionam, o que é muito, muito desconcertante”, disse o físico.

“É por isso que eu mesmo, e acho que também Geoffrey Hinton, defenderíamos fortemente a compreensão como uma necessidade essencial da área, que irá desenvolver algumas habilidades que estão além das capacidades que podem ser imaginadas hoje”, acrescentou.

“Você não sabe que as propriedades coletivas com as quais começou são, na verdade, propriedades coletivas com todas as interações presentes e, portanto, não sabe se há algo espontâneo, mas indesejado, escondido nas obras”, enfatizou Hopfield.

Hopfield e Hinton ganharam o Prêmio Nobel de Física este ano pela “rede Hopfield”, um modelo teórico que demonstra como uma rede neural artificial pode imitar a forma como os cérebros biológicos armazenam e recuperam memórias.

O ‘padrinho da IA’ alerta contra a tecnologia

O modelo de Hopfield foi aprimorado por Hinton, também conhecido como o “padrinho da IA” por sua “máquina Boltzmann”, que abriu caminho para aplicações modernas de IA, como geradores de imagens.

Hinton tem criticado a IA e numa recente conferência na Universidade de Toronto, onde é professor emérito, o anglo-canadense alertou que a IA está assumindo o controle dos humanos. Hinton deixou seu emprego no Google em 2023 para alertar sobre os “profundos riscos da tecnologia para a sociedade e a humanidade”.

“Estou preocupado que a consequência geral disto possa ser que sistemas mais inteligentes do que nós acabem por assumir o controlo”, disse Hinton aos jornalistas após o anúncio do Nobel.

“Se você olhar ao redor, há muito poucos exemplos de coisas mais inteligentes sendo controladas por coisas menos inteligentes, o que nos faz pensar se quando a IA se tornar mais inteligente do que nós, ela assumirá o controle”, acrescentou.

Hinton disse que atualmente é impossível saber como escapar de cenários catastróficos, “é por isso que precisamos urgentemente de mais pesquisas”.

“Defendo que os nossos melhores jovens investigadores, ou muitos deles, deveriam trabalhar na segurança da IA, e que os governos deveriam forçar as grandes empresas a fornecer as instalações informáticas de que necessitam para o fazer”, acrescentou.