Inteligência artificial pode gerar catástrofe nuclear

Rogerio Souza janeiro 8, 2023 3 min read

Guerra gerada pela inteligência artificial

Mais de um terço – 36% – dos cientistas envolvidos em pesquisas de ponta na área acredita que sistemas de inteligência artificial podem causar uma catástrofe para a humanidade – algo tão ruim quanto uma guerra nuclear total.

Um cenário tão trágico poderia ser causado por programas tomando decisões por conta própria e fugindo do controle dos humanos para acionar equipamentos e instalações hoje já tipicamente automatizadas.

Este é o resultado de uma pesquisa realizada por especialistas em IA, e que ouviu apenas especialistas em IA.

Julian Michael e seus colegas do Centro para Ciência de Dados da Universidade de Nova Iorque, nos EUA, ouviram 327 pesquisadores que figuram na lista de autores de artigos científicos publicados recentemente envolvendo pesquisas em processamento de linguagem natural.

Tem havido progressos significativos nessa área, de tradutores a programas que demonstram criatividade desenvolvendo textos de ficção, além de lançar as bases para novas formas de inteligência artificial ainda mais avançadas.

E a pesquisa pode até estar subestimando quantos pesquisadores acreditam que a IA apresenta riscos sérios: Vários entrevistados disseram que concordariam que a IA apresenta sérios riscos em um cenário menos extremo do que uma guerra nuclear global.

“As preocupações levantadas em outras partes de comentários na pesquisa incluem os impactos da automação em larga escala, vigilância em massa ou armas guiadas por IA. Mas é difícil dizer se essas eram as preocupações dominantes quando se tratava da questão do risco catastrófico,” disse Michael em entrevista à revista New Scientist.

No cômputo geral, 36% de todos os entrevistados acha que uma catástrofe em nível nuclear causado por alguma forma de inteligência artificial é possível ainda neste século. Quando apenas os dados das respondentes mulheres são computados, este número chega a 46%.

Indo além das catástrofes, 57% dos entrevistados veem os desenvolvimentos em grandes modelos de IA como “passos significativos para o desenvolvimento da inteligência artificial geral” – uma IA com capacidades intelectuais iguais às dos humanos. E 73% concordaram com a afirmação de que a automação do trabalho por IA pode levar a mudanças sociais revolucionárias, na escala da Revolução Industrial.

Um terço dos cientistas que trabalham com IA acreditam que ela pode causar desastre global
Máquinas que controlam máquinas estão entre os riscos existenciais para a humanidade.

O risco da distopia

A divulgação desta pesquisa, cujos detalhes podem ser vistos no endereço https://nlpsurvey.net/, reacendeu o interesse em outro trabalho, publicado no ano passado, quando uma equipe do Instituto Max Planck para o Desenvolvimento Humano, na Alemanha, demonstrou que não conseguiremos controlar computadores superinteligentes.

Não são exatamente os computadores, é claro, mas os programas de inteligência artificial que rodam neles: Conectada à internet, a IA poderia ter acesso a todos os dados da humanidade e então decidir otimizar tudo, eventualmente substituindo todos os programas existentes e assumindo o controle de todas as máquinas online em todo o mundo.

“Uma máquina [computador] superinteligente que controla o mundo parece ficção científica. Mas já existem máquinas que realizam certas tarefas importantes de forma independente, sem que os programadores entendam totalmente como elas aprenderam a fazer o que fazem. Portanto, surge a questão de saber se isso poderia em algum momento se tornar incontrolável e perigoso para humanidade,” disse na ocasião o professor Manuel Cebrian sobre as máquinas superinteligentes, também conhecidas como “singularidade tecnológica”.

Quanto à questão de os programas de inteligência artificial precisarem ter o controle sobre armamentos para gerarem uma catástrofe, ou mesmo uma distopia social, é importante lembrar que as agências militares são as maiores financiadoras das pesquisas científicas em quase todo o mundo, os equipamentos para uso militar são quase inteiramente automatizados e com controle centralizado, e que a maior parte dos projetos sequer chega ao conhecimento do público por serem catalogados como sigilosos.