Advertências misteriosas de especialistas em IA sugerem que a Inteligência Artificial poderia dar início a uma guerra nuclear em 2040 para destruir nossa civilização, e pode não haver nada que possamos fazer a respeito.
Um estudo recente de especialistas em segurança mostra que o avanço no campo da Inteligência Artificial poderia levar à criação de Máquinas do Juízo Final que poderiam fazer com que nações do mundo todo corram riscos apocalípticos com seus arsenais nucleares.
Para entender o que os especialistas estão falando, vamos fazer uma viagem de volta à Guerra Fria.
Naquela época, uma condição referida como a destruição mutuamente garantida (Mad) – uma doutrina de estratégia militar e política de segurança nacional em que um uso em grande escala de armas nucleares por dois ou mais lados opostos causaria a aniquilação completa de ambos os atacantes e o defensor manteve uma paz desconfortável entre as superpotências.
Ambos os lados possuidores de armas de destruição em massa tiveram pouquíssima iniciativa para lançar um ataque tão devastador pois teriam sido respondidos por uma retaliação igualmente devastadora.
No entanto, a guerra fria já se foi há muito tempo e entramos numa era militar moderna, onde os avanços no campo da Inteligência Artificial não mais garantem isso.
Especialistas da Rand Corporation – uma organização sem fins lucrativos com sede em Santa Mônica, Califórnia – dizem que esse cenário abre uma série de problemas, incluindo a possibilidade de eliminar a capacidade do inimigo de lançar uma contra-ofensiva, e pode haver muito pouco nós podemos fazer sobre isso.
A Rand Corporation oferece pesquisa e análise às forças armadas dos Estados Unidos sobre questões de política global.
Eles dizem que, dados os inúmeros avanços no campo da inteligência artificial, nas próximas décadas, a AI poderia praticamente anular a capacidade de Mad manter as tensões nucleares à vontade.
O novo estudo explica como agentes futuristas de IA, junto com dados de sensor e código aberto, podem convencer os países de que suas capacidades nucleares estão em risco.
O relatório argumenta que isso pode levar os países a tomar medidas mais drásticas para acompanhar os principais países militares, como os Estados Unidos.
Falando sobre essa questão, Andrew Lohn, co-autor do artigo e engenheiro associado da Rand, disse: “Alguns especialistas temem que uma maior dependência da inteligência artificial possa levar a novos tipos de erros catastróficos”.
“Pode haver pressão para usar a IA antes que ela esteja tecnologicamente madura ou pode ser suscetível à subversão adversária. Portanto, manter a estabilidade estratégica nas próximas décadas pode ser extremamente difícil, e todas as potências nucleares devem participar do cultivo de instituições para ajudar a limitar o risco nuclear ”.
Mas pode haver uma ameaça ainda maior à espreita, segundo especialistas da Rand Corporation: os Comandantes Militares podem tomar a decisão errada de lançar um ataque com base em conselhos da Inteligência Artificial que foi alimentada com informações errôneas.
Mas, além do perigo de ser alimentado com informações corrompidas, a IA também corre o risco de ser hackeada, o que por sua vez abre a possibilidade de que terceiros mal-intencionados possam desencadear – assim como esses vilões nos filmes de Hollywood – um conflito global.
No entanto, ainda que a humanidade possa sobreviver além do ano de 2040, em mais algumas centenas de décadas devido ao crescimento exponencial da tecnologia a IA pode evoluir ao ponto onde seja capaz de tomar decisões próprias. Nesse ponto a tecnologia não será mais segura e nada impede que um robô possa de fato quebrar um dos princípios fundamentais da robótica estabelecidos por Isaac Asimov que diz que um robô jamais poderá machucar um Ser humano.
Você pode ler mais sobre o estudo no site da Rand .
Referência: Science Daily – Em 2040, a inteligência artificial poderia derrubar a estabilidade nuclear
