Há 5% de chance de que a IA cause a extinção humana, dizem especialistas
Na maior investigação já feita até agora entre investigadores de IA, a maioria deles afirma que há risco de extinção humana devido ao possível desenvolvimento da IA.
Uma investigação com os principais cientistas de IA afirma que há 5% de chance de que a IA se torne incontrolável e destrua a Humanidade. Segundo os investigadores, antes de 2030, a IA avançará consideravelmente, será capaz de criar sucessos musicais e literários. Se este cenário apocalíptico se concretizar, pelo menos morreremos entretidos.
A investigação realizada por especialistas de Berkeley e da Universidade de Oxford em dezembro destaca que, embora as previsões destes especialistas não devam ser consideradas verdades absolutas, elas oferecem uma peça fundamental para compreender o panorama. Estes investigadores, com profundo conhecimento da tecnologia e da evolução histórica da IA, estão bem posicionados para fazer suposições fundamentadas sobre o seu futuro.
O estudo destaca o perigo percebido em torno da criação de uma poderosa inteligência artificial pelos principais investigadores do mundo. Cerca de 68% dos investigadores consideram mais provável um avanço sobre-humano positivo na IA, embora metade destes otimistas ainda considere uma probabilidade diferente de zero de uma possível extinção humana. Afirma também que há consenso sobre a priorização da investigação para mitigar os riscos da IA.
"É um sinal importante de que a maioria dos investigadores de IA não considera muito implausível que a IA avançada destrua a Humanidade", disse Katja Grace do Machine Intelligence Research Institute da Califórnia, autora principal do estudo. "Acho que esta crença geral num risco não minúsculo é muito mais reveladora do que a percentagem de risco exato", complementou.
Outros perigos
O possível desenvolvimento de uma IA que possa superar os humanos em todas as tarefas tinha 50% de probabilidade de ocorrer até 2047, enquanto a possibilidade de todos os trabalhos humanos se tornarem totalmente automatizáveis tinha 50% de probabilidade de ocorrer até 2116. Estas estimativas são 13 e 48 anos anteriores às apresentadas na investigação do ano passado.
Nos próximos dez anos, a inteligência artificial terá pelo menos 50% de chance de realizar a maior parte das tarefas pesquisadas. Isto inclui a criação de músicas ou a programação de um sistema inteiro para processar pagamentos do zero. No entanto, tarefas como instalar fisicamente cabos e fios elétricos numa casa nova ou resolver quebra-cabeças matemáticos antigos podem levar mais tempo para serem executadas por uma IA.
Mais de 80% dos cientistas de IA expressam preocupação “extrema” ou “substancial” sobre o potencial da IA de facilitar a propagação de desinformação. Da mesma forma, existem preocupações sobre o potencial da IA para ser utilizada por governantes autoritários, exacerbar a desigualdade económica e o seu envolvimento na criação de vírus modificados.
Podemos treinar IAs para evitar o apocalipse?
As principais empresas de IA, como OpenAI e Anthropic, estabeleceram diretrizes para alinhar a IA com os valores humanos. Mas será que estes métodos irão realmente funcionar com modelos de IA mais inteligentes que os humanos? A eficácia destas medidas com modelos de IA mais avançados que os humanos permanece uma incógnita, uma vez que a IA atual não é tão inteligente.
Mesmo assim, esta tecnologia tem muito a oferecer. Os especialistas estimam que até 2033, a IA será capaz de montar LEGOs, traduzir idiomas recém-descobertos e desenvolver videojogos. Até 2063, espera-se que a IA realize tarefas cirúrgicas e até mesmo investigações realizadas por especialistas em IA.
Referência da notícia:
Grace, K. et.al. Thousands of AI authors on the future of AI, Arxiv, 2024.