Inteligência Artificial pode avançar sobre os humanos

As chances de a inteligência artificial avançada se tornar uma ameaça à humanidade podem ser um pouco altas demais para um futuro próximo, sugerem os autores de um novo estudo publicado na AI Magazine.

Os pesquisadores da Universidade de Oxford e da Universidade Nacional Australiana postulam que, se uma IA suficientemente avançada receber uma “grande recompensa para indicar que algo sobre o mundo é satisfatório para nós, pode-se levantar a hipótese de que o que nos satisfez foi o próprio envio da recompensa.”

A IA pode então tentar intervir no “fornecimento de sua recompensa”, o que pode levar a consequências desastrosas, pois a busca da IA ​​para “maximizar a probabilidade de receber sua recompensa máxima a cada passo de tempo” resultaria nessa entidade competindo com a humanidade por a energia disponível.

“Sob as condições que identificamos, nossa conclusão é muito mais forte do que a de qualquer publicação anterior – uma catástrofe existencial não é apenas possível, mas provável”, escreveu Michael Cohen, da Universidade de Oxford, um dos autores do estudo. Twitter .

“Em um mundo com recursos finitos, há uma competição inevitável por esses recursos”, disse ele. E a outra parte fundamental é que teria um apetite insaciável por mais energia para continuar levando a probabilidade cada vez mais perto.”

Os pesquisadores observam que quase todas as suposições que fizeram ao explorar o cenário em questão são “contestáveis ​​​​ou concebivelmente evitáveis”.