Há uma verdadeira “corrida armamentista” acontecendo no campo do desenvolvimento da IA, afirmam os pesquisadores, argumentando que esse campo precisa de regulamentação. Os pesquisadores da Universidade de Oxford, por xmplo, alertaram o governo britânico de que a inteligência artificial avançada pode representar uma séria ameaça à humanidade e deve ser devidamente regulamentada.
Os estudiosos alertaram os parlamentares do Comitê Seleto de Ciência e Tecnologia de que o desenvolvimento da IA pode eventualmente chegar a um ponto em que esses sistemas podem se tornar capazes de eliminar os seres humanos. O estudante de doutorado Michael Cohen explicou que com a “IA sobre-humana” existe um certo risco de que “ela possa matar todo mundo”.
Comparando o processo de treinamento de uma IA ao treinamento de um cachorro, Cohen apontou que, em vez de tentar obter guloseimas como recompensa por concluir tarefas, um canino pode tentar pegá-los sem fazer o que os humanos querem que ele faça. encontre um armário de guloseimas.
“Se você tem algo muito mais inteligente do que nós monomaniacamente tentando obter esse feedback positivo, e é dominado pelo mundo para garantir isso, isso direcionaria tanta energia quanto possível para garantir seu domínio sobre isso, e isso nos deixaria sem qualquer energia para nós mesmos”, explicou.
Cohen também especulou que essa IA desonesta poderia ser capaz de evitar a detecção enquanto se move em direção ao seu objetivo, argumentando que, “Se você tem algo muito mais inteligente do que nós em todos os domínios, presumivelmente evitaria enviar bandeiras vermelhas enquanto ainda poderíamos puxar o plugue.”
No ano passado, Cohen fez um alerta semelhante em um estudo que escreveu junto com seus colegas da Universidade de Oxford e da Universidade Nacional Australiana.
Os pesquisadores também sugeriram que a IA se desenvolve em uma “corrida armamentista” e pediram que esta área fosse regulamentada para proteger a humanidade.
“Acho que estamos em uma enorme corrida armamentista de IA, geopoliticamente com os EUA contra a China e entre as empresas de tecnologia parece haver essa disposição de jogar a segurança e a cautela pela janela e correr o mais rápido possível para a IA mais avançada”. disse o professor de aprendizado de máquina Michael Osborne.
“Em aplicações civis, há vantagens em ser o primeiro a desenvolver uma IA realmente sofisticada que pode eliminar a concorrência de alguma forma e se a tecnologia desenvolvida não parar de eliminar a concorrência e talvez eliminar toda a vida humana, nós estar realmente preocupado”, acrescentou.