Cientistas lançam novo alerta para riscos da Inteligência Artificial

Centenas de pesquisadores da mais alta tecnologia e executivos empresas da área acabam de assinar um alerta sinalizando  que a IA (Inteligência Artificial) representa uma ameaça existencial para a humanidade. Trata-se de mais uma manifestação generalizada desse segmento sobre a ameaça potencial representada pelo avanço do campo tecnológico.

“Mitigar o risco de extinção da IA ​​deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear”, diz um comunicado divulgado pelo Center for AI Safety, organização sem fins lucrativos dos Estados Unidos.

O manifesto tem as assinaturas de alguns dos principais nomes do setor, incluindo o criador do ChatGPT e CEO da OpenAI, Sam Altman, e quase 40 membros da unidade de inteligência artificial DeepMind do Google. Dan Hendrycks, cientista da computação que lidera o Center for AI Safety, disse que a brevidade da carta foi intencional.

“Precisamos de amplo reconhecimento das apostas antes que possamos ter discussões políticas úteis”, disse Hendrycks. “Para riscos dessa magnitude, a conclusão não é que essa tecnologia é superestimada, mas que esse problema é atualmente subestimado em relação ao nível real de ameaça.”

Este não é o primeiro esforço institucional para chamar a atenção para o problema. Outra carta pública que circulou em março atraiu as assinaturas de mais de mil acadêmicos, empresários e especialistas em tecnologia pedindo uma pausa no desenvolvimento da IA ​​até que ela possa ser regulamentada e executada com responsabilidade.

Segundo relatos da imprensa americana, “a maioria dos líderes mais influentes do campo não assinou” essa carta, “mas eles assinaram a nova declaração, incluindo Altman e dois dos executivos de IA do Google: Demis Hassabis e James Manyika”.

Embora as assinaturas do diretor de tecnologia da Microsoft, Kevin Scott, e do diretor científico da Microsoft, Eric Horvitz, apareçam no comunicado, notavelmente ausentes da carta estão o CEO do Google, Sundar Pichai, e o CEO da Microsoft, Satya Nadella, os dois líderes corporativos mais poderosos da área.

Há um mês, Altman testemunhou perante o Congresso dos EUA que a IA poderia “causar danos significativos ao mundo” espalhando desinformação ou manipulando as emoções humanas, e seu potencial para causar estragos na vida das pessoas está rapidamente se tornando claro. Várias empresas já expressaram o desejo de substituir trabalhadores humanos pela tecnologia.