Centenas de pesquisadores da mais alta tecnologia e executivos empresas da área acabam de assinar um alerta sinalizando que a IA (Inteligência Artificial) representa uma ameaça existencial para a humanidade. Trata-se de mais uma manifestação generalizada desse segmento sobre a ameaça potencial representada pelo avanço do campo tecnológico.
“Mitigar o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear”, diz um comunicado divulgado pelo Center for AI Safety, organização sem fins lucrativos dos Estados Unidos.
O manifesto tem as assinaturas de alguns dos principais nomes do setor, incluindo o criador do ChatGPT e CEO da OpenAI, Sam Altman, e quase 40 membros da unidade de inteligência artificial DeepMind do Google. Dan Hendrycks, cientista da computação que lidera o Center for AI Safety, disse que a brevidade da carta foi intencional.
“Precisamos de amplo reconhecimento das apostas antes que possamos ter discussões políticas úteis”, disse Hendrycks. “Para riscos dessa magnitude, a conclusão não é que essa tecnologia é superestimada, mas que esse problema é atualmente subestimado em relação ao nível real de ameaça.”
Este não é o primeiro esforço institucional para chamar a atenção para o problema. Outra carta pública que circulou em março atraiu as assinaturas de mais de mil acadêmicos, empresários e especialistas em tecnologia pedindo uma pausa no desenvolvimento da IA até que ela possa ser regulamentada e executada com responsabilidade.
Segundo relatos da imprensa americana, “a maioria dos líderes mais influentes do campo não assinou” essa carta, “mas eles assinaram a nova declaração, incluindo Altman e dois dos executivos de IA do Google: Demis Hassabis e James Manyika”.
Embora as assinaturas do diretor de tecnologia da Microsoft, Kevin Scott, e do diretor científico da Microsoft, Eric Horvitz, apareçam no comunicado, notavelmente ausentes da carta estão o CEO do Google, Sundar Pichai, e o CEO da Microsoft, Satya Nadella, os dois líderes corporativos mais poderosos da área.
Há um mês, Altman testemunhou perante o Congresso dos EUA que a IA poderia “causar danos significativos ao mundo” espalhando desinformação ou manipulando as emoções humanas, e seu potencial para causar estragos na vida das pessoas está rapidamente se tornando claro. Várias empresas já expressaram o desejo de substituir trabalhadores humanos pela tecnologia.