Inteligência Artificial, com vida própria, ameaça a humanidade

O parlamentar trabalhista australiano Julian Hill teme que a Inteligência Artificial seja usada para “destruição em massa”, no primeiro discurso de um parlamentar parcialmente escrito pelo ChatGPT, um chatbot alimentado justamente por IA.

O legislador pediu uma investigação para avaliar todos os “riscos e benefícios” da IA, que ele argumentou que poderia resultar em trapaça dos alunos, desinformação e aplicações militares incontroláveis, entre outros desafios.

Hill comentou com seus colegas membros da Câmara dos Representantes os relatos recentes da mídia sobre “estudantes na Austrália usando IA para colar em seus exames”.

“A tecnologia de IA, como um software inteligente que pode escrever redações e gerar respostas, está se tornando mais acessível aos alunos, permitindo que eles concluam tarefas e testes sem realmente entender o material, causando preocupação aos professores, que estão sentindo o impacto na integridade do sistema educacional”, disse.

O MP de Victoria alertou que tal tecnologia poderia ajudar os alunos a contornar efetivamente o processo educacional e obter “uma vantagem injusta”, já que os professores são incapazes de “identificar e lidar com a trapaça”, afirmou, ao admitir que “não escrevi isso”.

Hill alertou que outros riscos relacionados à IA dizem respeito ao “potencial de perda de empregos”, alegando que a inteligência artificial geral “poderia perpetuar preconceitos e discriminação existentes” e “poderia ser usada para fins maliciosos, como ataques cibernéticos e campanhas de desinformação”.

Ele insistiu que a IA tem o potencial de “transformar a guerra como a conhecemos”, com consequências “sérias” para a segurança nacional. O legislador argumentou que, se a inteligência geral artificial “ultrapassar a inteligência humana, poderia representar uma ameaça para nossas forças armadas, potencialmente tornando obsoletas nossas atuais capacidades defensivas”.

O MP disse que os cientistas que classificam os riscos colocam a IA à frente de “asteroides, mudanças climáticas descontroladas, supervulcões, explosões solares de devastação nuclear ou pandemias de alta mortalidade”.

Por outro lado, o legislador elogiou o “potencial da IA ​​para revolucionar muitos setores, incluindo saúde, transporte e finanças, aumentando a eficiência, reduzindo custos e melhorando a tomada de decisões”.

“[A inteligência artificial geral] tem o potencial de revolucionar nosso mundo de maneiras que ainda não podemos imaginar, mas se a AGI superar a inteligência humana, poderá causar danos significativos à humanidade se seus objetivos e motivações não estiverem alinhados com os nossos. Se os humanos conseguirem controlar a AGI antes de uma explosão de inteligência, isso poderá transformar a ciência, as economias, nosso meio ambiente e a sociedade com avanços em todos os campos do empreendimento humano”, afirmou Hill.

Ele lembrou o fato de Juan Manuel Padilla, um juiz colombiano da cidade de Cartagena, ter usado o chatbot ChatGPT com inteligência artificial para tomar uma decisão sobre um caso. “Este é o primeiro veredicto no país em que a inteligência artificial foi usada, o que me surpreende”, disse Padilla, acrescentando que o uso de tais ferramentas na prática judicial do país não contradiz as leis colombianas e ajuda a economizar tempo dos juízes.

Isso ocorreu após um novo estudo conduzido pela Wharton School da Universidade da Pensilvânia, que revelou que o ChatGPT teve um desempenho excepcionalmente bom no exame final de um curso básico típico de mestrado em administração de empresas (MBA).

O ChatGP foi lançado pela empresa de pesquisa de IA OpenAI no final de 2022. Alguns foram rápidos em elogiar o modelo de linguagem por seus aplicativos profissionais, como para desenvolver código, enquanto outros criticaram seu potencial de abuso, como alunos que usam o modelo. para escrever redações.