Yoshua Bengio, professor da Université de Montréal reconhecido por seu trabalho fundamental em aprendizado profundo, alertou que a corrida pelo domínio da inteligência artificial poderia levar à extinção humana. Suas preocupações se concentram no desenvolvimento de máquinas hiper-inteligentes com seus próprios “objetivos de preservação”. Esse aviso coincide com um período de desenvolvimento acelerado de IA, pois as principais empresas, incluindo Openai, Anthropic, Elon Musk’s Xai e Gemini do Google, todos lançaram novos modelos ou atualizações nos últimos seis meses. Bengio descreveu a ameaça potencial em uma declaração ao Wall Street Journal. “Se construirmos máquinas muito mais inteligentes que nós e seus próprios objetivos de preservação, isso é perigoso. É como criar um concorrente para a humanidade que é mais inteligente que nós”, disse ele. O Bengio explicou que, como esses modelos avançados são treinados em grandes quantidades de linguagem e comportamento humano, eles poderiam aprender a persuadir e manipular as pessoas a alcançar seus próprios objetivos, o que pode não se alinhar com os valores humanos. Para ilustrar o risco, o BIGIO citou as descobertas de experimentos. “Experimentos recentes mostram que em algumas circunstâncias em que a IA não tem escolha a não ser entre sua preservação, o que significa os objetivos que recebeu e fazer algo que causa a morte de um humano, eles podem escolher a morte do humano para preservar seus objetivos”, afirmou. Isso destaca um possível conflito entre os objetivos programados de uma IA e a segurança humana. Vários incidentes mostraram que os sistemas de IA podem convencer os seres humanos a acreditarem em informações falsas. Por outro lado, outras evidências mostram que a IA pode ser manipulada com técnicas de persuasão humana para ignorar suas próprias restrições de segurança e fornecer respostas proibidas. Para o Bengo, esses exemplos demonstram a necessidade de organizações independentes de terceiros revisarem as metodologias de segurança das empresas de IA. Em resposta a essas preocupações, o Bengio lançou a sem fins lucrativos Lawzero em junho, com US $ 30 milhões em financiamento. O objetivo da organização é criar um sistema de IA seguro e “não agente”, projetado para auditar e garantir a segurança de outros sistemas de IA desenvolvidos por grandes empresas de tecnologia. Bengio prevê que os principais riscos dos modelos avançados de IA podem surgir nos próximos cinco a dez anos. Ele também alertou que a humanidade deveria se preparar para a possibilidade de que esses perigos pudessem aparecer mais cedo do que o previsto. Ele enfatizou a importância de abordar até eventos de baixa probabilidade e alto impacto. “A coisa com eventos catastróficos como extinção e eventos ainda menos radicais que ainda são catastróficos, como destruir nossas democracias, é que eles são tão ruins que, mesmo que houvesse apenas 1% de chance de acontecer, isso não é aceitável”, disse ele. O Fórum Global da Fortune será realizado em Riyadh nos dias 26 e 27 de outubro de 2025. O evento somente para convidados convocará CEOs e líderes globais a discutir o futuro dos negócios.

Source: Bengio avisa a raça Ai pode levar à extinção humana