Um grupo de especialistas em IA e executivos de tecnologia, incluindo Elon Musk e o cofundador da Apple, Steve Wozniak, emitiu um comunicado carta aberta instando os principais laboratórios de inteligência artificial a interromper o desenvolvimento de sistemas de IA mais avançados que o GPT-4. A carta aberta, publicada na terça-feira pelo Instituto sem fins lucrativos Future of Life, tem cerca de 1.000 signatários e cita “riscos profundos” para a sociedade humana como o motivo do apelo à ação.
A carta pede a suspensão imediata da formação dos sistemas por pelo menos seis meses, que deve ser pública, verificável e incluir todos os atores públicos. “Sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade, conforme demonstrado por extensa pesquisa e reconhecido pelos principais laboratórios de IA”, começa a carta.
Especialistas em IA soam alarme sobre “riscos profundos” para a sociedade humana
O grupo argumenta que os sistemas avançados de IA podem representar uma mudança profunda na história da vida na Terra e devem ser planejados e gerenciados com cuidado e recursos adequados. No entanto, eles dizem que esse nível de planejamento e gerenciamento não está acontecendo, apesar de nos últimos meses ver os laboratórios de IA travados em uma corrida descontrolada para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém, nem mesmo seus criadores, podem entender. , prever ou controlar de forma confiável.
A carta aberta chega apenas algumas semanas após a estreia pública do GPT-4 da OpenAI, o grande modelo de linguagem que alimenta a versão premium do popular chatbot ChatGPT. O novo GPT-4 pode lidar com tarefas mais complexas e produzir resultados mais sutis do que as versões anteriores e também está menos sujeito às falhas das versões anteriores, de acordo com a OpenAI.
Para realizar seu trabalho, sistemas como o GPT-4 precisam ser treinados em grandes quantidades de dados que possam usar para responder a perguntas e realizar outras tarefas. O ChatGPT, que entrou em cena em novembro, tem uma capacidade semelhante à humana de escrever e-mails de trabalho, planejar itinerários de viagens, produzir código de computador e ter um bom desempenho em testes como o exame da ordem.
Desde o início do ano, empresas como Google e Microsoft, Adobe, Snapchat e Grammarly anunciaram serviços que aproveitam essas habilidades generativas de IA.
No entanto, a própria pesquisa da OpenAI mostrou que há riscos associados a essas habilidades de IA. Os sistemas generativos de IA podem citar fontes não confiáveis ou, como observou a OpenAI, “aumentar os desafios de segurança ao realizar ações prejudiciais ou não intencionais, aumentando as capacidades de pessoas mal-intencionadas que fraudariam, enganariam ou abusariam de outras pessoas”.
O grupo por trás da carta aberta argumenta que as empresas estão lançando produtos sem as salvaguardas adequadas ou mesmo sem entender as implicações. Os especialistas em IA estão assustados com o rumo que tudo isso pode estar tomando. A carta diz: “Infelizmente, esse nível de planejamento e gerenciamento não está acontecendo, embora os últimos meses tenham visto laboratórios de IA travados em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – podem entender, prever ou controlar de forma confiável.”
Os signatários da carta acreditam que a sociedade precisa dar um passo atrás e interromper o desenvolvimento enquanto avaliam os riscos e implementam salvaguardas. Eles estão pedindo transparência, discussão pública e engajamento público em torno dos desenvolvimentos da IA, para que todos possam opinar sobre o futuro da IA.
A carta aberta gerou debate entre especialistas em IA, com alguns argumentando que uma pausa é necessária para garantir que a IA seja desenvolvida de maneira segura e ética. Outros, no entanto, temem que uma pausa desacelere o progresso e dê a outros países uma vantagem no desenvolvimento da IA.
Apesar do debate, está claro que a IA está avançando em um ritmo acelerado e tem o potencial de mudar profundamente nossas vidas. Cabe à sociedade como um todo garantir que essa mudança seja gerida de forma responsável e ética.
