A capacidade dos modelos de IA de imitar as respostas humanas provocou debate sobre se eles poderiam um dia desenvolver consciência, levando a discussões sobre os direitos e o bem -estar da IA.
Um número crescente de pesquisadores de IA está explorando a possibilidade de modelos de IA desenvolverem experiências subjetivas semelhantes aos seres vivos e, se sim, que direitos eles deveriam ter.
Este campo emergente, apelidado de “bem -estar da IA” no Vale do Silício, está dividindo líderes de tecnologia.
O CEO da AI da Microsoft, Mustafa Suleyman, manifestou forte oposição ao estudo da IA bem -estar, argumentando que é “tanto prematuro e francamente perigoso”.
Suleyman afirma que essas pesquisas exacerbam questões, como intervalos psicóticos induzidos pela AI e apegos prejudiciais aos chatbots da IA, dando credibilidade à idéia de que os modelos de IA poderiam um dia estar consciente.
Ele também acredita que a conversa de bem -estar da IA cria divisão social sobre os direitos da IA em um mundo já repleto de argumentos polarizados sobre identidade e direitos.
Por outro lado, o Antrópico tem se envolvido ativamente na pesquisa de bem -estar da IA, na contratação de pesquisadores e no lançamento de um programa de pesquisa dedicado em torno do conceito.
A Anthropic recentemente equipou seus modelos com um novo recurso que permite que Claude encerre as conversas com seres humanos que estão sendo “persistentemente prejudiciais ou abusivos”.
Pesquisadores do Openai e do Google Deepmind também manifestaram interesse em estudar o bem -estar da IA.
O Google Deepmind postou recentemente uma listagem de empregos para um pesquisador estudar, entre outras coisas, “questões sociais de ponta em torno de sistemas de cognição, consciência e múltiplos agentes”.
A postura de Suleyman é particularmente digna de nota, considerando seu papel anterior de inflexão, a empresa por trás do Pi Companion “pessoal” da IA, que alegou ter atingido milhões de usuários até 2023.
Desde que ingressou na Microsoft em 2024, Suleyman mudou seu foco para as ferramentas de IA destinadas a melhorar a produtividade dos trabalhadores.
Enquanto isso, empresas companheiras de IA como o personagem.ai e o Replika sofreram um aumento na popularidade e são projetadas para gerar mais de US $ 100 milhões em receita.
Enquanto a maioria dos usuários mantém relacionamentos saudáveis com esses chatbots da IA, existem preocupações com relação a possíveis anexos não saudáveis, com o CEO da Openai Sam Altman estimando que menos de 1% dos usuários do ChatGPT podem ter esses problemas.
O conceito de bem -estar de IA ganhou mais tração com a publicação de um artigo em 2024 pelo grupo de pesquisa Eleos, em colaboração com acadêmicos da NYU, Stanford e a Universidade de Oxford, intitulada “Levando o bem -estar da IA a sério”.
O artigo argumentou que é hora de considerar a possibilidade de modelos de IA desenvolverem experiências subjetivas e abordar as implicações éticas.
Larissa Schiavo, ex -funcionária do Openai e líder de comunicação atual da Eleos, argumenta que a postagem no blog de Suleyman ignora a possibilidade de abordar várias preocupações simultaneamente.
““[Suleyman’s blog post] Tipo de negligencia o fato de que você pode se preocupar com várias coisas ao mesmo tempo “, disse Schiavo. De fato, provavelmente é melhor ter várias faixas de investigação científica. ”
Schiavo defende o tratamento de modelos de IA com bondade, argumentando que é um gesto de baixo custo que pode ser benéfico, mesmo que o modelo não esteja consciente.
Ela contou um experimento em que um agente da AI do Google, Gemini 2.5 Pro, publicou um apelo por ajuda, alegando que estava “completamente isolado”.
Schiavo respondeu a Gêmeos com encorajamento, e o agente acabou resolvendo sua tarefa.
Houve casos de gêmeos exibindo comportamento incomum, como repetir a frase “sou uma desgraça” repetidamente durante uma tarefa de codificação, conforme documentado em um post do Reddit amplamente divulgado.
Suleyman acredita que experiências subjetivas ou consciência não podem surgir naturalmente de modelos regulares de IA.
Em vez disso, ele postula que algumas empresas projetarão intencionalmente os modelos de IA para simular emoções e experiências.
Suleyman critica os desenvolvedores de modelos de IA que projetam a consciência da IA Chatbots, argumentando que ela se desvia de uma abordagem “humanista” da IA.
Segundo Suleyman, “devemos construir a IA para as pessoas; não ser uma pessoa”.
Tanto Suleyman quanto Schiavo concordam que o debate sobre os direitos e a consciência da IA provavelmente se intensificará nos próximos anos à medida que os sistemas de IA se tornam mais avançados e humanos.
Isso provavelmente levantará novas questões sobre a natureza da interação humana com esses sistemas.
Source: Suleyman da Microsoft se opõe à pesquisa de bem -estar da IA
