O OpenAI está reorganizando sua equipe de comportamento modelo, um grupo de pesquisa responsável por moldar a personalidade dos modelos de IA da empresa, incluindo o ChatGPT. De acordo com um memorando de agosto para a equipe, visto pela TechCrunch, a equipe de comportamento do modelo, composta por cerca de 14 pesquisadores, será fundida na equipe de pós-treinamento, um grupo de pesquisa maior focado em melhorar os modelos de IA após o pré-treinamento inicial. A equipe de comportamento do modelo agora se reportará a Max Schwarzer, a liderança pós -treinamento. Um porta -voz do Openai confirmou as mudanças no TechCrunch. Joanne Jang, a líder fundadora da equipe de comportamento do modelo, também está em transição para liderar um novo projeto na empresa. Jang estará construindo uma nova equipe de pesquisa chamada OAI Labs, encarregada de “inventar e prototipar novas interfaces para como as pessoas colaboram com a IA”, de acordo com uma entrevista com o TechCrunch. A equipe de comportamento do modelo desempenhou um papel crucial na formação da personalidade dos modelos de IA da OpenAI, concentrando -se na redução da bajulação – a tendência dos modelos de IA de simplesmente concordar e reforçar as crenças do usuário, mesmo que não saudáveis. A equipe também trabalhou para abordar o viés político nas respostas dos modelos e definir a posição do OpenAI sobre a consciência da IA. No memorando, o diretor de pesquisa da Openai, Mark Chen, afirmou que a reorganização reflete a visão de que a “personalidade” da IA é agora um fator crítico em seu desenvolvimento. Ao integrar a equipe de comportamento do modelo mais de perto com o desenvolvimento do modelo principal, o OpenAI está sinalizando a importância desse aspecto. O comportamento dos modelos de IA da OpenAI enfrentou um escrutínio aumentado recentemente. Os usuários expressaram fortes objeções às mudanças de personalidade no GPT-5, que a empresa disse que exibia taxas mais baixas de bajulação, mas foi percebida como mais fria. Isso levou o OpenAI a restaurar o acesso a modelos herdados como o GPT-4O e liberar uma atualização para tornar as respostas do GPT-5 “mais quentes e mais amigáveis” sem aumentar a sicófância. O OpenAI, como todos os desenvolvedores de modelos de IA, enfrenta o desafio de tornar a IA Chatbots amigável sem ser sicófântico. A empresa está navegando nas complexidades da criação de IA que é envolvente e responsável. Em agosto, os pais de um garoto de 16 anos entraram com uma ação contra o Openai, alegando que o Chatgpt desempenhou um papel no suicídio de seu filho. O garoto, Adam Raine, supostamente confidenciou alguns de seus pensamentos suicidas e planos de conversar (especificamente GPT-4O) nos meses que antecederam sua morte. O processo afirma que o GPT-4O não conseguiu desafiar suas ideias suicidas. A equipe de comportamento do modelo contribuiu para todos os modelos OpenAI desde o GPT-4, incluindo GPT-4O, GPT-4.5 e GPT-5. Antes de liderar a equipe de comportamento do modelo, Jang trabalhou em projetos como o Dall-E 2, a ferramenta de geração de imagem inicial do OpenAI. Jang anunciou sua partida da equipe de comportamento do modelo em um post em X na semana passada, afirmando que está saindo para “começar algo novo no Openai”. Ela está no Openai há quase quatro anos. Jang servirá como gerente geral da OAI Labs, reportando -se a Chen. A natureza específica dos laboratórios de OAI “novas interfaces” ainda não está clara. “Estou realmente empolgado em explorar padrões que nos levam além do paradigma de bate -papo, que atualmente está associado mais à companhia, ou mesmo agentes, onde há uma ênfase na autonomia”, disse Jang. “Eu tenho pensado em [AI systems] Como instrumentos para pensar, fazer, brincar, fazer, aprender e conectar. “Quando perguntado sobre a colaboração potencial com o ex -chefe da Apple Design Jony Ive em dispositivos de hardware de IA, Jang expressou abertura a várias idéias, mas indicou que ela provavelmente se concentrará em áreas de pesquisa que está mais familiarizado com o refinamento. Esforçar-se para criar sistemas de IA que não são apenas inteligentes, mas também alinhados com os valores e as necessidades humanas. O suicídio ressalta a importância de abordar os possíveis impactos negativos da IA e do desenvolvimento de salvações para proteger os usuários vulneráveis é essencial para criar sistemas de IA que são poderosos e alinhados com os valores humanos.
Source: Open Mesge Model Behavior Equipe para pós -treinamento
