Elon Musk apresentou um plano ambicioso e controverso para alterar fundamentalmente o paradigma de treinamento para seu modelo de inteligência artificial, Grok. Insatisfeito com os conjuntos de dados existentes que sustentam os sistemas atuais de IA, Musk pretende treinar a GROK para uma base de conhecimento recém -selecionada. Essa iniciativa vai além do mero refinamento de dados; Musk declarou explicitamente seu desejo de Grok “reescrever todo o corpus do conhecimento humano, acrescentando informações ausentes e excluindo erros”, um pronunciamento que acendeu um debate significativo e recebeu críticas fortes de vários setores.
De acordo com um X Post publicado por Musk no sábado, prevê -se que o próximo modelo Grok 3.5 possua recursos de “raciocínio avançado”. Sua visão para esse modelo aprimorado é participar ativamente da criação de um registro histórico e factual ‘corrigido’. Depois que esse conjunto de conhecimento reescrito estiver concluído, o modelo GROK será atualizado usando esse novo dados, presumivelmente mais preciso e abrangente. A lógica de Musk para essa medida drástica decorre de sua crença de que “lixo demais” existe dentro dos modelos fundamentais da IA, particularmente aqueles treinados em “dados não corrigidos”. Essa perspectiva ressalta uma insatisfação profunda com o estado atual da integridade e precisão dos dados da IA.
A afirmação de Musk em relação à qualidade dos dados de treinamento de IA não é um novo desenvolvimento. Por um período prolongado, ele foi um crítico vocal dos modelos rivais de IA, como o Openai’s ChatGPT, uma empresa que ele co-fundou notavelmente. Ele sempre alegou que esses modelos exibem preconceitos inerentes e omitem intencionalmente informações consideradas “não politicamente corretas”. Essa crítica se alinha com um padrão mais amplo na abordagem de Musk à tecnologia e disseminação de informações, onde ele consistentemente pretende moldar produtos e plataformas para estar livre do que ele considera prejudicial “correção política”. Seu objetivo declarado é fazer de Grok uma IA “Anti-Woke”, uma postura ideológica que moldou muitos de seus empreendimentos recentes.
Essa motivação ideológica também ficou evidente em sua aquisição e subsequente gerenciamento do Twitter em 2022. Após sua aquisição, Musk relaxou significativamente as políticas de conteúdo e desinformação da plataforma. Essa mudança levou a um aumento notável na disseminação de teorias de conspiração sem controle, conteúdo extremista e notícias falsas, algumas das quais, ironicamente, foram amplificadas pelo próprio Musk. Em uma tentativa de neutralizar o dilúvio de desinformação, Musk apresentou o recurso “Notas da comunidade” no X. Esse recurso permite que os usuários desmascaram ou adicionem informações contextuais a postagens potencialmente enganosas, com essas notas aparecendo com destaque sob o conteúdo original. Enquanto pretendem promover um ambiente de informação mais preciso, a eficácia e a imparcialidade desse sistema de moderação de crowdsourced permanecem assuntos de discussão em andamento.
A última proposta de Musk para a reciclagem de Grok foi recebida com condenação imediata e forte de vários especialistas e comentaristas. Gary Marcus, um proeminente fundador de startups da IA e professor emérito de ciências neurais na Universidade de Nova York, criticou veementemente o plano de Musk, comparando -o a um cenário distópico encontrado no “1984 de George Orwell”. Marcus articulou sua preocupação com X, afirmando: “Diretamente em 1984. Você não conseguiu que Grok se alinhasse com suas próprias crenças pessoais, para reescrever a história para fazê -la em conformidade com seus pontos de vista”. Essa comparação destaca a profunda preocupação de que a iniciativa de Musk possa levar a uma reinterpretação manipuladora de fatos históricos para se adequar a uma agenda ideológica específica, em vez de uma busca objetiva da verdade.
Além do coro das críticas, Bernardino Sassoli de ‘Bianchi, professor de filosofia de lógica e ciência da Universidade de Milão, expressou um alarme profundo nas intenções de Musk. Em um post do LinkedIn, De ‘Bianchi afirmou que estava “perdido de palavras para comentar o plano de Musk. Ele elaborou as possíveis implicações, afirmando: “Quando bilionários poderosos tratam a história como maleável simplesmente porque os resultados não se alinham com suas crenças, não estamos mais lidando com a inovação – estamos enfrentando controle narrativo”. As palavras fortes de De ‘Bianchi destacam o medo de que esse empreendimento possa minar fundamentalmente a integridade do entendimento histórico e permitir a imposição de uma visão de mundo específica. Ele concluiu enfatizando a violação ética inerente ao plano: “Reescrever dados de treinamento para combinar a ideologia está errado em todos os níveis concebíveis”.
Compondo a controvérsia, o pedido de Musk para que os usuários de X contribuam com “fatos divisivos” para ajudar na reciclagem de Grok, rendiu com resultados. Musk solicitou especificamente fatos que são “politicamente incorretos, mas, no entanto, factualmente verdadeiros”. No entanto, as respostas a esse convite aberto consistiram amplamente em uma ampla gama de teorias da conspiração e reivindicações extremistas completamente desmascaradas. Essas submissões incluíram casos de distorção do Holocausto, desinformação desacreditada da vacina, reivindicações pseudocientíficas que promovem ideologias racistas sobre inteligência e negação de mudanças climáticas. Esse resultado levanta questões sérias sobre a viabilidade de crowdsourcing uma base de conhecimento ‘corrigida’, principalmente quando os critérios para a inclusão parecem convidar e legitimar as narrativas marginais ou demonstradamente falsas. A própria natureza das contribuições recebidas sugere que a metodologia de Musk pode ampliar inadvertidamente os “lixo” e “dados não corrigidos” que ele pretende eliminar, levando a um modelo de IA potencialmente mais tendencioso e impreciso, em vez de um retificado.
Source: O plano Grok AI da Musk desperta preocupações de integridade de dados
