Em uma revelação impressionante que lança uma sombra sobre seu recente investimento de US $ 14,8 bilhões da Meta, a IA da Startup de Inteligência Artificial foi exposta por supostamente utilizar o Google Public Docs para armazenar informações altamente confidenciais de seus clientes de alto nível, incluindo Meta, Google e Xai. Esta notícia surge apenas algumas semanas depois que a Meta anunciou seu acordo para adquirir uma participação de 49% na IA da escala e nomear seu CEO, Alexandr Wang, para liderar um novo laboratório de “Superintelligência” no Meta.
O lapso de segurança relatado levantou preocupações significativas, especialmente considerando a meta pagou o “preço chocante”, que indicou a confiança do gigante da mídia social em Wang e escala o papel fundamental da IA no avanço de sua divisão de IA. No entanto, de acordo com um relatório da Business Insider, a Scale AI manteve um sistema de segurança “incrivelmente desajeitado”, deixando projetos secretos, dados sensíveis ao cliente, endereços de email e até detalhes de pagamento dos funcionários expostos no Google Docs acessíveis a qualquer pessoa que possua um link direto.
Um porta-voz da Scale AI, respondendo às alegações, afirmou: “Estamos conduzindo uma investigação completa e desativamos a capacidade de qualquer usuário de compartilhar publicamente documentos de sistemas gerenciados por escala”. O porta -voz enfatizou ainda o compromisso da Companhia com “salvaguardas técnicas e políticas robustas para proteger informações confidenciais e está sempre trabalhando para fortalecer nossas práticas”. Embora atualmente não haja indicação de que esses arquivos acessíveis ao público levaram a uma violação de dados, os especialistas em segurança cibernética alertam que essas vulnerabilidades podem deixar a empresa altamente suscetível a futuros hacks.
Nem o Google nem a Xai responderam imediatamente aos pedidos de comentários sobre o relatório, enquanto a Meta se recusou a comentar o assunto. A natureza generalizada dessa prática foi corroborada por cinco empreiteiros atuais e antigos de IA que falaram com o Business Insider. Um contratado descreveu todo o sistema do Google Docs como “incrivelmente desagradável”, destacando uma falta percebida de protocolos de segurança rigorosos dentro da empresa.
A investigação do Business Insider descobriu milhares de páginas de documentos do projeto espalhados por 85 Docs distintos do Google, detalhando o trabalho sensível da IA com os principais clientes de tecnologia. Entre as informações expostas estavam os manuais confidenciais do Google, pelo menos sete dos quais foram marcados como “confidenciais”, incluindo recomendações destinadas a melhorar o chatbot do Google, então conhecido como Bard. Esses documentos críticos, descrevendo estratégias para ajustar o chatbot, foram inadvertidamente deixados acessíveis ao público, oferecendo um vislumbre dos processos de desenvolvimento interno do Google e seus esforços para competir com o ChatGPT do OpenAI.
Além disso, os arquivos públicos do Google Doc continham informações detalhadas sobre o ambicioso “projeto do projeto” de Elon Musk. Isso incluiu documentos de treinamento com aproximadamente 700 prompts de conversa projetados para aprimorar as habilidades de conversação de um chatbot da IA. Da mesma forma, documentos de meta de meta “confidenciais” que contêm clipes de áudio de avisos de discursos “bons” e “ruins”, cruciais para o treinamento de produtos de AI da Meta, também foram considerados disponíveis ao público.
Mesmo quando os projetos secretos foram atribuídos a codinomes, vários contratados de IA de escala revelaram que muitas vezes era simples discernir o cliente real. Em alguns casos, os documentos associados a esses projetos de codinome incluíram erroneamente o logotipo da empresa cliente, como uma apresentação que, inadvertidamente, exibia um logotipo do Google. Além das preocupações de segurança, os contratados observaram que, em certos casos, ao interagir com os produtos de IA, o próprio chatbot revelaria a identidade do cliente quando solicitado diretamente.
As revelações se estenderam além dos detalhes do projeto para informações altamente sensíveis dos funcionários. Verificou -se que as planilhas do Google DOC acessíveis ao público continham os nomes e endereços de e -mail privados de milhares de trabalhadores. Uma planilha particularmente alarmante, intitulada explicitamente “pessoas boas e ruins”, categorizou dezenas de trabalhadores como “alta qualidade” ou “trapaça”. Outro documento sinalizou indivíduos para “comportamento suspeito”, levantando questões sobre o rastreamento interno de desempenho da IA e práticas éticas.
Além disso, os documentos públicos detalharam as taxas de pagamento de contratadas individuais, juntamente com as notas extensas sobre disputas e discrepâncias salariais. Essa exposição de dados financeiros e de desempenho sensível compostos ainda mais a gravidade do lapso de segurança, impactando potencialmente a privacidade e os meios de subsistência de vários contratados.
O incidente ressalta uma necessidade crítica de práticas robustas de segurança de dados no setor de inteligência artificial em rápida evolução, principalmente porque empresas como a escala da IA lidam com vastas quantidades de informações proprietárias e confidenciais para os principais gigantes da tecnologia. As consequências desse sistema de segurança “incrivelmente desajeitado” pode ter implicações significativas para a reputação da AI em escala e suas futuras parcerias, mesmo que se integra mais profundamente às ambições da AI da Meta.
Source: Escala AI exposta: dados do cliente vazaram via Google Docs
