Slack, a plataforma amplamente utilizada para comunicação no local de trabalho, utiliza dados do usuário para aprimorar seus recursos de IA.
As informações que a IA acessa incluem o aproveitamento de mensagens, arquivos e outros conteúdos gerados pelo usuário para melhorar recursos como recomendações de canais, funcionalidade de pesquisa, preenchimento automático e sugestões de emojis.
Embora essas melhorias visem simplificar a experiência do usuário, a prática de explorar os dados do usuário gerou preocupações em relação à privacidade e ao consentimento.
Decodificar o algoritmo de IA do Slack são os dados do usuário, o ingrediente secreto
No centro do treinamento de IA do Slack está o uso das interações do usuário dentro da plataforma. Ao analisar padrões em mensagens, arquivos e outras formas de comunicação, os modelos de IA do Slack obtêm insights que são aplicados para melhorar vários recursos. Esta abordagem, embora aparentemente benéfica para melhorar a experiência do utilizador, levanta questões sobre até que ponto os dados do utilizador são acedidos e como são utilizados. Claro, estes são os pensamentos da empresa. Os usuários estão muito preocupados com esta situação.
O acesso a esse conteúdo, que pode incluir mensagens privadas, informações da empresa ou arquivos confidenciais, conforme permissão da inteligência artificial da empresa, começou a levantar questões éticas.
Inclusão padrão desperta debate
Um dos aspectos mais controversos do treinamento de IA do Slack é a inclusão padrão de todos os usuários. Isso significa que, a menos que um usuário ou organização opte especificamente pela exclusão, seus dados serão automaticamente incluídos no processo de treinamento. Esta prática tem suscitado críticas daqueles que acreditam que os utilizadores devem ser informados e ter a opção de participar na recolha de dados antes de esta começar.
Controvérsia revelada: reconhecimento e resposta do Slack
A questão ganhou força quando Corey Quinn, executivo do DuckBill Group, criticou publicamente a política de IA do Slack. Em resposta, o Slack confirmou o uso de conteúdo do usuário para treinar algumas de suas ferramentas de IA, ao mesmo tempo em que esclareceu que os dados do cliente não são usados para treinar ferramentas de IA pagas. A empresa afirmou ainda que organizações ou administradores de espaços de trabalho podem solicitar a remoção de suas mensagens e conteúdos do conjunto de dados de treinamento, levantando questões sobre por que tal solicitação é necessária em uma plataforma pela qual os usuários pagam.
As preocupações dos usuários se espalham nas redes sociais
A controvérsia aumentou ainda mais plataforma de mídia social X, onde muitos usuários argumentaram que o Slack deveria ter tornado o recurso de treinamento de IA opcional, em vez da configuração padrão. Foram levantadas preocupações sobre o potencial uso indevido de mensagens privadas, informações da empresa e arquivos confidenciais, bem como a falta de um mecanismo fácil de exclusão para usuários individuais.
Em resposta às perguntas, um representante do Slack reiterou que os modelos de IA da empresa não foram projetados para aprender, memorizar ou reproduzir dados de clientes. Eles enfatizaram que os clientes podem excluir os seus dados do treinamento desses modelos de IA (não generativos). No entanto, este esclarecimento pouco fez para acalmar as preocupações dos utilizadores que consideram que a comunicação inicial relativa à utilização de dados não era clara e potencialmente enganosa.
Uma narrativa confusa: declarações incompatíveis sobre a política de IA
A declaração do Slack em sua página de inteligência artificial: “Seus dados são seus dados. Não o usamos para treinar a IA do Slack”, aumentou a confusão. Embora a empresa esclareça que as ferramentas produtivas de IA pagas não são treinadas usando dados de usuários do Slack, o reconhecimento de que outros modelos de IA são treinados usando esses dados contradiz a noção de que os dados do usuário permanecem exclusivamente nas mãos dos usuários. Advogado Elizabeth Wharton chamou a decisão do Slack de “bagunça de privacidade” e criticou a falta de uma saída fácil para usuários individuais.
A prática do Slack de usar dados de usuários para treinamento de IA, embora visando melhorar os recursos da plataforma, gerou polêmica significativa. A inclusão padrão de utilizadores, a falta de comunicação clara e as potenciais implicações de privacidade alimentaram debates sobre consentimento, transparência e utilização ética de dados na era digital. À medida que a IA continua a desempenhar um papel cada vez mais proeminente em vários aspectos das nossas vidas, a conversa em torno dos dados dos utilizadores e da sua utilização continuará provavelmente a ser um ponto focal tanto para os consumidores como para as empresas.
Crédito da imagem em destaque: Stephen Phillips – Hostreviews.co.uk / Unsplash
Source: A IA do Slack é alimentada por dados do usuário