Após uma postagem de um usuário do 4chan, o Meta AI vazou online e o incidente tomou conta dos noticiários. O LLaMA agora está acessível pela Internet e a empresa ainda não respondeu.
Há quase uma semana, a Meta começou a responder aos pedidos de acesso ao seu novo modelo de linguagem, que agora está amplamente disponível online por meio de um link de torrent baixado. Depois que um dos usuários enviou o link e começou a espalhar, inicialmente apareceu no 4chan. A comunidade de IA já está discutindo, e alguns estão até experimentando a nova tecnologia de ponta, que agora está disponível na internet.
Finalmente terminei o LLaMA torrent e consegui carregar 7B em cerca de 22GB VRAM. Executando alguns prompts divertidos para testá-lo. Realmente não tenho certeza sobre a primeira resposta aqui
pic.twitter.com/MOI93bNCBS
—David Rose (@drose101) 4 de março de 2023
Como o Meta AI vazou?
Em vez de lançar o LLaMA como um chatbot público, a Meta optou por criar um produto separado para uso generalizado. Por outro lado, o LLaMA foi criado em resposta às demandas da comunidade de IA para apoiar os pesquisadores. A empresa alegou que queria “melhor democratizar o acesso” à IA enquanto promovia o estudo de suas desvantagens.
No entanto, tornou-se um problema significativo para todos que usam a Internet, porque esse potente modelo de linguagem de IA pode ser empregado para fins prejudiciais, como spam personalizado e tentativas de phishing e, à medida que o Meta AI vazou, esse potencial tornou-se mais ameaçador para os usuários online. Os resultados de referência indicam que o desempenho do LLaMA é significativamente melhor do que os modelos concorrentes de código aberto. De acordo com um estudo da Ars Technica, o LLaMA-13B se saiu melhor do que a tecnologia do tipo ChatGPT, sendo 10 vezes menor.
Profissionais da indústria condenaram Meta por tornar o paradigma de linguagem de código aberto, incluindo Jeffrey Ladish, que twittou: “Bem, o modelo de linguagem de 65 bilhões de parâmetros da Meta vazou para a Internet pública, isso foi rápido. Prepare-se para inúmeras tentativas personalizadas de spam e phishing. Abrir o código desses modelos foi uma péssima ideia.”
“Para manter a integridade e evitar o uso indevido, estamos lançando nosso modelo sob uma licença não comercial focada em casos de uso de pesquisa. O acesso ao modelo será concedido caso a caso a pesquisadores acadêmicos; os afiliados a organizações governamentais, da sociedade civil e acadêmicas; e laboratórios de pesquisa da indústria em todo o mundo”, disse Meta na semana passada. No entanto, os portões de Meta não duraram muito.
Como a Meta AI se juntará à corrida da inteligência artificial?
Diz-se que o LaMDA do Google Bard compete com o LLaMA. Uma onda de uso malévolo está chegando, disseram Arvind Narayanan e Sayash Kapoor, da Universidade de Princeton, em um blog. Mas, não houve nenhum caso relatado de tal uso. Muitos estão culpando a Meta por permitir que isso aconteça e por não tomar medidas suficientes, já que sua ampla distribuição pode resultar em um aumento significativo no cibercrime.
Comparado a outros chatbots acessíveis publicamente, como o ChatGPT da OpenAI e o Bing Chat da Microsoft, o modelo de linguagem robusto é muito diferente. É mais complexo do que chatbots gratuitos e exige conhecimento, hardware apropriado e tempo. Naquela época, o problema surge porque um grande número de pessoas está preparado para cometer crimes e atender aos três critérios, tornando-o mais perigoso desde que o Meta AI vazou online. The Verge também observou que, ao contrário dos outros chatbots do exemplo anterior, o LLaMA não foi ajustado. O chatbot pode concentrar todos os seus recursos em uma única tarefa por meio do ajuste fino.
Como a corporação tinha um objetivo diferente em mente ao desenvolver o modelo de linguagem, a Meta não se concentrou na experiência do usuário ou no ajuste fino. O paradigma da linguagem pode ser usado para uma variedade de atividades nefastas, embora a corporação ainda não fez qualquer anúncio sobre isso. Embora seja um arquivo de 219 GB e um modelo grande não possa ser operado em um PC típico, o arquivo de download também contém o menor modelo com parâmetros de 7B. Aconselhamos os usuários do Meta a tentarem ter um pouco mais de cautela, especialmente quando se trata de golpes de phishing.
O Meta AI vazou apenas alguns dias atrás, mas a empresa continua trabalhando no Meta AI, apesar do vazamento. No entanto, espera-se que a empresa faça um anúncio sobre o problema, já que muitos usuários estão preocupados e frustrados com o vazamento. Se você quiser acompanhar o Meta e seus desenvolvimentos mais recentes, verifique os links abaixo para se manter atualizado.
- Meta Llama se junta à competição de IA
- Maiores rivais do ChatGPT: Microsoft, Meta, Google e mais
- O serviço de assinatura Meta Verified foi lançado para Instagram e Facebook
Source: Abaixo vai a privacidade: Meta AI vazou online