A Qualcomm, fornecedora líder de comunicações e processadores sem fio, fez avanços significativos no campo da inteligência artificial (IA) no Mobile World Congress Barcelona. O objetivo principal da empresa é executar IA em escala em dispositivos de ponta, como telefones, computadores e outros dispositivos.
A Qualcomm executou com sucesso o primeiro grande modelo multimodal e de linguagem grande (LLM) do mundo em um telefone Android, permitindo uma conversa em vários estágios, semelhante a um bate-papo, entre o usuário e seu dispositivo. Além disso, a empresa anunciou planos para acelerar a IA em uma ampla gama de dispositivos de ponta, incluindo computadores, veículos, telefones, dispositivos IoT industriais de próxima geração, pontos de acesso Wi-Fi e infraestrutura celular.
Hub Qualcomm AI fácil de usar
Para facilitar o desenvolvimento de aplicações de IA, Qualcomm criou o AI Hub, que fornece aos desenvolvedores uma vasta biblioteca de modelos de IA otimizados para alto desempenho no Snapdragon e outras plataformas Qualcomm. A plataforma oferece muitos recursos, como renderização de imagem e texto, e inferência até quatro vezes mais rápida em dispositivos com Snapdragon ou outras plataformas Qualcomm.
O AI Hub oferece uma experiência amigável, permitindo que os desenvolvedores escolham entre mais de 75 modelos de IA e selecionem entre ambientes de trabalho TensorFlow, PyTorch ou Onyx. Os modelos também estão disponíveis no Hugging Face e no GitHub, facilitando aos desenvolvedores a integração da IA em seus aplicativos.
O que é LoRA?
A Qualcomm também alcançou outra conquista técnica ao executar sua primeira implementação de baixo pedido (LoRA) em um telefone Android. Desenvolvido pela Microsoft, o LoRA visa reduzir a complexidade do treinamento do modelo em termos de latência, custo e requisitos de hardware. LoRA oferece uma nova abordagem para geração de imagens que é diferente de ferramentas generativas de IA, como DALL-E. Ao reduzir a complexidade do modelo, o LoRA reduz os requisitos de memória, melhora a eficiência e permite que versões leves sejam personalizadas sem a necessidade de download ou ajuste fino de todo o modelo.
LoRA adota uma abordagem diferente dos modelos tradicionais de renderização de IA. Esses modelos aprendem um padrão de pixels para criar a imagem. LoRA usa uma lista de vetores para criar a imagem. Os vetores representam as características básicas da imagem (forma, cor, textura, etc.).
A abordagem baseada em vetores do LoRA reduz significativamente a complexidade e o tamanho do modelo. Isso permite que o modelo seja treinado mais rapidamente, exigindo menos hardware e consumindo menos energia.
Snapdragon X Elite: projetado para aplicações de IA
Projetado para executar IA, o Snapdragon X Elite apresenta uma arquitetura SoC de 4 nm, uma CPU Qualcomm Oryon de 12 núcleos com suporte dual-core e uma GPU Qualcomm Adreno integrada. Oferece dias de uso com uma única carga, eliminando a necessidade de recarga constante. Uma de suas características mais importantes é que ele também pode executar modelos generativos de AI LLM com 13 bilhões de parâmetros.
Para demonstrar as capacidades do SoC, a Qualcomm executou um benchmark de desempenho entre o Snapdragon X Elite e um processador x86 concorrente com a configuração de GPU, CPU e NPU mais eficiente. O benchmark usou o GIMP, um poderoso editor gráfico raster de código aberto equipado com o plugin Stable Diffusion para geração de imagens GAI. Os resultados mostraram que o Snapdragon X Elite com um NPU “45 TOPS” pode renderizar imagens três vezes mais rápido que seu concorrente x86. Para entender melhor o quão poderoso é o poder de processamento do 45 TOPS, podemos ver o exemplo abaixo:
- Um cérebro humano pode realizar cerca de 100 trilhões de operações por segundo.
- Um computador desktop pode realizar cerca de 10 trilhões de operações por segundo.
- Um smartphone pode realizar cerca de 1 trilhão de operações por segundo.
Como pode ser visto, o poder de processamento de 45 TOPS é 45 vezes maior que um smartphone e 4,5 vezes maior que um computador desktop. Isto mostra que a plataforma Snapdragon X Elite é uma plataforma muito poderosa para aplicações de IA.
NPU, cujo nome começamos a ouvir
NPU significa Unidade de Processamento Neural, um processador especializado para aplicações de inteligência artificial e aprendizado de máquina. As NPUs oferecem desempenho superior, especialmente no cálculo de operações matemáticas utilizadas por redes neurais artificiais (RNAs). Essas operações matemáticas incluem multiplicação de matrizes, convolução e funções de ativação.
As NPUs são projetadas para funcionar de forma mais eficiente com dados de baixa precisão, tornando-as ideais para cargas de trabalho de IA. Eles também são muito mais eficientes em termos de energia do que CPUs e GPUs para computação de IA.
Inovações da Qualcomm em IA
O otimismo da empresa sobre o assunto visa garantir que a inteligência artificial seja usada de forma eficiente em diversas plataformas. O processador de telefone Snapdragon 8 Gen 3 da empresa e as plataformas de PC Snapdragon X Elite podem executar funções importantes em áreas como IA generativa, visão computacional e processamento de linguagem natural.
A Qualcomm também está oferecendo recursos avançados de IA para desenvolvedores por meio do Qualcomm AI Hub. O hub fornece recursos aos desenvolvedores, incluindo mais de 75 modelos de IA otimizados para alto desempenho no Snapdragon e outras plataformas Qualcomm.
O uso de inteligência artificial em smartphones é limitado, mas se a empresa cumprir sua palavra e desenvolver essas tecnologias como deseja, poderemos usar inteligência artificial em nossos telefones da mesma forma que a usamos em nossos computadores. A IA também traz uma dimensão totalmente nova à experiência de jogo, permitindo que assistentes de jogos virtuais gerem novos conteúdos de jogo e ajustem dinamicamente as regras e a jogabilidade do jogo com base no conhecimento ou desejo do jogador por uma experiência mais desafiadora.
A comercialização escalonável de IA no dispositivo pela Qualcomm é uma contribuição importante para a democratização da IA. Essas etapas visionárias tornam a Qualcomm um participante importante na IA, e a empresa pode acelerar ainda mais a adoção da IA em larga escala.
Os desenvolvimentos na inteligência artificial continuam. Nesse ritmo, a inteligência artificial, que entrou pela primeira vez em nossos computadores, chegará aos nossos telefones de forma eficiente. Acho que também mostra o quanto este setor crescerá daqui para frente, com processadores construídos apenas para a IA entender. Embora a sua ética e moral estejam em debate, nos próximos dias, a utilização desta tecnologia será de alguma forma aceite por todos os utilizadores. Com os avanços da Qualcomm, podemos esperar dispositivos alimentados por IA que possam executar tarefas complexas com facilidade, tornando nossas vidas mais convenientes e eficientes.
Crédito da imagem em destaque: Qualcomm
Source: Os sonhos de inteligência artificial da Qualcomm são incomparáveis