A Nvidia está na vanguarda da inovação com o Nvidia Chat com RTX AI. Numa altura em que a tecnologia de IA avança a um ritmo sem precedentes, esta aplicação de demonstração revolucionária permite aos utilizadores personalizar o seu próprio chatbot alimentado por um modelo de linguagem grande (LLM) ligado ao seu conteúdo pessoal.
Aproveitando a geração aumentada de recuperação (RAG), TensorRT-LLM e aceleração RTX, o Chat com RTX AI fornece acesso rápido e seguro a respostas contextualmente relevantes. Aqui está o que sabemos.
O que é o Nvidia Chat com RTX AI?
Nvidia Chat com RTX AI é um aplicativo de demonstração que permite aos usuários criar seu próprio chatbot personalizado, adaptado às suas necessidades e preferências específicas. Os usuários podem consultar chatbots usando seu próprio conteúdo, como documentos, notas, vídeos ou outros dados, e obter respostas rápidas e precisas. Isso é possível graças à integração de aceleração RAG, TensorRT-LLM e RTX, que fornecem simultaneamente uma experiência de IA contínua e eficiente.
Como funciona o Nvidia Chat com RTX AI?
Nvidia Chat com RTX AI funciona conectando o conteúdo local dos usuários a um LLM de código aberto como Mistral ou Llama 2. Isso permite que os usuários façam perguntas contextuais e obtenham respostas relevantes sem a necessidade de uma conexão com a Internet ou serviços baseados em nuvem. O aplicativo suporta vários formatos de arquivo, como .txt, .pdf, .doc/.docx e .xml, e também pode integrar informações de vídeos e listas de reprodução do YouTube.
Os usuários podem digitar perguntas como “Qual era o nome da loja de música que meu parceiro recomendou na Califórnia?” e o Chat com RTX AI verificará os arquivos locais e fornecerá a resposta com contexto. Este chatbot personalizado é perfeito para uma variedade de aplicações, como pesquisa, educação e atendimento ao cliente.
Nvidia Chat com requisitos de sistema RTX AI
Você pode ver os requisitos do sistema na tabela que preparamos para você abaixo:
| PLATAFORMA | janelas |
| GPU | NVIDIA GeForce GPU RTX Série 30 ou 40 ou NVIDIA RTX GPU Ampere ou Ada Generation com pelo menos 8 GB de VRAM |
| BATER | 16 GB ou superior |
| SO | Janelas 11 |
| MOTORISTA | 535.11 ou posterior |
Benefícios do Nvidia Chat com RTX AI
Um dos principais benefícios do Chat com RTX AI é seu desempenho rápido e seguro. Como o aplicativo é executado nativamente em PCs e estações de trabalho com Windows RTX, os usuários podem acessar seus dados de forma rápida e eficiente, sem depender de serviços baseados em nuvem. É especialmente útil para quem precisa lidar com dados confidenciais porque eles permanecem em seus dispositivos e não são compartilhados com terceiros.
Outro benefício do Chat com RTX AI é que ele pode fornecer respostas contextualmente relevantes. Ao contrário dos chatbots tradicionais, que muitas vezes dependem de respostas predefinidas, o Chat with RTX AI usa geração de alcance aprimorado para criar respostas com base na consulta específica do usuário.
Construindo aplicativos baseados em LLM com RTX
O Chat com RTX AI é construído a partir do projeto de referência do desenvolvedor TensorRT-LLM RAG disponível no GitHub. Este projeto fornece uma estrutura abrangente para os desenvolvedores construírem seus próprios aplicativos baseados em RAG acelerados com TensorRT-LLM para RTX. Com o potencial de revolucionar a forma como interagimos com a IA, o RTX Conversation with AI é um desenvolvimento emocionante no mundo da IA generativa.
Participe do Desafio de Desenvolvedor de IA Produtiva da NVIDIA na NVIDIA RTX
Para incentivar a inovação e a criatividade no domínio da IA generativa, Nvidia está hospedando NVIDIA Generative AI no NVIDIA RTX Developer Contest. O concurso vai até sexta-feira, 23 de fevereiro, convidando os desenvolvedores a criar seus próprios aplicativos baseados em LLM acelerados com TensorRT-LLM para RTX. Os participantes podem enviar suas inscrições para concorrer a prêmios incríveis, incluindo uma GPU GeForce RTX 4090, um ingresso completo para a conferência presencial do NVIDIA GTC e muito mais.
Chat with RTX AI é um aplicativo de demonstração inovador que mostra o potencial dos chatbots personalizados com tecnologia NVIDIA RTX AI. Com desempenho rápido e seguro, respostas contextualmente relevantes e capacidade de integração com vários formatos de arquivo e vídeos do YouTube, o Chat com RTX AI é um desenvolvimento empolgante no mundo da IA generativa.
Crédito da imagem em destaque: NVIDIA
Source: RTX revela solução de chatbot personalizada para PCs Nvidia RTX AI
