A Microsoft introduziu os modelos de idiomas de peso aberto do OpenAI, GPT-OSS-120B e GPT-20B, à sua Foundry AI Foundry e Windows AI Foundry Platforms nesta semana. Essa expansão visa proporcionar aos desenvolvedores maior flexibilidade e controle sobre a implementação da IA.
O modelo GPT-OSS-120B foi projetado para tarefas de raciocínio de alto desempenho, enquanto o modelo GPT-20B mais compacto funciona em PCs equipados com GPUs com pelo menos 16 GB de memória. Os desenvolvedores têm acesso total aos pesos dos modelos, permitindo ajustes finos para aplicações específicas, uso offline ou assistentes específicos do setor. Esse acesso ao peso aberto também facilita a revisão do modelo, a reciclagem parcial e a exportação para implantação no Azure Kubernetes Service da Microsoft (AKS) ou máquinas locais.
A Azure AI Foundry suporta esses modelos com ferramentas para avaliação, ajuste fino e implantação, com um catálogo de mais de 11.000 modelos. Além disso, a Foundry Local fornece suporte ao dispositivo para inferência local, atendendo às necessidades que requerem recursos aprimorados de segurança ou offline.
Atualmente, o modelo GPT-20B está disponível no Windows, com a compatibilidade do MacOS planejada para o futuro próximo. Ambos os modelos serão integrados à API de respostas comuns. A Microsoft enfatiza que essa iniciativa oferece às empresas e desenvolvedores mais transparência e opções para gerenciar a IA em diversos ambientes, incluindo nuvem, no dispositivo e computação de borda.
