A API OpenAI o1 muda a forma como os modelos de IA lidam com tarefas complexas. Os modelos da série o1 se destacam no raciocínio científico e lógico ao encorajar o pensamento profundo. Esses modelos estão atualmente disponíveis em beta e estabeleceram benchmarks impressionantes, incluindo altas classificações em programação competitiva e superando especialistas humanos em vários domínios científicos.
Compreendendo modelos antes da API OpenAI o1
A API OpenAI o1 agora tem tokens de raciocínio. Os modelos o1 usam tokens de raciocínio para pensar em um problema antes de responder, diferentemente dos modelos anteriores. O modelo pode lidar com tarefas mais complexas por causa desse processo de raciocínio interno, especialmente em campos como codificação, matemática e ciência.
Existem duas versões da API OpenAI o1: o1-preview e o1-mini. O modelo o1-preview é para lidar com problemas difíceis que exigem muito conhecimento. Este modelo de visualização inicial mostra o que a série o1 completa pode fazer. O o1-mini é mais rápido e mais barato. É bom para tarefas que não exigem muito conhecimento geral, mas ainda precisam de raciocínio preciso, como codificação e ciência.
Por que a API OpenAI o1 se destaca?
A API OpenAI o1 tem um desempenho excepcionalmente bom em tarefas de raciocínio. Os modelos o1 se destacam no raciocínio científico, classificando-se no 89º percentil em questões de programação competitiva e alcançando notas altas nas eliminatórias da Olimpíada de Matemática dos EUA. Esses modelos são mais precisos do que os humanos na resolução de problemas de física, biologia e química. Isso os torna ferramentas úteis na ciência.
Como a API OpenAI o1 está atualmente em beta, há certas limitações que os desenvolvedores devem estar cientes. A versão beta suporta entradas somente de texto, e alguns parâmetros de API de conclusão de chat ainda não estão disponíveis. Por exemplo, entradas de imagem, mensagens do sistema e streaming não são suportados. Além disso, ferramentas como parâmetros de chamada de função e formato de resposta não estão disponíveis, e certas configurações como temperatura e presence_penalty são corrigidas.
Apesar dessas limitações, a API OpenAI o1 oferece uma janela de contexto generosa de até 128.000 fichascom modelos específicos permitindo diferentes limites máximos de token de saída. O modelo o1-preview pode gerar até 32.768 fichasenquanto o modelo o1-mini pode gerar até 65.536 fichas. Essa janela de contexto expansiva é particularmente benéfica para lidar com tarefas complexas que exigem raciocínio substancial.
Gerenciando custos e limites de token
Um dos desafios de trabalhar com a API OpenAI o1 é gerenciar os custos associados ao uso extensivo de tokens exigido pelo processo de raciocínio. Os modelos o1 geram tokens de raciocínio (que são invisíveis para o usuário) e tokens de conclusão (a saída visível). Para ajudar os desenvolvedores a gerenciar esses custos, a OpenAI introduziu o max_completion_tokens parâmetro, permitindo que os usuários controlem o número total de tokens gerados.
Este parâmetro é crucial porque o número de tokens de raciocínio pode, às vezes, exceder o número de tokens de conclusão visíveis, levando a custos mais altos sem uma saída visível correspondente. Ao ajustar o max_completion_tokens parâmetro, os desenvolvedores podem garantir que permanecerão dentro de seus orçamentos e ainda se beneficiarão dos poderosos recursos de raciocínio do API OpenAI o1.
Melhores práticas para solicitar os modelos o1
Ao trabalhar com a API OpenAI o1, é essencial manter os prompts simples e diretos. Os modelos são projetados para se destacar com instruções diretas, e estratégias de prompts complexas, como prompts de cadeia de pensamento, podem não ser necessárias. Além disso, usar delimitadores para indicar partes distintas da entrada pode ajudar o modelo a interpretar as informações com mais precisão.
À medida que a API OpenAI o1 continua a evoluir, espera-se que recursos adicionais como multimodalidade e uso de ferramentas sejam adicionados em atualizações futuras. Por enquanto, os desenvolvedores podem explorar os recursos exclusivos do modelos o1 e experimentar seus recursos avançados de raciocínio para criar aplicativos inovadores.
Como acessar a API OpenAI o1
O acesso à API está atualmente limitado devido ao seu status beta. Se você for um desenvolvedor interessado em usar os modelos o1, siga estas etapas para obter acesso:
- Verifique seu nível de uso: Acesso ao modelos o1 é restrito a desenvolvedores no nível 5. Você pode verificar seu nível de uso na plataforma da OpenAI.
- Solicitar acesso: Se você for elegível, solicite acesso por meio do portal do desenvolvedor do OpenAI. Talvez seja necessário fornecer detalhes sobre seu caso de uso pretendido.
- Entenda os limites de taxa: Durante a fase beta, a API tem um limite de taxa baixa de 20 solicitações por minuto (RPM). Planeje seu uso de acordo.
Depois de ter acesso, você pode comece a experimentar com os modelos o1-preview e o1-mini por meio do ponto de extremidade de conclusões de bate-papo. Tenha em mente que recursos adicionais e acesso mais amplo podem se tornar disponíveis conforme a API sai do beta.
Crédito da imagem: IA aberta
Source: Novo passo no raciocínio complexo com a API OpenAI o1
