Perplexity Lança API Orchestrator para Failover e Roteamento de Modelos

Perplexity lançou a Perplexity Orchestrator API, um único endpoint para modelos de ponta e de peso aberto. Ela seleciona um provedor de serviço por disponibilidade, capacidade e latência, e fatura tudo através de 1 conta. Desenvolvedores obtêm menos integrações e 1 fatura. O que é a Perplexity Orchestrator API? A Perplexity Orchestrator API é um gateway de inferência hospedado que atende a muitos modelos por trás de 1 URL base. Ela cobre modelos de ponta da OpenAI, Anthropic, Google e xAI. Também atende modelos de peso aberto como GLM, Kimi e DeepSeek, hospedados pela Perplexity ou por parceiros de inferência. Ela aceita requisições de OpenAI Chat Completions, OpenAI Responses e Anthropic Messages. A maioria das equipes apenas muda a chave da API e a URL base. A URL base da OpenAI é https://api.perplexity.ai/orchestrator/v1. Usuários do SDK da Anthropic apontam para https://api.perplexity.ai/orchestrator, sem /v1. Perplexity executa a mesma camada internamente, em mais de 85 modelos e mais de uma dúzia de provedores. Como funciona o failover de provedor? O failover mantém o modelo fixo e troca a implantação. Uma requisição Claude que falha na Anthropic pode ser atendida pela AWS Bedrock em vez disso. Os documentos de confiabilidade estabelecem estas regras: Os gatilhos são erros do provedor, limites de taxa e timeouts. Cada tentativa tem um limite de tempo para o primeiro token e um limite de duração total. Os valores não são publicados. Requisições inválidas ou com excesso de contexto retornam HTTP 400 e não são retentadas. Se todas as implantações falharem, a API retorna HTTP 429 com Retry-After. Requisições que falham antes de produzir saída não são cobradas. Você não pode escolher uma implantação por si mesmo. O que os números de confiabilidade e velocidade mostram? Perplexity mediu o tráfego de produção de 4 de outubro a 2 de novembro de 2026. Requisições Claude e GPT através da Perplexity tiveram mais sucesso do que requisições a qualquer provedor único medido. As taxas de sucesso diárias também variaram menos durante incidentes de provedor. A publicação não informa taxas de sucesso percentuais. A velocidade também variou por provedor. Para Claude Opus 5.5, a Anthropic foi a mais rápida em 15 o

Fonte: MarkTechPost

Publicado em 2026-11-19

Notícias relacionadas

Continue explorando