New APIAtvērtā pirmkoda LLM vārteja, kas apvieno vairākus AI pakalpojumu sniedzēju API ar maršrutēšanu, rēķināšanu un analīzi

4.3 (4)

Pārskatījis Daniel Nikulshyn·Atjaunināts 2026. g. jūnijs

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Pārskats

New API ir atvērtā pirmkoda LLM vārteja, kas nodrošina vienotu saskarni savienojumam ar vairākiem AI modeļu pakalpojumu sniedzējiem, ieskaitot OpenAI, Anthropic Claude un Google Gemini stila API. Tā darbojas kā centrālā pārvaldības slānis, kas ļauj komandām maršrutēt pieprasījumus pāri pakalpojumu sniedzējiem, kontrolēt piekļuvi un izsekot lietojumu no vienotas vietas. Šis projekts ir vērsts uz izstrādātājiem, platformu komandām un organizācijām, kas patērē AI API lielā mērogā un vēlas vienotu vārteju, nevis integrēt katru pakalpojumu sniedzēju atsevišķi. Izvietojot OpenAI saderīgas gala punktu adreses, tā ļauj esošajām lietojumprogrammām un SDK strādāt ar daudziem aizmugursistēmām bez klienta koda pārrakstīšanas. Papildus pamat funkcijai kā starpniekam, New API koncentrējas uz operacionālām problēmām, piemēram, uz tokenu balstītām kvotām, rēķināšanu un kredītu pārvaldību, pieprasījumu revīziju un lietojuma analīzi. Šīs funkcijas padara to piemērotu iekšējo AI platformu veidošanai vai piekļuves pārdalei un mērīšanai vairākiem lietotājiem vai komandām. Kā atvērtā pirmkoda, paš-hostējama rīku, tā dod operatoriem kontroli pār izvietošanu un datu plūsmu, kas var būt svarīga izmaksu pārvaldībai un atbilstībai. Tā pozicionē sevi tajā pašā telpā kā citas API vārtejas un agregatori, piemēram, LiteLLM un One API, no kuriem tā iegūst. Tāpat kā lielākā daļa paš-hostēto vārteju, New API pieņemšana prasa infrastruktūras iestatīšanu un pastāvīgu apkopšanu, un pakalpojumu sniedzēju atbalsta plašums un stabilitāte ir atkarīgi no kopienas ieguldījumiem.

Galvenās funkcijas

Vienota daudzpakalpojumu API vārteja
OpenAI saderīgas gala punktu adreses
Pieprasījumu maršrutēšana pāri modeļu pakalpojumu sniedzējiem
Tokenu kvotas un rēķināšanas pārvaldība
Lietojuma analīze un revīzija

Cenas

Modelis: Freemium
Kategorija: AI Model Serving Platforms
Vērtējums: 4.3 / 5 (4)

Lietošanas gadījumi

Vienota daudzpakalpojumu LLM piekļuve

Maršrutējiet pieprasījumus pāri OpenAI, Claude un Gemini caur vienotu API, vienkāršojot integrāciju un samazinot piegādātāju atkarību inženieru komandām.

Noteikt kvotas un komandu rēķināšana

Pielietojiet uz lietotāju vai komandu balstītas kvotas un izsekot lietojumu iekšējiem norēķiniem, ļaujot kontrolētu LLM patēriņu visā organizācijā.

LLM lietojuma revīzija un analīze

Izmantojiet detalizētus žurnālus un analīzi par LLM pieprasījumiem, lai atbalstītu atbilstības revīzijas, izmaksu optimizāciju un veiktspējas uzraudzību.

Paš-hostēta AI infrastruktūra

Izvietojiet atvērtā pirmkoda vārteju iekšēji, lai saglabātu datu kontroli, vienlaikus standartizējot piekļuvi vairākiem LLM pakalpojumu sniedzējiem.

Plusi un mīnusi

Plusi

Atvērtā pirmkoda un paš-hostējams pilnīgai kontrolei
Apvieno daudzus AI pakalpojumu sniedzējus aiz vienotas saderīgas API
Iebūvētas kvotas, rēķināšana un lietojuma analīze
Revīzija un piekļuves pārvaldība daudzlietotāju iestatījumiem

Mīnusi

Prasa paš-hostēšanu un pastāvīgu apkopšanu
Funkciju dziļums ir atkarīgs no kopienas ieguldījumiem
Dokumentācija var būt niecīga jaunpienācējiem

Atsauksmes

4.3

Vidējais no 4 vērtējumiem.

Pieslēdzies, lai atstātu atsauksmi.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Jautājumi

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.

Uzdod jautājumu

AI Model Serving Platforms alternatīvas

Pinecone

AI Model Serving Platforms

Pilnīgi administrēta vektora datubāze reāllaika semantiskajai meklēšanai AI lietotnēs

4.8 (6)

Freemium

GLM‑4.5

AI Model Serving Platforms

Atvērtas koda hibridiskās pārdomas MoE pamatmodelis, izstrādāts agentu, kodēšanas un rīku lietošanas uzdevumiem

4.5 (6)

Free

Astrolabe

AI Model Serving Platforms

Ātri sēvi, atvērto OpenAI kompatībā rotes un pārvadātāju, lai OpenClaw agentiem ir līdzeklis efektīvi izvairīties no lielākos apgrozījumu izmaksu, kas paredzēti bezsadarbības kontroles un drošības politikas ietvaros.

4.4 (5)

Free