New APIOtvírací zdroj LLM gateway sjednocený s více rozhraněmi API s routingem, fakturací a analýzami

4.3 (4)

Recenzováno Daniel Nikulshyn·Aktualizováno červen 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Přehled

New API je open-source LLM brána, která poskytuje jednotné rozhraní pro připojení k více poskytovatelům AI modelů, včetně OpenAI, Anthropic Claude a Google Gemini-style API. Funguje jako centrální vrstva správy, která umožňuje týmům směrovat požadavky přes poskytovatele, kontrolovat přístup a sledovat využití z jednoho místa. Projekt je zaměřen na vývojáře, platformové týmy a organizace, které ve velkém měřítku využívají AI API a chtějí mít jeden jediný vstupní bod namísto toho, aby integrovaly každého poskytovatele zvlášť. Exponováním endpointů kompatibilních s OpenAI umožňuje stávajícím aplikacím a SDK pracovat s mnoha back-endy bez přepisování klientského kódu. Kromě základního proxyingu se New API zaměřuje na provozní problémy, jako jsou kvóty založené na tokenech, fakturace a správa kreditů, audit požadavků a analýza využití. Tyto funkce jej činí vhodným pro budování interních AI platforem nebo prodeji/omezování přístupu pro více uživatelů nebo týmů. Jako open-source nástroj, který lze samo-hostovat, poskytuje operátorům kontrolu nad nasazením a tokem dat, což může být důležité pro správu nákladů a soulad s předpisy. Umisťuje se do stejného prostoru jako jiné brány a agregátory API, jako jsou LiteLLM a One API, ze kterých čerpá. Stejně jako u většiny samo-hostovaných bran vyžaduje použití New API nastavení infrastruktury a průběžnou údržbu a šířka podpory poskytovatelů a stabilita závisí na příspěvcích komunity.

Klíčové funkce

Sjednocený LLM multi-provider gateway
Otvírací endpointy kompatibilní s OpenAI
Směrování požadavků přes poskytovatele modelů
Tokenové kvóty a správa fakturací
Analytika používání a auditování požadavků

Ceník

Model: Freemium
Kategorie: AI Model Serving Platforms
Hodnocení: 4.3 / 5 (4)

Případy užití

Sjednocení přístupu k multi-provider LLM

Směřujte požadavky přes OpenAI, Claude a Gemini skrz jeden API, zjednodušte integraci a snižte vazbu poskytovatelů pro týmy vyvinutí.

Vymáhání kvót a týmové faktury

Používejte uživatelem nebo tým kvóty a sledujte používání pro interní fakturace, umožňuje ovládat kontrolovanou spotřebu LLM v celém podniku.

Auditovat a analyzovat používání LLM

Uchovávejte podrobné záznamy a analytiku o požadavcích LLM podporovat audit kontroly, optimalizaci nákladů a monitorování výkonu.

Samo-hostované AI infrastruktury

Nainstalujte otevřené zdroje gateway v místě pro zachování kontroly dat a standardizaci přístupu k multi LLM poskytovatelům.

Pro a proti

Pro

Otevřený zdroj a samo-hostovaný pro plnou kontrolu
Sjednocení mnoha AI poskytovatelů za jednu kdekoli kompatibilní API
Vestavěné kvóty, faktury a analytiku používání
Auditování a správa přístupu pro multi-uživatelská nastavení

Proti

Požaduje samo-hostování a pokračující údržbu
Hlubina funkcí závisí na komunitních příspěvcích
Dokumentace mohla být řídká pro začínající

Recenze

4.3

Průměr z 4 hodnocení.

Přihlas se, abys mohl napsat recenzi.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Otázky

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.