New APIBrama open-source LLM ujednolicająca wiele interfejsów API dostawców sztucznej inteligencji z routingiem, billingiem i analityką

4.3 (4)

Zrecenzowane przez Daniel Nikulshyn·Zaktualizowano czerwiec 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Przegląd

New API to open-source bramka LLM, która zapewnia ujednolicone interfejsy API dla łączenia się z wieloma dostawcami modeli sztucznej inteligencji, w tym OpenAI, Anthropic Claude i Google Gemini-style API. Działa jako warstwa centralnego zarządzania, która pozwala zespołom przekierowywać żądania między dostawcami, kontrolować dostęp i śledzić zużycie z jednego miejsca. Projekt jest skierowany do deweloperów, zespołów platformowych i organizacji, które zużywają API sztucznej inteligencji na dużą skalę i chcą jednej bramki zamiast integracji z każdym dostawcą osobno. Wystawiając OpenAI-kompatybilne punkty końcowe, umożliwia istniejącym aplikacjom i SDK współpracę z wieloma backendami bez przepisywania kodu klienta. Poza podstawowym przekierowaniem New API koncentruje się na zagadnieniach operacyjnych, takich jak kwoty oparte na tokenach, zarządzanie billingiem i kredytami, audyt żądań i analityka zużycia. Te funkcje sprawiają, że jest to odpowiednie do budowania wewnętrznych platform sztucznej inteligencji lub odsprzedawania/dostępności dostępu dla wielu użytkowników lub zespołów. Jako narzędzie open-source, które można samodzielnie hostować, daje operatorom kontrolę nad wdrożeniem i przepływem danych, co może być ważne dla zarządzania kosztami i zgodności. Umieszcza się w tym samym miejscu co inne bramki API i agregatory, takie jak LiteLLM i One API, od których pochodzi. Podobnie jak w przypadku większości samodzielnie hostowanych bramek, wdrożenie New API wymaga konfiguracji infrastruktury i ciągłego utrzymania, a zakres wsparcia dostawców i stabilność zależą od wkładu społeczności.

Kluczowe funkcje

Ujednolicone API gateway dla wielu dostawców
OpenAI-kompatybilne punkty końcowe
Przekierowanie żądań między dostawcami modeli
Kwoty oparte na tokenach i zarządzanie billingiem
Analityka zużycia i audyt

Cennik

Model: Freemium
Kategoria: AI Model Serving Platforms
Ocena: 4.3 / 5 (4)

Zastosowania

Ujednoliczenie dostępu do LLM od wielu dostawców

Przekieruj żądania między OpenAI, Claude i Gemini przez jedno API, upraszczając integrację i redukując lock-in dostawcy dla zespołów inżynierskich.

Narzucanie limitów i billing dla zespołów

Zastosuj limity na użytkownika lub zespół i śledź zużycie dla wewnętrznych rozliczeń, umożliwiając kontrolowane zużycie LLM w całej organizacji.

Audyt i analiza zużycia LLM

Zapisuj szczegółowe dzienniki i analitykę żądań LLM w celu wspierania audytów zgodności, optymalizacji kosztów i monitorowania wydajności.

Samodzielnie hostowana infrastruktura sztucznej inteligencji

Wdróż open-source bramkę w siedzibie, aby zachować kontrolę nad danymi podczas standaryzacji dostępu do wielu dostawców LLM.

Plusy i minusy

Plusy

Open-source i możliwość samodzielnego hostowania dla pełnej kontroli
Ujednolicone wiele dostawców sztucznej inteligencji za jednym kompatybilnym API
Wbudowane kwoty, billing i analityka zużycia
Audyt i zarządzanie dostępem dla konfiguracji wieloużytkowych

Minusy

Wymaga samodzielnego hostowania i ciągłego utrzymania
Głębokość funkcji zależy od wkładu społeczności
Dokumentacja może być skąpa dla nowicjuszy

Recenzje

4.3

Średnia z 4 ocen.

Zaloguj się, aby zostawić recenzję.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Pytania i odpowiedzi

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.