New APIPoartă de acces LLM open-source care unifică multiplele API-uri ale furnizorilor de inteligență artificială cu rutare, facturare și analitică

4.3 (4)

Recenzat de Daniel Nikulshyn·Actualizat iunie 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Prezentare

New API este o poartă de acces LLM open-source care oferă o interfață unificată pentru conectarea la mai mulți furnizori de modele de inteligență artificială, inclusiv OpenAI, Anthropic Claude și Google Gemini-style API-uri. Acesta acționează ca un strat de gestionare centrală care permite echipelor să direcționeze cererile către diferiți furnizori, să controleze accesul și să urmărească utilizarea dintr-un singur loc. Proiectul este destinat dezvoltatorilor, echipelor de platforme și organizațiilor care consumă API-uri de inteligență artificială la scară largă și doresc o singură poartă de acces în loc de integrarea fiecărui furnizor separat. Prin expunerea unor endpoint-uri compatibile cu OpenAI, permite aplicațiilor existente și SDK-urilor să funcționeze cu mai multe back-end-uri fără a rescrierea codului clientului. Pe lângă proxy-ul de bază, New API se concentrează pe problemele operaționale, cum ar fi cotele bazate pe token-uri, gestionarea facturării și a creditelor, auditarea cererilor și analitica utilizării. Aceste caracteristici îl fac potrivit pentru construirea de platforme interne de inteligență artificială sau pentru revânzarea/metrificarea accesului pentru mai mulți utilizatori sau echipe. Ca instrument open-source, auto-găzduit, oferă operatorilor control asupra implementării și fluxului de date, care poate fi important pentru gestionarea costurilor și conformitatea. Se poziționează în același spațiu ca și alte gateway-uri și agregatori API, cum ar fi LiteLLM și One API, de la care derivă. Ca și în cazul majorității gateway-urilor auto-găzduite, adoptarea New API necesită configurarea infrastructurii și întreținerea continuă, iar amploarea suportului furnizorilor și stabilitatea depind de contribuțiile comunității.

Funcții cheie

Poartă de acces API unificată pentru mai mulți furnizori
Endpoint-uri compatibile cu OpenAI
Rutare a cererilor către furnizorii de modele
Gestionarea cotelor și a facturării token-urilor
Analitică a utilizării și auditare

Prețuri

Model: Freemium
Categorie: AI Model Serving Platforms
Evaluare: 4.3 / 5 (4)

Cazuri de utilizare

Unificarea accesului la LLM-uri de la mai mulți furnizori

Direcționați cererile către OpenAI, Claude și Gemini printr-o singură API, simplificând integrarea și reducând blocajul furnizorilor pentru echipele de inginerie.

Aplicarea cotelor și facturarea echipelor

Aplică cote per utilizator sau per echipă și urmărește utilizarea pentru decontările interne, activând consumul controlat de LLM-uri în cadrul unei organizații.

Auditarea și analiza utilizării LLM-urilor

Capturați jurnale detaliate și analitică a cererilor LLM pentru a sprijini auditurile de conformitate, optimizarea costurilor și monitorizarea performanței.

Infraestructură de inteligență artificială auto-găzduită

Implementați o poartă de acces open-source în cadrul organizației pentru a menține controlul datelor în timp ce standardizați accesul la mai mulți furnizori de LLM-uri.

Pro și contra

Pro

Open-source și auto-găzduit pentru control complet
Unifică mulți furnizori de inteligență artificială în spatele unei singure API-uri compatibile
Cote, facturare și analitică a utilizării integrate
Auditare și gestionare a accesului pentru configurații multi-utilizator

Contra

Necesită auto-găzduire și întreținere continuă
Adâncimea funcțiilor depinde de contribuțiile comunității
Documentația poate fi rară pentru noii veniți

Recenzii

4.3

Medie din 4 evaluări.

Conectează-te pentru a lăsa o recenzie.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Întrebări

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.