New APIJuhises taasiseseisvuse ja ülevalmistele

4.3 (4)

Vaadanud Daniel Nikulshyn·Uuendatud juuni 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Ülevaade

New API on avatud lähtekoodiga LLM lüüs, mis pakub ühtset liidest ühenduse loomisele mitme AI mudeli pakkujaga, sealhulgas OpenAI, Anthropic Claude ja Google Gemini-stiili API-dega. See toimib keskse halduskihina, mis võimaldab meeskondadel suunata päringuid üle pakkujate, kontrollida juurdepääsu ja jälgida kasutamist ühest kohast. Projekt on suunatud arendajatele, platvormimeeskondadele ja organisatsioonidele, kes tarbivad AI API-sid suurtes kogustes ning soovivad ühtset väravat, selle asemel, et integreerida iga pakkujat eraldi. Avades OpenAI-ühilduvaid lõpppunkte, võimaldab see olemasolevatel rakendustel ja SDK-del töötada paljude taustsüsteemidega ilma kliendi koodi ümberkirjutamata. Lisaks põhilisele vahendamisele keskendub New API tööoperatsioonide probleemidele, nagu tokenipõhised kvoodid, arveldamine ja krediidihaldus, nõuete auditeerimine ja kasutusanalüütika. Need funktsioonid muudavad selle sobivaks sisemiste AI-platvormide loomiseks või mitmele kasutajale või meeskonnale juurdepääsu müümiseks/mõõtmiseks. Avatud lähtekoodiga, ise-hostitava tööriistana annab see operaatoritele kontrolli kasutuselevõtu ja andmevoo üle, mis võib olla oluline kulude haldamiseks ja vastavuseks. See positsioneerib end samasse ruumi teiste API-väravate ja agregaatoritega, nagu LiteLLM ja One API, millel see põhineb. Enamiku ise-hostitud väravate puhul nõuab New API kasutuselevõtt infrastruktuuri seadistamist ja pidevat hooldust ning pakkuja toe ulatus ja stabiilsus sõltuvad kogukonna panusest.

Põhifunktsioonid

Müükku valmis LLM API
SSL suhelderimine
Pereja vastuvõtt
Näidis turvaline kasutamine
Api kohandatud kasutage kohandatud sisselogimine AJAX-iga ja kasutamise analüüsi
Juhendad LLM ressurssid luba
Taahupi AI lahendused poolt
Proovi ja välja lahendused
Teenuseks antud söösketa lahendus

Hinnad

Mudel: Freemium
Kategooria: AI Model Serving Platforms
Hinnang: 4.3 / 5 (4)

Kasutusjuhud

Plussid ja miinused

Plussid

Juhtideks vastuvõtt
Open Source nimed
Fat-only ümberlähuline loend
Perevaikne andmete integreerimine aitab suurendada vastuvõtma kasutajaid
Luba ülevalmist usaldus ja juhised

Miinused

Parantada kohalik kasutus andmete lahendid
Kohandatud käsitsest andmed ja kasutus-analyseerija API
AI soovite avaldada
Quality kustutada kasutada mälu
Saatega kasutus andmetu sisselogimine AI usaldus puudutades kasutus andmed

Arvustused

4.3

Keskmine 4 hinnangust.

Logi sisse arvustuse jätmiseks.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Küsimused

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.