New APIAtviras LLM prieigos prietaisas, sujungiantis keletą AI pardavėjų API su maršrutavimu, sąskaitų apskaita ir analizėmis

4.3 (4)

Apžvelgė Daniel Nikulshyn·Atnaujinta 2026 m. birželis

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Apžvalga

Naujas API yra atviro kodo LLM perjungėjas, kuris teikia vientisą sąrangą, kuri leidžia jungtis į kelis AI modelių tiekėjus, tokius kaip OpenAI, Anthropic Claude bei Google Gemini stiliaus API. Jis veikia kaip centrinis valdymo sluoksnis, kuris leidžia komandų dirbtinio intelekto modelių prieiga, kontroliuoti prieigos, sekinti naudojimą iš vienos vietoje. Šiame projekte siekiama pagaminti tai, kad programuotojai, platformos komandos ir organizacijos, naudojančios skaliuojamus AI API, taptų galėti naudoti vientisą prikalą, o ne integruoti kiekvieną sandėlyje po kelis kodus atskirai. Atidarius OpenAI-pusiasalyje kompatiblius endpointus, leidžia esamiesiems programuotais ir SDK rinkiniais darbuotis kartu su daugiau nei viena backend sistema be serverine kode rūšinimo reikalavimo, tada tai panaudoti klientų kodu. Priešingai nei paprastai naudojamai keičiamajai technologijai, naujoji API priklauso didesniems operatyvumo dalykams, tokiam kaip tokenų pagrįstos kiekio limitai, sąnaudžių ir kredito valdymas, prašymų apžiūra, bei vartotojo elgesio analitika. Šios funkcijos padeda kurti vidaus AI platformas ar taip pat pardavinėti/mirti prieiga tam tikrams naudotojams ar komandoms. Tai kaip atviro kodo, savarankiška instaliuojama priemonė, teikiama administratoriams controlę įdiegiamajam ir duomenų srautui, kas gali būti svarbu užtvariai duomenų tvarkymui ir atitikimui. Ji užimanti tuo patį lauką kaip ir kitos API geležies vamzdžiai ir sudedamieji, pvz., Lite LLM ir One API, nuo kurio aukštuoju moksle gija. Pagal daugumą savo instaliuotų gatewayų, New API įtraukimas reikalauja įrenginių konfigūravimo bei klausytojų atsargumo, bei įsipareigojimų spektro ir kokybė priklauso nuo bendruomenės pasikeitimų.

Pagrindinės funkcijos

Sujungiamas daugelio AI providerų API prieigos prietaisas
Atviras LLM API prieigos prietaisas
Reikšminių prašymų maršrutavimas per tiekėjus
Tokenų kiekio, sąskaitų ir skolų valdymas
Vartotojų naudojimo analizės ir auditai

Kainos

Modelis: Freemium
Kategorija: AI Model Serving Platforms
Įvertinimas: 4.3 / 5 (4)

Naudojimo atvejai

Vienybės daugelio tiekėjų LLM prieigos prietaisai

Maršrutuojant prašymus per OpenAI, Claude ir Gemini vienos API, paprasčiau integravus ir sumažinant kūrybos kompiuterių užtikrinimą dėl inžinierinių komandų.

Tikrinant tokenų kiekius ir vartotojų sąskaitas

Panaudojus per vartotojus ar komandų tikrines kiekius bei naudojimo sąskaitas, galima prižiūrėti vartotojų konsumavimą viso organizacijos.

Audių ir analizės LLM naudojimu

Aptinkite detalius prisijungimo ir analizės žurnalus, kurios turi atsiskyvinti atitikimą, naudojant vartotojų sąskaitų, sąskaitų, performacijų priežiūrai ir kokybės tiksliams tyrinėjimams.

Savininkų valdomas AI infrastruktūra

Įgyvendinant atvirojo šaltinio prietaisą savo infrastruktūroje, galima kontrolėti duomenis, standartizavus prieigos prie daugelio LLM tiekėjų.

Privalumai ir trūkumai

Privalumai

Atviras ir savininkams galintis saviprieigos prietaisas
Vienybės daugelio AI tiekėjų vienoje konsistenti API
Integravime prisijungus tokenų kiekius, sąskaitų ir vartotojų analizęs
Audių ir prieigos valdymas keitinančioms vartotojų scenarijose

Trūkumai

Reikalauja savininkų nustatymo ir nuolatų prieigos
Žodžio gylis priklauso nuo bendruomenės prisidėjimų
Gamtų dokumentavimas gali būti nedidelis naujokams

Atsiliepimai

4.3

Vidurkis iš 4 įvertinimų.

Prisijunk, kad paliktum atsiliepimą.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Klausimai

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.