New APIAvoimen lähdekoodin LLM-yhdyskäytävä, joka yhdistää useiden AI-palveluntarjoajien API:t reitityksen, laskutuksen ja analytiikan avulla

4.3 (4)

Arvostellut Daniel Nikulshyn·Päivitetty kesäkuu 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Yleiskatsaus

New API on avoimen lähdekoodin LLM-yhdyskäytävä, joka tarjoaa yhtenäisen käyttöliittymän useiden AI-mallipalvelujen, kuten OpenAI:n, Anthropic Claude:n ja Google Gemini -tyylisten API:en, yhdistämiseen. Se toimii keskitettynä hallintakerroksena, jonka avulla tiimit voivat ohjata pyyntöjä eri palveluntarjoajien välillä, hallita pääsyä ja seurata käyttöä yhdestä paikasta. Projektin kohderyhmänä ovat kehittäjät, alustan tiimit ja organisaatiot, jotka käyttävät AI API:ita laajassa mittakaavassa ja haluavat yhden portaalin sen sijaan, että integroitaisivat jokaisen palveluntarjoajan erikseen. Tarjoamalla OpenAI-yhteensopivia endpointteja se mahdollistaa olemassa olevien sovellusten ja SDK:iden toimimisen useiden backendien kanssa ilman, että asiakaskoodia täytyy kirjoittaa uudelleen. Perusproxyn lisäksi New API keskittyy operatiivisiin näkökohtiin, kuten token‑pohjaisiin kiintiöihin, laskutukseen ja krediittien hallintaan, pyyntöjen auditointiin sekä käyttöanalytiikkaan. Nämä ominaisuudet tekevät siitä sopivan sisäisten AI‑alustojen rakentamiseen tai käyttöoikeuksien jälleenmyyntiin/mitoitukseen useille käyttäjille tai tiimeille. Open-source- ja itse isännöitävänä työkaluna se antaa operaattoreille hallinnan käyttöönottoon ja tietovirtaan, mikä voi olla tärkeää kustannusten hallinnan ja sääntöjen noudattamisen kannalta. Se sijoittuu samaan tilaan kuin muut API‑portaalit ja aggregaattorit, kuten LiteLLM ja One API, joista se on peräisin. Kuten useimmissa itse isännöidyissä gateway-ympäristöissä, New API:n käyttöönotto edellyttää infrastruktuurin pystyttämistä ja jatkuvaa ylläpitoa, ja tarjoajien tuen laajuus sekä vakaus riippuvat yhteisön panoksista.

Pääominaisuudet

Yhtenäinen monipalveluntarjoajien API-yhdyskäytävä
OpenAI-yhteensopivat päätepisteet
Pyyntöjen reititys eri mallipalveluntarjoajien välillä
Token-kiintiöt ja laskutuksen hallinta
Käyttöanalytiikka ja auditointi

Hinnat

Malli: Freemium
Kategoria: AI Model Serving Platforms
Arvio: 4.3 / 5 (4)

Käyttötapaukset

Yhdistä monipalveluntarjoajien LLM-pääsy

Reititä pyynnöt OpenAI:n, Clauden ja Geminin kautta yhden API:n avulla, mikä yksinkertaistaa integraatiota ja vähentää toimittajasidonnaisuutta insinööriteeamille.

Pakota kiintiöt ja tiimin laskutus

Käytä käyttäjä- tai tiimikohtaisia kiintiöitä ja seuraa käyttöä sisäisiä kustannuslaskelmia varten, mahdollistaen hallitun LLM-kulutuksen organisaation laajuisesti.

Auditointi ja LLM-käytön analysointi

Tallenna tarkat lokit ja analytiikka LLM-pyynnöistä tukeaksesi noudattamisauditointeja, kustannusten optimointia ja suorituskyvyn seurantaa.

Itseisännöity AI-infrastruktuuri

Ota käyttöön avoimen lähdekoodin yhdyskäytävä organisaation sisällä tietojen hallinnan säilyttämiseksi samalla, kun standardoit pääsyn useille LLM-palveluntarjoajille.

Plussat ja miinukset

Plussat

Avoin lähdekoodi ja itseisännöitävissä täydellisen hallinnan vuoksi
Yhdistää useita AI-palveluntarjoajia yhden yhteensopivan API:n taakse
Sisäänrakennetut kiintiöt, laskutus ja käyttöanalytiikka
Auditointi ja pääsynhallinta monikäyttäjäympäristöissä

Miinukset

Vaatii itseisännöinnin ja jatkuvan ylläpidon
Ominaisuuksien laajuus riippuu yhteisön panoksesta
Dokumentaatio voi olla niukkaa uusille käyttäjille

Arvostelut

4.3

Keskiarvo 4 arviosta.

Kirjaudu sisään jättääksesi arvostelun.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Kysymykset

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.