New APIΠύλη ανοικτού κώδικα LLM που ενώνει πολλαπλές API παρόχων AI με δρομολόγηση, χρέωση και ανάλυση

4.3 (4)

Αξιολογήθηκε από Daniel Nikulshyn·Ενημερώθηκε Ιούνιος 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

Επισκόπηση

Το New API είναι μια ανοιχτού κώδικα πύλη LLM που παρέχει μια ενιαία διεπαφή για σύνδεση με πολλαπλούς παρόχους μοντέλων AI, συμπεριλαμβανομένων των API του OpenAI, Anthropic Claude και Google Gemini. Λειτουργεί ως κεντρικό επίπεδο διαχείρισης που επιτρέπει στις ομάδες να κατευθύνουν αιτήματα μεταξύ παρόχων, να ελέγχουν την πρόσβαση και να παρακολουθούν τη χρήση από ένα μέρος. Το έργο απευθύνεται σε προγραμματιστές, ομάδες πλατφόρμας και οργανισμούς που καταναλώνουν AI API σε μεγάλη κλίμακα και επιθυμούν μια ενιαία πύλη αντί για την ενσωμάτωση κάθε παρόχου ξεχωριστά. Με την αποκάλυψη endpoints συμβατών με το OpenAI, επιτρέπει υπάρχουσες εφαρμογές και SDKs να λειτουργούν με πολλούς backend χωρίς να αναδιαγράψουν τον κώδικα του πελάτη. Πέρα από την βασική διαμεσολάβηση, το New API εστιάζει σε επιχειρησιακές ανησυχίες όπως token-based quotas, billing και credit management, request auditing και usage analytics. Αυτές οι λειτουργίες το καθιστούν κατάλληλο για την κατασκευή εσωτερικών AI πλατφορμών ή για την πώληση/μετρία πρόσβασης σε πολλαπλούς χρήστες ή ομάδες. Ως εργαλείο ανοιχτού κώδικα, αυτοεγκατάστατο, δίνει στους διαχειριστές τον έλεγχο της ανάπτυξης και της ροής δεδομένων, κάτι που μπορεί να είναι σημαντικό για τη διαχείριση κόστους και την τήρηση κανονισμών. Τοποθετείται στον ίδιο χώρο με άλλες πύλες και συγκεντρωτές API όπως το LiteLLM και το One API, από τα οποία προέρχεται. Όπως με τις περισσότερες self-hosted gateways, η υιοθέτηση του New API απαιτεί εγκατάσταση υποδομών και συνεχή συντήρηση, ενώ η έκταση της υποστήριξης των παρόχων και η σταθερότητα εξαρτώνται από τις συνεισφορές της κοινότητας.

Βασικές λειτουργίες

Ενοποιημένη API πύλη πολλαπλών παρόχων
Τελειώματα συμβατά με OpenAI
Δρομολόγηση αιτημάτων μεταξύ προμηθευτών μοντέλων
Διαχείριση ποσοτήτων token και χρεώσεων
Αναλύσεις χρήσης και ελέγχους συμμόρφωσης

Τιμές

Μοντέλο: Freemium
Κατηγορία: AI Model Serving Platforms
Βαθμολογία: 4.3 / 5 (4)

Περιπτώσεις χρήσης

Ενοποίηση πρόσβασης σε LLM πολλαπλών παρόχων

Δρομολόγηση αιτημάτων μέσω ενός μόνο API μεταξύ OpenAI, Claude και Gemini, απλοποιώντας την ενσωμάτωση και μειώνοντας το κλειδωμα παρόχων για ομάδες μηχανικών.

Εφαρμογή ποσοτικών όρων και χρεώσεων ομάδων

Εφαρμογή ποσοτικών όρων ανά χρήστη ή ομάδα και παρακολούθηση χρήσης για εσωτερικές χρεώσεις, επιτρέποντας ελεγχόμενη κατανάλωση LLM σε όλη την οργάνωση.

Έλεγχος και ανάλυση χρήσης LLM

Καταγραφή λεπτομερών καταγραφών και αναλύσεων για αιτήματα LLM ώστε να υποστηρίζονται ελέγχοι συμμόρφωσης, βελτιστοποίηση κόστους και παρακολούθηση απόδοσης.

Διαχείριση υποδομής AI σε εσωτερική φιλοξενία

Στήσιμο μιας πύλης ανοικτού κώδικα εντός της επιχείρησης για διατήρηση ελέγχου δεδομένων, ενώ ταυτόχρονα κανονικοποιεί την πρόσβαση σε πολλαπλούς παρόχους LLM.

Υπέρ και κατά

Υπέρ

Ανοικτού κώδικα και δυνατότητα αυτο-φιλοξενίας για πλήρη έλεγχο
Ενώνει πολλούς παρόχους AI πίσω από μία συμβατή API
Ενσωματωμένες ποσοτικές περιοριστικές, χρεώσεων και αναλύσεων χρήσης
Έλεγχος συμμόρφωσης και διαχείριση πρόσβασης για πολλαπλά χρήστης

Κατά

Απαιτεί αυτο-φιλοξενία και συνεχή συντήρηση
Η βάθος λειτουργιών εξαρτάται από τις συνεισφορές της κοινότητας
Η τεκμηρίωση μπορεί να είναι σπάνια για νέους χρήστες

Κριτικές

4.3

Μέσος όρος από 4 βαθμολογίες.

Σύνδεση για κριτική.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

Ερωτήσεις

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.