New APIღია წყაროს LLM გატე, რომელიც მრავალ AI მომწოდებლის API‑ებს აერთიანებს, უზრუნველყოფს რაუტინგს, გადახდებს და ანალიზს

4.3 (4)

შეფასებული Daniel Nikulshyn·განახლდა ივნისი, 2026

Open Source LLM Gateway API Routing Billing Analytics Enterprise Multi-Model

მიმოხილვა

New API არის ღია წყაროს LLM ხიდი, რომელიც უზრუნველყოფს ერთიანი ინტერფეისს მრავალ AI მოდელის პროვაიდერებთან კავშირებისთვის, მათ შორის OpenAI, Anthropic Claude და Google Gemini‑style APIs. ის მოქმედებს ცენტრალურ მართვის შრეად, რომელიც გუნდებს საშუალებას იძლევა მოთხოვნები პროვაიდერებს შორის გადამისამართება, წვდომის კონტროლი და გამოყენების მონიტორინგი ერთი ადგილიდან. პროექტის მიზანი არის დეველოპერები, პლატფორმის გუნდები და ორგანიზაციები, რომლებიც მასშტაბურად AI API‑ებს იყენებენ და ერთი gateway‑ს, თითოეული პროვაიდერის ცალკეული ინტეგრაციის მაგიერ, გნებავთ. OpenAI‑თან თავსებადური endpoints‑ების გაშვების გზით, ის საშუალებას აძლევს არსებული აპლიკაციებს და SDK‑ებს მრავალი backend‑თან მუშაობის, client code‑ის გადაწერით გარეშე. მიუხედავად საბაზისო პროქსიების, New API ფოკუსირდება ოპერაციულ საკითხებზე, როგორიცაა ტოკენზე დაფუძნებული კვოტები, ბილინგი და კრედიტის მართვა, მოთხოვნების აუდიტი და გამოყენების ანალიზი. ეს ფუნქციები მას შესაფერის ხდის შიდა AI პლატფორმების ასაშენებლად ან მრავალ მომხმარებლის/გუნდისთვის ხელმეორედ გაყიდვის/მეტრი-თვის წვდომის მართვაში. როგორც ღია-წყაროს და თვითჰოსტირებადი ხელსაწყო, ის ოპერატორებს კონტროლის იძლევა გაშვებისა და მონაცემთა ნაკადის შესახებ, რაც შეიძლება მნიშვნელოვანი იყოს ხარჯების მართვისა და შესაბამისობისთვის. იგი თავის თავს იმავე სივრცეში მოიცავს, როგორც სხვა API გეითვეები და აგერატორები, როგორიცაა LiteLLM და One API, რომელთაგანაც ის გამოიხმარება. როგორც უმრავლესობის საკუთარი ჰოსტით გეატვეებისთვის, New API‑ის მიღება ინფრასტრუქტურის დაყენებასა და მუდმივი მოვლას მოითხოვს, ხოლო მომწოდებლების მხარდაჭერის და სტაბილურობის ფართობა დამოკიდებულია საზოგადოების წვლილებზე.

ძირითადი ფუნქციები

ერთიანი მრავალ მომწოდებლის API გატე
OpenAI‑თან თავსებადი წერტილები
მოდელ მომწოდებლებს შორის მოთხოვნების რაუტინგი
ტოკენების კვოტები და გადახდის მართვა
გამოყენების ანალიტიკა და აუდიტი

ფასები

მოდელი: Freemium
კატეგორია: AI Model Serving Platforms
შეფასება: 4.3 / 5 (4)

გამოყენების შემთხვევები

მრავალ მომწოდებლის LLM წვდომის ერთიანება

მოთხოვნებს OpenAI‑, Claude‑სა და Gemini‑ს შორის ერთ API‑ის საშუალებით გადაგზავნის, რაც ინტეგრაციის მარტივობასა და ვენდორების ლಾಕ್‑ინს შემცირებს ინჟინერულ გუნდებისთვის.

კვოტების და გუნდის გადახდის მტკიცება

დააყენეთ თითო მომხმარებლის ან გუნდის კვოტები და თვალყურისდევნეთ გამოყენება შიდა გადახდებისთვის, რაც ორგანიზაციის მასშტაბით კონტროლირებადი LLM მოხმარებას საშუალებას გაძლევთ.

LLM მოხმარების აუდიტი და ანალიზი

გაიგზავნეთ დეტალური ჟურნალები და ანალიზი LLM მოთხოვნებზე, რაც დაეხმარება შესაბამისობის აუდიტებს, ხარჯების ოპტიმიზაციას და წარმადობის მონიტორინგს.

თვითჰოსტირებული AI ინფრასტრუქტურა

შეადგინეთ ღია წყარო გატე თქვენს კომპანიის შიგნით, რათა შეინარჩუნოთ მონაცემთა კონტროლი და მრავალ LLM მომწოდებლის ხელმისაწვდომობა სტანდარტიზირდეს.

დადებითი და უარყოფითი

დადებითი

ღია წყარო და თვითჰოსტებადი, რაც სრულ კონტროლის საშუალებას იძლევა
ერთ API‑ის ქვეშ მრავალი AI მომწოდებლის ერთიანება
შიგთავსი კვოტები, გადახდის და გამოყენების ანალიზი
აუდიტი და წვდომის მართვა მრავალმომხმარებლის კონფიგურაციებისთვის

უარყოფითი

საჭიროებს თვითჰოსტირებას და მუდმივ მოვლელს
ფუნქციონალის სიმდიდრე დამოკიდებულია საზოგადოების წვლილებზე
დოკუმენტაცია შეიძლება ახალი მომხმარებლებისთვის ნაკლებად იყოს

შეფასებები

4.3

საშუალო 4 შეფასებიდან.

შედი ანგარიშზე შეფასების დასატოვებლად.

Margaret Whitfield

Aug 7, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the dashboard and the value for money is strong. Where it lags: the docs could be deeper. On balance the feature set — especially the dashboard — justifies the 4 stars for our use case.

Wei Chen

Jul 28, 2025

Use it every day

Honestly didn't expect to like it this much. The dashboard is exactly what I needed, and it saves real time. I do wish pricing gets steep at scale, but I reach for it almost every day now and it just clicks.

Jamal Carter

Jul 11, 2025

Solid for our team

We rolled this out across the team last quarter and it saves real time. The onboarding fits neatly into how we already work, and the core workflow removed a step we used to do by hand. The mobile experience lags, which is the main caveat, but it has held up under daily use.

Aaliyah Johnson

Jun 18, 2025

Compared a few options

Evaluated this against two competitors. Where it wins: the integrations and it is genuinely easy to set up. Where it lags: pricing gets steep at scale. On balance the feature set — especially the core workflow — justifies the 4 stars for our use case.

კითხვები

What operational features does New API offer beyond basic API proxying?

Beyond routing requests to multiple LLM providers, New API includes built-in quotas, billing, auditing, and usage analytics, making it suitable for teams that need to manage, monitor, and control LLM consumption centrally.

Which LLM providers and API formats does New API support?

New API acts as a unified gateway for major LLM APIs, including OpenAI-, Claude-, and Gemini-style endpoints, letting you route requests across providers through a single consistent interface.

Is New API free, and can it be self-hosted?

Yes. New API is open-source, so you can self-host it without licensing fees. Your only costs are the infrastructure you run it on and the usage fees charged by the upstream LLM providers it connects to.