#LLM Gateway

#1

LiteLLM

Відкритий джерело Python SDK та проксі-сервер для управління автентифікацією, навантаженням та відстеженням витрат по 100+ LLM за однаковою відкритою формою OpenAI.

#2

New API

Відкрите джерело LLM-ґейтвею, що об'єднує кілька API-провайдерів ШІ з маршрутизацією, білінгом та аналітикою