New APIGateway open-source per LLM unificante, che integra le API dei fornitori multipli con routing, fatturazione e analisi

New API è un gateway LLM open-source che fornisce un'interfaccia unificata per la connessione a più fornitori di modelli AI, tra cui OpenAI, Anthropic Claude e Google Gemini-style API. Funziona come un livello di gestione centrale che consente ai team di instradare le richieste tra i fornitori, controllare l'accesso e monitorare l'utilizzo da un'unica posizione. Il progetto è rivolto a sviluppatori, team di piattaforma e organizzazioni che consumano API AI su larga scala e desiderano un singolo gateway invece di integrare ogni provider separatamente. Esponendo endpoint compatibili con OpenAI, consente alle applicazioni esistenti e agli SDK di lavorare con molti backend senza dover riscrivere il codice lato client. Oltre al proxying di base, New API si concentra su aspetti operativi come quote basate su token, fatturazione e gestione del credito, audit delle richieste e analisi dell'utilizzo. Queste funzionalità lo rendono adatto per la creazione di piattaforme AI interne o per la rivendita e la misurazione dell'accesso a più utenti o team. Essendo uno strumento open-source e self-hostable, offre agli operatori il controllo sulla distribuzione e sul flusso di dati, che può essere importante per la gestione dei costi e la conformità. Si posiziona nello stesso spazio di altre API gateways e aggregatori come LiteLLM e One API, da cui deriva. Come per la maggior parte dei gateways auto-hosted, l'adozione di New API richiede la configurazione dell'infrastruttura e la manutenzione continua, e la portata del supporto del provider e della stabilità dipendono dai contributi della comunità.