New APIÖppen källkod LLM-gateway som förenar flera AI-leverantörs-API:er med routing, fakturering och analys

New API är en öppen källkod LLM-gateway som tillhandahåller ett enhetligt gränssnitt för att ansluta till flera leverantörer av AI-modeller, inklusive OpenAI, Anthropic Claude och Google Gemini-stils API:er. Den fungerar som ett centralt hanteringslager som låter team dirigera begäranden över leverantörer, kontrollera åtkomst och spåra användning från en plats. Projektet riktar sig till utvecklare, plattformsgrupper och organisationer som konsumerar AI-API:er i stor skala och vill ha en enda gateway snarare än att integrera varje leverantör separat. Genom att exponera OpenAI-kompatibla slutpunkter möjliggör det befintliga applikationer och SDK:er att fungera med många backends utan att skriva om klientkod. Utöver grundläggande proxynkrav fokuserar New API på operativa problemområden som tokenbaserade kvoter, fakturering och kreditadministration, begäransrevision och användningsanalys. Dessa funktioner gör det lämpligt för att bygga interna AI-plattformar eller för att sälja vidare och mäta åtkomsten för flera användare eller team. Som ett verktyg med öppen källkod som kan vara självhostat ger det operatörer kontroll över distribution och dataväxling, vilket kan vara viktigt för kostnadshantering och efterlevnad. Det positionerar sig i samma utrymme som andra API-gateway och aggregatorer som LiteLLM och One API, från vilka det härstammar. Precis som med de flesta självhållna gateways, kräver införandet av New API infrastrukturoppställning och löpande underhåll, och bredden av providerstöd och stabilitet beror på gemenskapsbidrag.