#LLM Gateway

#1

LiteLLM

Atskiras naudojantis python'ą pagrindas SDK bei proxy serveris, pagalbinantis valdyti priimtumą, įtaisų balansavimą ir išlaidų priekaištų stebėjimą daugiau kelių nei 100 LLM per universalią OpenAI formatą.

#2

New API

Atviras LLM prieigos prietaisas, sujungiantis keletą AI pardavėjų API su maršrutavimu, sąskaitų apskaita ir analizėmis