#LLM Gateway

#1

LiteLLM

Avoin lähdekoodi Python-SDK ja proxy-palvelu, joka hoitaa 100+ LLM:n tarkistuksen, kuormanjakamisen ja kulutusten seurannan yhdistetyllä avoimella OpenAI-muodolla.

#2

New API

Avoimen lähdekoodin LLM-yhdyskäytävä, joka yhdistää useiden AI-palveluntarjoajien API:t reitityksen, laskutuksen ja analytiikan avulla