LangfuseSvetimas LLM modelių mechaninės inžinerijos platforma siūlanti prielaidas, matavimus, įvertinimus ir pasauliuojimus kurti ir pagerinti didelius anglų kalbų modelius...

Langfuse – tai atviro kodo LLM (Didelioji kalbos modelis) sistemos inžinerijos platforma, kuriai skirta pagalbos teikti programuotojams statyti, patikrinti ir padidinti AI agentus ir taikinius. Jis teikia visapusiškas toolset užtikrinant prieinamumą, rodyklų, vertinimus, ir užklausos valdymą, leidžiant komandoms darbauti ir konsinuitetiai pagerinti savo AI produktų kokybę, kainą, ir nuotėkį. Langfuse palaiko visą LLM inžinerijos ciklą, nuo prototipu iki produkcijos, integruojant atsakojamumą, užklausų valdymą, vertinimus, eksperimentus, ir žmogaus rašytais paminėjimus į vientisą darbų srautą. Pati platforma siūlo priemonės kaip hierarchinis nustatymas, kuris pagrinda visą LLM pavaduotojo užklausas, įrangos įtraukimą ir perkėlimo žingsnį, bei leidžia filtruoti pagal vartotoją, sesiją, sąnaudas, latentą arba personalizuotą duomenų metainformaciją. Ji taip pat remia įvairius įvertinimo metodus, įskaitant LLM kaip teisėją, heuristines funkcijas bei žmogaus peržiūrą. Be to, Langfuse teikia užsakymo valdymo sistemą su vieno mygtuko paleidimu bei atsitraukimu, žaidlanką už jį išbandyti užklausų užklausas, bei eksperimentų apibrėžimo ir palyginimo priemonės. Langfuse veikia su bet kuo kalba ir rammu, kuris palaiko OTel instrumentaciją ir turi virš 100 integracijų su populiariais agentų rammomis, modelių teikėjais bei kitomis programas, naudojamomis kartu su Langfuse. Tai atvira platforma su MIT licencija, leidžianti vartotojams savo programą naudoti pasaulyje ir prisidėti bendruomenėje. Langfuse naudojamas virš 100 000 inžinierių ir 19 iš 50 šalių kapitalų bendrovė, kurios gali per mėnesį naudoti virš 10 milijardų priėmimų.