Relari (YC W24)Todennäköisyyksien testaus, arviointi sekä tietynäytteen generaatioalusta AI-agentitien parissa.
Yleiskatsaus
Pääominaisuudet
- Synthetinen datasetin generaatio
- Automatisoitu agenttien arviointiin liittyvä ketterät ketjut
- Skenaariokeskundet ja keskusteltavuuden simulointi
- Muokattavissa olevia arviointimetodeja
- Jälkikäteen testaus LLM-sovelluksille
- Suorituskykykokeet ja raportointi
Hinnat
- Malli
- Free
- Kategoria
- Observability
- Arvio
- 4.3 / 5 (6)
Käyttötapaukset
Testaus AI-agenttien
Luotettava ja testattava arviointi AI-agenttien toteuttamiselle.
Plussat ja miinukset
Plussat
- Omaa tarkoitusta varten kehitetty muutospaineisten AI-agentien arviointiin
- Synthetistä testitietoa skaalataan
- Tukee mukautettuja metriikkejä ja arviointilaitteita
- Taustalla Y Combinatorin kanssa aktiivinen kehitys
Miinukset
- Pääosin tähtää ketteränä käytössä oleville tekniseen tiimiin, ei kehystelemisistä
- Uusi alusta kehityksessä olevan ominaisuuden määrällä
- Osaaminen vaaditaan välttääkseen integraatio työtä varten vanhat räätälistä
Arvostelut
Keskiarvo 6 arviosta.
Kirjaudu sisään jättääksesi arvostelun.
Skeptical, then convinced
I went in skeptical — most tools in this space overpromise. It actually delivers on customizable evaluation metrics, and purpose-built for evaluating multi-step AI agents caught me off guard. still, I'd recommend giving it a real trial.
Solid for our team
We rolled this out across the team last quarter and supports custom metrics and evaluators. Customizable evaluation metrics fits neatly into how we already work, and customizable evaluation metrics removed a step we used to do by hand. Primarily aimed at technical teams, not non-developers, which is the main caveat, but it has held up under daily use.
Skeptical, then convinced
I went in skeptical — most tools in this space overpromise. It actually delivers on performance benchmarking and reporting, and supports custom metrics and evaluators caught me off guard. Primarily aimed at technical teams, not non-developers is why this isn't a perfect score, still, I'd recommend giving it a real trial.
Compared a few options
Evaluated this against two competitors. Where it wins: scenario and conversation simulation and purpose-built for evaluating multi-step AI agents. Where it lags: may require integration work to fit existing stacks. On balance the feature set — especially scenario and conversation simulation — justifies the 5 stars for our use case.
Use it every day
Honestly didn't expect to like it this much. Performance benchmarking and reporting is exactly what I needed, and purpose-built for evaluating multi-step AI agents. I do wish may require integration work to fit existing stacks, but I reach for it almost every day now and it just clicks.
Skeptical, then convinced
I went in skeptical — most tools in this space overpromise. It actually delivers on regression testing for LLM apps, and supports custom metrics and evaluators caught me off guard. May require integration work to fit existing stacks is why this isn't a perfect score, still, I'd recommend giving it a real trial.
Kysymykset
Ei kysymyksiä — kysy ensimmäinen.
Kysy kysymys
Observability vaihtoehdot
KeywordsAI
Observability
Yhdistetty kehittäjien alusta LLM-sovellusten luomiseen, seuraamiseen ja mittakaavaan
Guardian
Observability
Turvallisuus- ja hallintasivusto itsenäisille AI-agenteille ja älykkäille järjestelmissä.
Maxim AI
Observability
Ei-puutteiden mittaus- ja seuraamusjärjestelmä AI-agenteille
Weave
Observability
No-code AI -työnkulunrakennus, joka mahdollistaa yrityksille operaatioiden automatisoinnin useiden suurten kielimallien (LLM) integroinnilla ja kehotteiden saumattomalla yhdistämisellä.
llm scout
Observability
Seuraa, miten merkitseväsi esiin olet kaikissa ai-heikoissa palveluissa, kuten ChatGPT, Claude, Perplexity ja Google AI Overviews.
FoundryAI
Observability
Rakenna, arvioi ja paranna bisneksen automointia varten AI-agenteja
Helicone AI
Observability
Yhden neuvonnan määrän observabiliteettiplatvormi, jotta näkee, korjaat ja kehityt tuotantotietoja LLM ohjelmiasi.
Fiddler AI
Observability
AIObsidiivisuuden ja turvaa tarjoava laitteisto mallien ja LLM-sovellusten valvonnan, selittämisen ja hallinnon puolesta.
Trending now
Reducto AI
AI Agent Development Platforms
Dokumentti-intelligentti API, joka parsitsee, jaetsee, tunnistaa OCR:in ja noutaa rakennepohjaisia tietoja monimutkaisista PDF-tiedostoista, näyttelyesitelmista ja lehtikuluista.
AdCrier
Marketing & Advertising
Vastineiden sponsoroiminen, maksettu per klikki.
Pin AI
Workflow automation
Agenttinen AI-rekrytoija, joka automatisoi ehdokkaiden etsinnän, seulonnan ja yhteydenoton nopeuttaakseen rekrytointia.
Sandy AI
Sales
Myynnin AI-syntynyt kopilotti sisällä Salesmateissa, joka muuttaa asiakasyksiköitä omavalmisteiseen kanavaan ja tuloksiin.











