TaskingAIクラウド基盤でLLMエージェントを構築、展開、運用するプラットフォーム

TaskingAIは、Large Language Model (LLM)によってpoweredされたAIエージェントを構築、展開、管理する開発者を支援するクラウドネイティブプラットフォームです。これは、開発環境から生産環境までのAIネイティブアプリケーションの移行に関連する下部構造的な複雑さの大部分を抽象化することを目的とします。 タスクングAIは、エージェントの行動を調整するためのツールのセットを提供します。その中にエージェントの役割を定義すること、会話記憶の管理、エージェントがエクステーナルトゥールを利用できるようにすることが含まれます。開発者はカスタム機能やAPIをツールとして統合することを許可します。これにより、エージェントはベーシックなテキスト生成機能よりも幅広いアクションを実行できます。たとえば、データベースをクエリーしてデータを取得したり、メールを送信したり、他のサービスと相互作用したりすることができます。 キーパーソナリティ機能には、テンプレート機能、バージョニング機能、A/Bテストなどの要素が含まれるように、ユーザーの入力文を管理することができる。TaskingAIでは、知識ベースの統合をサポートしている。これにより、エージェントはプライベートなデータソースから情報をアクセスし、合成することができ、LLMの反応によって、事実に基づいたドメイン固有の情報によって擬似生成を防ぐことができるようになる。 このプラットフォームは、モデル無関係性を特徴としており、商用・オープンソースのLLMをサポートしているため、開発者のニーズやコストの考慮に応じたモデルの選択が可能で、開発者の柔軟性を高めている。このプラットフォームには、AIアプリケーションの運用において重要であるモニタリングエージェントのパフォーマンス、利用状況、コストの管理に関する機能が含まれている。 TaskingAI はエージェント開発用のマネージドバックエンドとして位置づけられており、スタンドアロンオープンソースライブラリと対照的に、エージェントの生態系全体、設計から運用・観察までを統合された環境でカバーすることができるようになる。