OTEL対応トレーシング
LatitudeのSDKから、または既存のOpenTelemetryパイプラインをプラットフォームに向けることでトレースを取得でき、独自形式に依存せずにトレースを取り込めます。
Latitudeは、AIエージェントの運用状況を可視化・監視するオープンソース基盤です。OpenTelemetry対応のトレース、アラート、セッション検索、evalワークフローで本番の問題把握と修正確認を支援します。
Latitudeは、オープンソースのAIエージェント向けオブザーバビリティおよびモニタリングプラットフォームです。チームが本番トラフィックを確認し、どこで失敗しているかを特定し、デプロイ後に修正が実際に機能したかを検証できるように設計されています。
この製品は、トレース、セッション検索、問題検出、評価ワークフローを中心に構成されています。SDKまたは既存のOpenTelemetryパイプライン経由で接続でき、類似した失敗のクラスタリング、トレースへの注釈付け、本番例を再現可能なevalへ変換するためのツールも備えています。
LatitudeのSDKから、または既存のOpenTelemetryパイプラインをプラットフォームに向けることでトレースを取得でき、独自形式に依存せずにトレースを取り込めます。
完了したセッションを分析して、会話の内容、何が起きたか、またエスカレーション、離脱、再試行、ツールの失敗、信頼の破綻がどこで発生したかを把握します。
セマンティック検索、完全一致テキスト、メタデータフィルターを使って100%のトレースを横断検索し、実例をすばやく絞り込みます。
新しい問題やエスカレーションを検出し、Slack、メール、またはwebhookにアラートを送信して、ユーザーから苦情が寄せられる前にチームが対応できるようにします。
検証済みの本番問題をevalに変換し、バージョン管理されたゴールデンデータセットを作成して、新しいトレースに対する回帰チェックを実行します。
トレース、スパン、出力に対してインラインでフィードバックを残し、得られた構造化アノテーションを検索、クラスタリング、evalワークフローで活用します。
本番トレースを確認して、メッセージ、ツール呼び出し、エラー、その他の失敗シグナルを含め、セッション中にエージェントが実際に何をしたのかを把握します。
すべての会話を検索して、質問、リリース期間、または特定の失敗パターンに一致する実例の集まりを見つけます。
問題が発生した時点で検出し、類似した失敗をクラスタリングし、チームにアラートを送信して、問題が広がる前に切り分けられるようにします。
検証済みの本番問題を実例に基づくevalへ変換し、修正をリリースした後に新しいトレースに対して再実行します。
アノテーション、データセット、問題クラスタリングを活用して、AIエージェントに取り組むチーム全体でレビュー作業を構造化して進めます。
Latitudeは、AIエージェントを監視し、本番トレースから問題を可視化するために設計されています。料金ページでは、無料のStarterプランと有料のProおよびEnterpriseオプションがあることも示されています。
ソースによると、Latitudeはトレースを取得し、会話を検索し、問題を発見し、SDKまたは既存のOpenTelemetryパイプラインを通じてテレメトリをサポートします。
ホームページでは、問題アラートをSlack、メール、またはwebhookに送信できると記載されており、料金ページではStarterプランでのSlackサポートとProでの優先サポートが示されています。
ホームページでは、Latitudeがオブザーバビリティ、セッション検索、会話インテリジェンス、問題発見、自動eval、データセット管理、人手によるアノテーション、高度なフィルター、失敗モードのクラスタリングを提供すると説明されています。
blop は、リポジトリ内でブラウザテストをコードとして記述し、CIで実行、失敗をクラスタリングし、壊れたテスト修正用のPRも開けるQA agentです。
Bluejayは、AIエージェント向けのQAプラットフォームです。音声・チャットシステムのテスト、監視、改善を支援し、デプロイ前後のシミュレーション、運用再生、可観測性、比較テストに対応します。
Orcaは、コードエージェントでの開発・実装を支援するAgent Development Environment。分離されたworktree上で複数のCLIエージェントを並列実行し、デスクトップとモバイルの連携ワークフローに対応します。
BotLab is a tool for testing video-game bots by running them in simulated game clients, reviewing session logs, and comparing results in the Reactor. It offers a free tier for short sessions and a paid Pro plan for longer online runs.
AI Magicxは、チャット、画像、動画、音声、音楽、メール、開発タスクを1か所で扱える統合AIワークスペース。複数モデルを使い分ける手間を減らします。
Paperは、キャンバス、コード、AIエージェントをつなぎ、チームが1つのワークフローで作成・共有・出荷できるデザインツール。デスクトップアプリ、MCP対応のエージェントアクセス、実コンテンツとデザイントークンのワークフローに対応。