モデル品質の監視と保証
1. 私たちが保証すること
プラットフォームのモデル品質保証は 2 つの軸で構成されています:
- 真正性の保証(正規品の保証):チャネルが公表するモデルリソースと実際のレスポンスの動作が一致していることを確認し、リバースエンジニアリング / ラッピング / 公表と異なるモデルを検出
- 可用性の保証(安定稼働):チャネルおよびモデルの成功率、レスポンスレイテンシ、障害傾向を継続的に監視し、異常時にはアラート、自動隔離、復旧を実行
2. 運用品質指標の監視
2.1 コア指標
AIone は以下の指標をリアルタイムで監視しています:
| 指標 | 説明 | アラート閾値 |
|---|---|---|
| 成功率 | リクエスト成功の割合 | 99% 未満 |
| P50 レイテンシ | 50% のリクエストのレスポンス時間 | モデルにより異なる |
| P99 レイテンシ | 99% のリクエストのレスポンス時間 | ベースラインの 3 倍超 |
| エラー率 | 5xx エラーの割合 | 1% 超 |
| タイムアウト率 | リクエストタイムアウトの割合 | 0.5% 超 |
2.2 自動アラート
指標が閾値を超えた場合、システムは自動的にアラートプロセスを起動します:
- 即時アラート:運用チームに通知
- 自動フェイルオーバー:異常チャネルからバックアップチャネルにトラフィックを切り替え
- 手動介入:運用チームが調査・修復
- 復旧検証:復旧を確認後、段階的にトラフィックを増加
2.3 マルチチャネル冗長構成
各モデルシリーズに複数の上流チャネルを設定しています:
- Claude シリーズ:複数リージョンの AWS Bedrock アカウント
- GPT シリーズ:OpenAI API + Azure OpenAI のデュアルチャネル
- Gemini シリーズ:GCP Vertex AI の複数リージョン
あるチャネルに問題が発生した場合、バックアップチャネルに自動的に切り替わり、呼び出し元には完全に透過的です。
3. モデル真正性の保証
3.1 公式チャネルでの接続
すべてのモデルは公式クラウドサービス API 経由で接続しており、以下は使用しません:
- リバースエンジニアリングで取得した API
- 非公認のサードパーティプロキシ
- ラッピングまたは偽装されたモデル
3.2 レスポンスの検証
システムは定期的にベンチマークテストを実行しています:
- 標準 prompt セットを使用して各モデルをテスト
- レスポンス品質を公式 API 直接接続の結果と比較
- モデルの能力が期待通りか検証(例:Opus は Sonnet よりも明確に優れているべき)
4. お客様への透明性のコミットメント
4.1 データの透明性
- 各 API 呼び出しのトークン消費量、レイテンシ、モデルバージョンをコンソールで確認可能
- 使用量統計ページでモデル別、日付別、キー別の詳細データを提供
4.2 ステータスの透明性
- 公開ステータスページ:24 時間 365 日、各サービスコンポーネントの健全性を表示
- 変更ログ:すべてのプラットフォーム変更を公開記録
4.3 問題対応の透明性
- サポートチケットシステムで全プロセスを追跡
- 重大な障害発生後はインシデントレポートを提供
5. SLA
| 指標 | 基準 |
|---|---|
| 月間可用性 | 99.9% |
| 障害対応時間 | 緊急時は 1 時間以内 |
| 障害復旧時間 | 30 分以内 |
SLA 基準を満たさなかった場合、お客様はサポートチケットからサービスクレジットの補償を申請いただけます。