ヒューマンインザループ (HITL) とは、トレーニング、評価、意思決定などのタスクのために人間の判断を AI ワークフローに統合するシステムを指します。
目的
人間の専門知識とAIの効率性を融合させることが目的です。これにより、機密性の高いアプリケーションにおける品質、倫理的な監視、そして安全性が確保されます。
重要性
- 高リスク領域（医療、防衛など）でのエラーを削減します。
- 人間からのフィードバックを通じてトレーニングを改善します。
- 自動化されたシステムでの説明責任を果たします。
- 完全な自動化に比べると遅く、コストも高くなります。
仕組み
- 人間による監視が必要な領域を定義します。
- AI の出力または提案を収集します。
- 人間が検証し、修正し、フィードバックを提供します。
- フィードバックは、モデルを再トレーニングまたは改良するために統合されています。
- 人間による継続的なレビューでシステムのパフォーマンスを監視します。
例（実世界）
- コンテンツ モデレーション: AI によってフラグが付けられた投稿を人間が確認します。
- 医療 AI: 医師が AI 生成の診断を検証します。
- 人間のフィードバックからの強化学習 (RLHF): ChatGPT のような言語モデルをトレーニングします。
参考文献 / さらに読む
- Amershi他「人々に力を与える：インタラクティブ機械学習における人間の役割」AI Magazine。
- NIST AI リスク管理フレームワーク。
- ヒューマン・イン・ザ・ループ・システムの IEEE 標準。
- 人間参加型理解
