精度はわずか14％？　インシデント調査でAIが“迷子”になる理由と改善策

手法

IBM Researchのローハン・アローラ氏らが、AIモデルの障害対応能力を科学的・定量的に評価するオープンソース検証システム「ITBench」を開発。Kubernetes上で稼働し、Ansibleで障害を注入し、AIエージェントの診断・緩和能力を「Pass at K」「Mean Time to Resolution」等の指標で測定。初期実験ではLLM(Gemini 3 Pro等)にデータ収集〜解決策立案まで全て任せ、「ReAct」等の自律調査プロセスを用いたが、原因特定の成功率は約14%、問題解決に至る割合は約11%にとどまった。原因はコンテキストに混じるノイズ(無関係な情報)にLLMが固執し、巨大で複雑なKubernetesシステムで迷子になり不要な情報収集を繰り返してハルシネーションを起こすこと。改善策として、アプリケーションのトポロジー情報を用いてLLMの探索範囲をアラート発生サービス周辺に限定し、固定手順で状況共有する制約付きアプローチを導入した結果、3回試行(Pass at 3)での原因特定精度が約95%まで向上した。

示唆

AIに障害対応を「丸投げ」すると精度はわずか14%(成功率11%)にとどまり、期待外れに終わる。原因はLLMが無関係なノイズ情報に引きずられ、巨大システムの中で迷子になりハルシネーションを起こすこと。改善のカギは「AIに全部任せる」のをやめ、システムのトポロジー(構成情報)で探索範囲を意図的に制限し、固定手順を与えて負荷を軽減する「制約付きアプローチ」に切り替えたこと。これにより精度は95%まで劇的に向上した。単純な自律型LLM運用の限界と、スコープ制限・構造化コンテキスト設計の重要性を示す事例。

成果・金額

原因特定精度: 14%→95%（改善後、Pass at 3基準）、問題解決率: 約11%

引用

初期の実験では、LLM自身にデータ収集から分析、解決策の立案までを全て任せるアーキテクチャが採用されたが、前述の通り原因特定の成功率は約14％、問題解決に至る割合は約11％にとどまった。分析の結果、LLMは巨大で複雑なKubernetesシステムで迷子になり、不要な情報収集を繰り返して幻覚（ハルシネーション）を引き起こしていることが分かった。そこで研究チームは、アプリケーションのトポロジー情報を用いて、LLMが探索できる範囲を意図的に制限する手法を考案した。（中略）結果として、この制約を与えられたAIエージェントは、3回の試行で原因を特定する割合（Pass at 3）において約95％という劇的な精度向上を達成した。