内閣官房国家サイバー統括室などが2026年5月18日に出した注意喚起は、侵害を前提に組織内の不審な活動を能動的に検知・分析する取組と並んで、高性能なAIを活用したサイバーセキュリティ対策の強化を勧め、脅威検知、インシデント対応、脆弱性発見を例に挙げています。セキュリティ製品を足すほど、届くアラートは増え、確認しきれないものが積み上がります。AIによる仕分けは、その負担を減らす有力な手段です。同時に、何を任せ、何を人が決めるかを先に分けておくことが前提になります。
この記事の要点
- 製品を足すほどアラートは増える。確認されないアラートは、ないのと同じになりやすい
- 国家サイバー統括室の注意喚起は、脅威検知やインシデント対応への高性能AIの活用を勧め、情報漏えいなどのリスク管理にも留意を求めている
- AIには集約・要約・並べ替えを任せ、遮断・原因の確定・復旧の宣言は人が持つと分けておく
アラート疲れが起きる仕組み
EDR、UTM、WAF、クラウドの監視、SaaSのログ。製品ごとにアラートが届き、それぞれの画面で確認が必要になります。似たアラートが何度も届き、ほとんどが業務上の正常な動きだと分かると、担当者は次第に確認しなくなります。本当に危ないアラートが届いたときに、それが埋もれてしまうことが、アラート疲れの怖さです。
同じ注意喚起は、高性能なAIの悪用によって、多数の脆弱性への同時並行の対応が求められる可能性が高まるとも書いています。届く情報が増えるほど、人の目だけで仕分けるのは難しくなります。
AIに任せやすいこと
- 集める: 複数の製品のアラートを、端末や時間でまとめ、同じ出来事を1つにする
- 要約する: 何が起きたかを、普段の動きとの違いとあわせて短く説明する
- 並べ替える: 資産の重要度や過去の事例をもとに、先に見るべきものを上に置く
- 候補を挙げる: 考えられる原因と、次に確かめることを示す
注意喚起は、高性能なAIの活用にあたっては、情報漏えいや意図しない学習への流用などのリスクを適切に管理する必要があるとも添えています。アラートには社内の端末名や通信先が含まれるため、どのAIに、どの契約のもとで渡すかを決めておくことが前提になります。
人が持つこと
英国NCSCは、エージェント型AIについて、システムが行動を取っても、導入の判断、与えたアクセス、安全策、結果の責任は人が負うと書いています。誰がシステムを持ち、誰がアクセスを承認し、誰が振る舞いを監視し、誰が止められるのかを明確にすべきだ、ともしています。
AIが担う
集約、要約、並べ替え、原因の候補と次に確かめることの提示。
人が決める
通信の遮断、端末の隔離、原因の確定、復旧の宣言、社外への報告。
先に決めておく
AIの提案を誰が見て、どの条件なら即座に人が動くか。
仕分けをAIに任せても、最後に決める人がいなければ、アラートは積み上がるだけです。AIの導入は、人が判断する件数を減らし、判断の質を上げるためのものとして位置づけると、役割が明確になります。
AIが整理し、人が決める設計
当社のForceJOSYSは、中小規模の事業所向けのIT運用支援サービスです。AIは観測データの整理、要約、原因候補の提示を担当し、機器の操作、原因の確定、復旧の宣言は人（利用者または当社のエンジニア）が行う設計にしています。異常時には原因候補と次の行動を証拠付きの調査票にまとめ、当社のエンジニアも同じ調査票を見て対応を引き継げます。透過型UTMのForceUTMも、現在の版は自動では通信を止めず、管理者が承認した遮断の提案だけを止めます。
参考資料
AIが整理し、人が決める運用を相談する
拠点や中小規模のグループ会社で、AIに観測データの整理を任せ、人が判断する運用の作り方をご相談ください。
製品の詳細はForceJOSYSのサイト、ForceUTMのサイトでご覧いただけます。
まずは相談する相談無料・