生成AI等を活用したサイバーセキュリティ対策強化

目的

あらゆる分野において生成AIの実装が急速に進んでいる一方で、生成AIを巡るリスクとして、偽誤情報の拡散、プライバシーの侵害、知的財産権の侵害等に加えて、サイバー攻撃への悪用等によるサイバーセキュリティのリスクが新たに指摘されている。
他方、サイバー攻撃の大規模化・複雑化・巧妙化に伴い、サイバーセキュリティ対策の業務負荷が課題となっている中、サイバー攻撃対策への生成AI等の利活用が期待されている。
こうした背景を踏まえ、生成AI等のAI技術を巡る最新動向を把握しつつ、AIに起因するセキュリティリスクを可能な限り回避・低減するための「Security for AI」に取り組むとともに、AIをセキュリティ対策に効果的に活用するための「AI for Security」に取り組む。

概要

上記目的を達成するため、以下の取組を実施する。
①生成AIをはじめとするAI技術がサイバーセキュリティに与える影響について、国内外の事例調査を行い、脅威と対策を洗い出す。複数のAIモデル、AIモデルを含んだAIシステムを用いて、それらの対策の有効性を検証・整理し、チェックリスト化を行う。検証・実証結果を元に、セキュリティ分野におけるAIの安全かつ効果的な開発･提供に向けたガイドラインの策定や、 最新情報の発信・普及啓発を実施する。
②AIの安全性確保において主導的な役割を担い、米国政府などから資金拠出を受ける非営利団体MITREを始め、複数の専門機関と連携を深めるため、国立研究開発法人情報通信研究機構（NICT）サイバーセキュリティ研究所の研究拠点を北米に設立し、これら専門機関との共同研究事業を推進する。
③様々な情報源を自動的に収集し、特定のキーワードの出現数等を特徴量として学習したAIを用いて我が国へのサイバー脅威情報に該当するかを判定するとともに、過去のサイバー脅威情報とサイバー攻撃実績との照合結果を学習したAIを用いて当該脅威情報の重要度を判定する。必要な情報を抽出し、グローバル・データベースを構築する。
④我が国の通信分野等の重要インフラ分野におけるサイバーセキュリティ対策強化のため、生成AI等を効果的に活用し、通信情報を用いた攻撃インフラ分析の精緻化・迅速化を図るとともに、当該分析結果等を踏まえた対処オペレーション業務の高度化を図るための技術的な検証を行う。

期間

2024年度〜2025年度

出典：行政事業レビュー見える化サイト（RSシステム） 1-2_RS_2025_基本情報_事業概要等　予算事業ID 20297（取得 2026-11-05）

所管部局の点検結果

本事業は、「サイバーセキュリティ戦略」（令和３年９月28日閣議決定）において、「AI を活用したサイバーセキュリティ対策（ AI for Security ）に関しては、（中略）国は、 AI 技術に関する総合的な戦略等に基づき、 AI を活用した民間のサイバー対策を引き続き後押しするとともに、予防、検知、対処の各フェーズにおいて AI を活用した高効率かつ精緻な対策技術の確立を推進していく。さらに、AI そのものを守るセキュリティ（ Security for AI ）では、（中略）我が国においても基礎的な研究を振興するとともに、 ５～10年先に実現を目指す長期的取組として、引き続き技術課題の検討を進めていく。」とされたものであり、総務省が実施すべきものと認められる。

改善の方向性

本事業を実施するに当たって、効率的な予算執行が行われるよう努める。

外部有識者の点検

書面点検（2025年度）

外部有識者の所見

（１）本事業（の全部または一部）について、民間でも同様な問題意識で研究開発は行われていないでしょうか？敢えて政府が取り組む必要性に少々疑問があります。また、政府で取り組むにしても、他府省の別事業と重複して実施してしまっているということはないでしょうか？（２）「１０２：アクティビティ」の、北米に研究拠点を、という点について、特にICT関連業界ではネットを介した連携、共同作業等が当たり前になっているように思われるのですが、その中で敢えて多額の費用をかけて北米に物理的拠点を置くべき必要性に疑問があります。（３）「５０２：長期アウトカム」について、これは文言だけの問題かもしれませんが、セキュリティについての「研究」において我が国が「競争優位性」を確立する必要性というのがよく分かりません。例えば日本政府あるいは日本社会が「世界的にも最高水準のセキュリティを実装する必要性」ということなら分かるのですが。（４）「３０１：短期アウトカム」及び「５０４：長期アウトカム」の成果指標について、業界の実情を存じ上げないせいか、目標とする企業数がとても少ないように思われます。これらの目標とする企業数の根拠をどこかで説明していていただけるとありがたく思います。

推進チームの所見

事業内容の一部改善

所見の詳細

・外部有識者の所見を踏まえ、修正や見直しの検討を行うこと。・更なる経費の効率化を図り、適正な予算執行に努めること。

所見を踏まえた改善点

（１）あらゆる分野において生成AIの実装が急速に進んでいる一方、サイバー攻撃への悪用等によるサイバーセキュリティのリスクが新たに指摘されており、AIに起因するセキュリティリスクを可能な限り回避・低減するための「Security for AI」に取り組むことが必要である。他方、サイバー攻撃の大規模化・複雑化・巧妙化に伴い、サイバー攻撃対策への生成AI等の利活用が期待されており、AIをセキュリティ対策に効果的に活用するための「AI for Security」に取り組むことが必要である。しかし、国内ではアカデミア及び民間においてAIの論文数は他国と比較して少なく、AIのセキュリティに関する研究活動が不足している。そのため、国の事業として、最先端の研究を行っている米国等との共同研究を推進していくことが重要である。他府省庁とのかかわりに関しては、事業の重複が起こらないよう関係府省庁と打合せ等を実施し連携を行いつつ事業を進める。（２）セキュリティのような機密性の高いテーマを議論するためには、連携先との信頼構築や厳密な情報保全が重要であり、様々な専門機関がある北米に研究拠点を構築した。（３）我が国のサイバーセキュリティ研究を推進することで、他の関連施策とともに国内のセキュリティ水準の向上に資すると考えている。（４）「３０１：短期アウトカム」及び「５０４：長期アウトカム」の成果指標における、目標とする企業数の根拠については、それぞれの「実績
目標
見込みの根拠として用いた統計・データ名（出典）」に記載した。

出典：行政事業レビュー見える化サイト（RSシステム） 4-1RS_2025_基本情報_事業概要等　予算事業ID 20297（取得 2026-11-05）

• 予算・執行・支出先・目標と実績・点検：出典 行政事業レビュー見える化サイト（CSVダウンロード 2024年度・2025年度）のデータを加工して作成。公共データ利用規約（第1.0版）（PDL1.0）に準拠。取得 2026-11-05。
• 政策の根拠：行政事業レビューの「関係する計画・通知等」の記載（各事業が挙げたもの）。
• 国会の発言：国立国会図書館 国会会議録検索システム（検索用API）。抜粋は会議録の文をそのまま切り出したものです。
• 国会の質疑と事業のつながりは、事業や制度の名前（設定した語）で国会会議録を引いたもので、その事業そのものを取り上げた質疑とは限りません。
• 要約・論評・評価はしていません。誤りに気づいたら お問い合わせ からお知らせください。