株式会社エクスブリッジ
KurageKurage 政策の流れトラッカー会議・予算・採択・評価を、公表資料でつなぐ
AI-SNS顧問

内閣府　科学技術・イノベーション推進事務局 参事官（重要課題担当）

ＡＩの安全性確保に資する取組の推進

—2025年度 当初予算
0円2024年度 歳出予算現額
0円2024年度 執行額
このページを共有Xで共有
✓ 会議✓ 予算採択支出先評価✓ 国会

事業名に「AI」を含むため、AI関連事業として拾っています。

事業の概要

目的
〇生成AIの登場により、AIのリスクは多様化・増大しており、AIを安全・安心に利用できるように、AIの安全性向上のための研究開発、検証・実証を一層推進することが極めて重要である。
〇生成AIのリスクは、製品・サービスの安全性に関するリスク、人権侵害に関するリスク、犯罪増加のリスクなど多岐に亘る。これらのリスク低減のため、分野横断的な対応と、ロボット、インフラ、防災、ヘルスケア等の分野ごとの対応が想定され、安全なAIを開発するための手順や、AIの安全性を検証する手法の開発・検証等が不可欠である。​
〇また、AIの安全性確保は国際的な課題でもあり、諸外国のAIの安全性向上に取り組む機関と連携しつつ推進することが重要であり、我が国では今年２月に情報処理推進機構（IPA）に設置したAIセーフティ・インスティテュート（AISI）が中心となり対応することとしており、AISIの機能・体制の強化も重要である。​
〇更に、大規模基盤モデルだけではなく、小型・軽量でニーズに合ったAIモデルが必要とされており、安全で利便性の良いAIを開発するスタートアップ等を支援することも重要である。​
概要
生成AIの登場により、AIのリスクは多様化・増大しており、AIを安全・安心に利用できるように、AIの安全性向上のための研究開発、検証・実証を一層推進することが極めて重要であり、安全なAIを開発するための手順や、AIの安全性を検証する手法の開発・検証等を行う。
１）安全性評価に係る調査、評価手法の検討
AIの安全性に係る国内外の調査を実施し、安全性の評価手法を検討する。国内については、研究開発動向を把握するとともに、日本の強みとなる安全性の評価手法、基準等を確立するため、安全性に関する検証・実証のための調査等を実施する。
２）英米のAI Safety Institute等との国際連携の強化
海外機関での検討が猛烈に進んでおり、日本が遅れを取らないために、上記１）の取組を強化することにより、日本の強みをアピールすることで海外機関との調整・交渉を円滑に進めていく。
３）AISIの体制強化
上記の活動を本格化するにあたり、必要な人員を補強する。
期間
2025年度〜終了予定なし

出典：行政事業レビュー見える化サイト（RSシステム） 1-2_RS_2024_基本情報_事業概要等　予算事業ID 20509（取得 2026-11-05）

1. 政策形成：AIに関する会議での言及

出典：内閣府 AI関係の会議の資料・議事要旨・提言（PDF本文の機械照合）（取得 2026-11-05）

行政事業レビューに書かれた「関係する計画・通知等」（3件）

出典：行政事業レビュー見える化サイト（RSシステム） 1-3RS_2024_基本情報_事業概要等　予算事業ID 20509（取得 2026-11-05）

2. 予算と執行

2024年度

当初予算
0円
歳出予算現額
0円
執行額
0円

出典：行政事業レビュー見える化サイト（RSシステム） 2-1RS_2024_基本情報_事業概要等　予算事業ID 20509（取得 2026-11-05）

3. 採択：公募と採択先

この事業につながる公募の採択結果は、集めた公表資料（NEDO・JST・NICTの14公募）の中では確かめられていません。支出先は次の節のとおりです。

4. 実施：支出先

支出先の記載は未取得です。

出典：行政事業レビュー見える化サイト（RSシステム） 5-1RS_2024_基本情報_事業概要等　予算事業ID 20509（取得 2026-11-05）

5. 成果評価

出典：行政事業レビュー見える化サイト（RSシステム） 4-1RS_2024_基本情報_事業概要等　予算事業ID 20509（取得 2026-11-05）

目標と実績（4件）
  • アウトプット AIの安全性に関する評価手法の調査・検討
    指標：AIの安全性の評価手法の調査
    目標値：記載なし
    実績値：記載なし
  • アウトプット ベストプラクティスや関連事例集の収集・公表
    指標：情報収集件数
    目標値：記載なし
    実績値：記載なし
  • アウトプット AISI関連の国際連携・関係各国との意見交換
    指標：意見交換等の実施回数
    目標値：記載なし
    実績値：記載なし
  • アウトカム 国内外の研究機関、民間企業との協力関係強化
    指標：協力機関数（件）
    目標値：2024年度 1
    実績値：記載なし

出典：行政事業レビュー見える化サイト（RSシステム） 3-1RS_2024_基本情報_事業概要等　予算事業ID 20509（取得 2026-11-05）

6. 国会の質疑

国会会議録で「ＡＩセーフティ・インスティテュート」を含む発言（40件）のうち新しい順。

2026年6月2日参議院 内閣委員会柴田巧
…すおそれが懸念をされています。　衆議院の質疑の中で、大臣は、このクロード・ミュトスを始めとするＡＩの急速な進展への対応については、ＡＩＳＩ、ＡＩセーフティ・インスティテュートですが、とも協働しつつ、高度なＡＩの技術動向や国際情勢等について情報収集や分析を行い、必要に応じて対策を講…
この発言を会議録で読む
2026年5月19日参議院 総務委員会安野貴博
…目の質問に参ります。フロンティアＡＩモデルそのものを評価する能力についてお伺いいたします。　今般のような事態に早期に対応するためには、日本のＡＩセーフティ・インスティテュート、いわゆるＡＩＳＩが自ら個別のモデルを評価する技術的能力を備えること、これが極めて重要だと考えております。…
この発言を会議録で読む
2026年5月14日衆議院 地域活性化・こども政策・デジタル社会形成に関する特別委員会丹羽秀樹
…て、東京大学名誉教授、一般社団法人次世代基盤政策研究所代表理事森田朗君、弁護士法人英知法律事務所弁護士森亮二君、独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長村上明子君及び日本労働組合総連合会総合政策推進局長小原成朗君、以上四名の方々に御出席をいただいておりま…
この発言を会議録で読む
2026年5月14日衆議院 地域活性化・こども政策・デジタル社会形成に関する特別委員会村上明子独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長
○村上参考人　皆様、本日は、発言の機会をいただき、ありがとうございます。ＡＩセーフティ・インスティテュートで所長をしております村上でございます。また、私は、ＳＯＭＰＯホールディングス並びに損害保険ジャパン株式会社…
この発言を会議録で読む
2026年5月14日衆議院 地域活性化・こども政策・デジタル社会形成に関する特別委員会村上明子独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長
…うのを日本が持つということが非常に重要ではないかというふうに思っております。　私、ちょっと少し宣伝になりますけれども、私が所長をしておりますＡＩセーフティ・インスティテュートでは、先ほど申し上げたようなガイドラインの方を、例えば評価、どのような評価の観点を持てばいいのかという評価…
この発言を会議録で読む
2026年5月14日衆議院 地域活性化・こども政策・デジタル社会形成に関する特別委員会村上明子独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長
…で浸透していくということが、データの利活用を安全に進めるということの必須条件ではないかというふうに思っております。　そういった点でも、私どもＡＩセーフティ・インスティテュートでは、データガバナンスに対するデータ品質のガイドラインというもの、あるいはガイドブックというものを出させて…
この発言を会議録で読む
2026年4月24日衆議院 内閣委員会平将明
…、金融庁が音頭を取ってやる必要があるんだろうと思います。その上で、金融庁だけではできませんので、いわゆる国家サイバー統括室、ＮＣＯと、あと、ＡＩセーフティ・インスティテュートとしっかり連携をしながら、日本に合った、日本版のプロジェクト・グラスウィングを組成をし、とにかく早めに、国…
この発言を会議録で読む
2026年4月24日衆議院 内閣委員会恒藤晃内閣府科学技術・イノベーション推進事務局審議官
○恒藤政府参考人　お答え申し上げます。　ＡＩセーフティ・インスティテュート、ＡＩＳＩと呼んでございますが、におきましても、この件への対応の重要性は認識をしておりまして、情報収集等を…
この発言を会議録で読む
2026年4月24日衆議院 内閣委員会平将明
○平委員　このＡＩＳＩも、チャットＧＰＴが出てきてから、世界でＡＩサミットがパリとかロンドンで開かれる中で、我々はＡＩセーフティ・インスティテュートというのをつくりましたが、英国は、多分三か月ぐらい早かったと思います、ＡＩセーフティーインスティテュートを…
この発言を会議録で読む
2026年4月24日衆議院 内閣委員会高山聡史
…国益を守るためには、これができるようになっていかなくてはならないと思います。　そこで、このお時間はまず小野田大臣に、人工知能基本計画に基づくＡＩセーフティ・インスティテュート、以下ＡＩＳＩの機能強化について伺います。　御案内のとおり、昨年十二月の人工知能基本計画の閣議決定を受けま…
この発言を会議録で読む
2026年4月24日衆議院 内閣委員会小野田紀美内閣府特命担当大臣（クールジャパン戦略・知的財産戦略・科学技術政策・宇宙政策・人工知能戦略・経済安全保障）
○小野田国務大臣　ＡＩの安全性、セキュリティーの確保はＡＩの利活用を促進する上で極めて重要でございまして、ＡＩセーフティ・インスティテュート、ＡＩＳＩの機能強化は喫緊の課題です。　委員の御指摘のとおり、特に、ＡＩＳＩが個別の先進ＡＩモデルを自ら評…
この発言を会議録で読む
2026年4月16日衆議院 地域活性化・こども政策・デジタル社会形成に関する特別委員会恒藤晃内閣府科学技術・イノベーション推進事務局審議官
…リを開発する、あるいは提供する事業者などが、リスク管理をするための適切な措置を自主的に講じるよう促してございます。また、それを支援するため、ＡＩセーフティ・インスティテュートにおきまして、生成ＡＩの適正性を評価するツールの開発も進めているところでございます。　また、ＡＩを活用する…
この発言を会議録で読む

出典：国立国会図書館 国会会議録検索システム（取得 2026-11-05）

AI法とAIの安全性
会議録の発言 302件
AIエージェントの安全と行政での利用
会議録の発言 50件
AIデータセンターと電力（ワット・ビット連携）
会議録の発言 497件
AIの安全性とバイオセキュリティ（核酸合成のスクリーニング）
会議録の発言 35件
AIと子どもの安全（対話型AI・生成AIと未成年）
会議録の発言 151件
AIと雇用・税・社会保険（AI課税）
会議録の発言 191件

Kurage 政策の流れトラッカー｜AI政策へ戻る

出典と作り方

  • 予算・執行・支出先・目標と実績・点検：出典 行政事業レビュー見える化サイト（CSVダウンロード 2024年度・2025年度）のデータを加工して作成。公共データ利用規約（第1.0版）（PDL1.0）に準拠。取得 2026-11-05。
  • 会議の名簿・開催・資料・提言：内閣府 科学技術・イノベーション推進事務局の AI関係のページ と e-Gov法令検索。取得 2026-11-05。
  • 採択・審査・評価：NEDO・経済産業省・JST・NICTの公表資料から、法人名・テーマ名・日付・規程の文言を出所を明示して引用。取得 2026-11-05。
  • 国会の発言：国立国会図書館 国会会議録検索システム（検索用API）。抜粋は会議録の文をそのまま切り出したものです。
  • 会議と事業のつながりは、会議の資料・議事要旨・提言のPDFの本文に、行政事業レビューの事業名（括弧の前まで・10字以上）か、設定した関連語（GENIACなど）が出るかで機械的に判定しています。採択と事業のつながりは、公募名や評価報告書の「METI予算要求名称」の記載によります。
  • 要約・論評・評価はしていません。誤りに気づいたら お問い合わせ からお知らせください。