AI法は国会でどう議論されたか

理念としては、ＡＩ法においてイノベーション促進とリスク対応の両立を理念として掲げておりますが、こうした観点から、経産省としては、ＡＩ事業者ガイドラインの公表を始めとした事業者の適切なＡＩガバナンスの構築を後押しする取組を行っています。

昨日閣議決定いたしました第二期となるＡＩ基本計画においては、御指摘の偽情報を含むＡＩを悪用したディープフェイクにつきまして、引き続きＡＩ法に基づく調査などを機動的に運用するとともに、ＡＩ生成コンテンツを判別する技術や、電子透かしなどのＡＩの制御機能などの開発を支援をするということにしてございます。 さらに、極めて高性能なＡＩの登場などにより、今後更にＡＩのリスクが複雑化、深刻化するおそれがございますので、今後の状況を踏まえまして、必要があれば、ＡＩ法も含めた制度等についても見直しの検討を進めてまいりたいと考えております。

これに対応するため、昨年五月に成立したＡＩ法におきましては、イノベーションの促進とリスク対応の両立を理念として掲げまして、イノベーションを阻害する過剰な規制は避けつつ、リスク対応のための措置を講じるとされたところでございます。 具体的には、そのＡＩ法におきましては、ＡＩの開発、利用の適正性の確保を図るため、ＡＩを開発、提供する者が配慮すべき事項等を示した指針を整備をし、事業者等に対応を促すとともに、国が、ＡＩの開発や利用の動向を調査をし、国民の権利利益の侵害が生じたなどの悪質なケースについては指導、助言、情報提供するなどの措置を講じるとされておりまして、これに基づきまして適切に今対応を図っているところでございます。

ＥＵではＡＩ規制法案が進められているというふうに聞くんですけれども、日本としての、推進法じゃなくて規制をかけるような法案作成を進めるべきと考えるんですが、少し遅いかなと。

欧州のデジタルサービス法、ＡＩ規制、偽情報に関する行動規範などの知見も踏まえ、情報の内容の当否への国家の介入をなるべく避け、事業者の自主的な取組に委ねることを基本としつつ、政治広告の透明性確保、偽情報、誤情報の拡散リスクへの対応、生成ＡＩコンテンツである旨の表示などについて、必要な責務を果たすことも検討すべきです。

プロジェクト・ヤタ・シールド及びＡＩ法のガバナンス規定がコーポレートガバナンス・コードやソフトローと連動させることのお考えがあるのか、そういったこと、今後、コーポレートガバナンス・コードじゃなくても、お考えがあるのか、内閣府にお伺いしたいと思います。

ＥＵではＡＩ規制法案が進められているというふうに聞くんですけれども、日本としての、推進法じゃなくて規制をかけるような法案作成を進めるべきと考えるんですが、少し遅いかなと。

欧州のデジタルサービス法、ＡＩ規制、偽情報に関する行動規範などの知見も踏まえ、情報の内容の当否への国家の介入をなるべく避け、事業者の自主的な取組に委ねることを基本としつつ、政治広告の透明性確保、偽情報、誤情報の拡散リスクへの対応、生成ＡＩコンテンツである旨の表示などについて、必要な責務を果たすことも検討すべきです。

プロジェクト・ヤタ・シールド及びＡＩ法のガバナンス規定がコーポレートガバナンス・コードやソフトローと連動させることのお考えがあるのか、そういったこと、今後、コーポレートガバナンス・コードじゃなくても、お考えがあるのか、内閣府にお伺いしたいと思います。

新第百四十二条の五では、人工知能関連技術の研究開発及び活用の推進に関する法律、ＡＩ法の第二条に規定する人工知能関連技術の定義を引用しており、人工的な方法による人間の認知、推論及び判断に係る知的な能力を代替する機能を実現するために必要な技術並びに入力された情報を当該技術を利用して処理し、その結果を出力する機能を実現するための情報処理システムに関する技術とされております。 ＡＩ法では、機械学習、深層学習、自然言語処理等に係る技術等が含まれるものでございますが、委員御指摘のように、今後のＡＩの能力高度化にも対応できるよう、対象を幅広く据えた定義としたものでございます。

令和七年の十二月、ＡＩ法に基づく初の人工知能基本計画が閣議決定されまして、政府全体でＡＩ活用を進める方針が示されました。

昨年九月にＡＩ法が全面施行されました。

衆議院の質疑の中で、大臣は、このクロード・ミュトスを始めとするＡＩの急速な進展への対応については、ＡＩＳＩ、ＡＩセーフティ・インスティテュートですが、とも協働しつつ、高度なＡＩの技術動向や国際情勢等について情報収集や分析を行い、必要に応じて対策を講じるなど、関係省庁と連携して適切に対応し、引き続き、基幹インフラ制度を通じて、基幹インフラ役務の安定的な提供の確保に努めていく旨答弁をされていました。 昨年この委員会でＡＩ法を審議した際に、このＡＩＳＩの村上所長が参考人で来られて、その際にも、このＡＩの安全性に対する情報の提供にしっかり貢献していくということと、安全とイノベーションのバランスを取った施策を進めていくということなどを述べておられたわけですけれども。

そして、これはＡＩ推進法の不備を改めるだけでなくといって、最後の方に、個人情報の取得の制限を大幅に緩和することになる今の保護法改正案、これを国会に提出してやっているけれども本当に大丈夫かという内容でございます。

今般のような事態に早期に対応するためには、日本のＡＩセーフティ・インスティテュート、いわゆるＡＩＳＩが自ら個別のモデルを評価する技術的能力を備えること、これが極めて重要だと考えております。

このデータは自動運転ＡＩの安全性向上に不可欠でありますが、同時に、国民のプライバシーに関わるものでもございます。

昨年成立したＡＩ法の衆参の附帯決議では、このディープフェイクポルノ、とりわけ児童の画像等を使用したものへの対策を求めています。

今、この法改正の議論が進む中でも、やはりＥＵ並みの厳しいＡＩ規制が必要だという意見もあれば、その逆もしかりというところで、皆様御自身がお考えになるＡＩ規制の在り方、我が国においてＡＩ規制というのはどのような形であるべきかというところを、皆さんそれぞれのお考えをまた伺いたいと思います。

そこで、このお時間はまず小野田大臣に、人工知能基本計画に基づくＡＩセーフティ・インスティテュート、以下ＡＩＳＩの機能強化について伺います。 これに対して、我が国のＡＩＳＩが公開しているアウトプットに目を向けますと、例えば、ＡＩセーフティ評価観点ガイド、ＡＩセーフティに関するレッドチーミング手法ガイドなど、評価の枠組みであったり方法論の整備というところが先行していて、これら、これ自体は重要な基盤整備として率直に評価できるものですが、個別のモデルを対象に評価を実施して技術レポートを出すという実績については、まだこれからという状況であるように思います。

このＡＩＳＩも、チャットＧＰＴが出てきてから、世界でＡＩサミットがパリとかロンドンで開かれる中で、我々はＡＩセーフティ・インスティテュートというのをつくりましたが、英国は、多分三か月ぐらい早かったと思います、ＡＩセーフティーインスティテュートをつくったんですが、これはＡＩの安全性の評価のみならず安全保障の問題だということになって、実は、英国は、ＡＩセーフティーインスティテュートからＡＩセキュリティーインスティテュートに名前を変えているん…

その上で、金融庁だけではできませんので、いわゆる国家サイバー統括室、ＮＣＯと、あと、ＡＩセーフティ・インスティテュートとしっかり連携をしながら、日本に合った、日本版のプロジェクト・グラスウィングを組成をし、とにかく早めに、国民に対して不安の解消、また、金融機関に対する、いわゆる脆弱性の診断とパッチを当てる作業、さらには、日本の金融機関はすごいレイヤー構造になっているので、メガだけ押さえればいいという話じゃないので、そこに対する配慮も必要… ＡＩセーフティ・インスティテュートというのをつくったんですよね。

昨年成立した人工知能関連技術の研究開発及び活用の推進に関する法律、ＡＩ推進法は、ＡＩの利活用推進を目的とした基本法的性格のものであり、事業者への罰則規定を持ちません。 ＡＩ法に罰則がない以上、個人情報保護法上での実効的な監督が不可欠であります。

令和七年度の補正予算では、フィジカルＡＩの安全性ルール整備等が計上されているほか、取組が進められている認識を有しております。

ＡＩ規制の議論で、よく、人間の関与を確保するということが非常に大きな論点になってまいります。

続きまして、ＡＩの安全性を確保するための機関、ＡＩセーフティ・インスティテュート、今後はＡＩＳＩと呼ばせていただきますが、このＡＩＳＩについてお伺いをさせていただきます。 政府においては、安心、安全で信頼できるＡＩの活用の実現に向け、二〇二四年二月にＡＩＳＩが設立され、ＡＩの安全性やセキュリティーに関するガイドライン、評価ツールの整備が進められているところであります。

先ほど皆様おっしゃっていたとおり、「源内」ですね、二〇二五年に成立したＡＩ法で、今年度からにはなるんですけれども、約十八万人の職員の方に実際に生成ＡＩを利用環境を整えられて試験的に導入されるということで、かなり、せんだってから運用を一程度のところではされていたんですけれども、大規模な実証事業が行われるということで大変期待をしているところです。