AI法は国会でどう議論されたか

理念としては、ＡＩ法においてイノベーション促進とリスク対応の両立を理念として掲げておりますが、こうした観点から、経産省としては、ＡＩ事業者ガイドラインの公表を始めとした事業者の適切なＡＩガバナンスの構築を後押しする取組を行っています。

昨日閣議決定いたしました第二期となるＡＩ基本計画においては、御指摘の偽情報を含むＡＩを悪用したディープフェイクにつきまして、引き続きＡＩ法に基づく調査などを機動的に運用するとともに、ＡＩ生成コンテンツを判別する技術や、電子透かしなどのＡＩの制御機能などの開発を支援をするということにしてございます。 さらに、極めて高性能なＡＩの登場などにより、今後更にＡＩのリスクが複雑化、深刻化するおそれがございますので、今後の状況を踏まえまして、必要があれば、ＡＩ法も含めた制度等についても見直しの検討を進めてまいりたいと考えております。

これに対応するため、昨年五月に成立したＡＩ法におきましては、イノベーションの促進とリスク対応の両立を理念として掲げまして、イノベーションを阻害する過剰な規制は避けつつ、リスク対応のための措置を講じるとされたところでございます。 具体的には、そのＡＩ法におきましては、ＡＩの開発、利用の適正性の確保を図るため、ＡＩを開発、提供する者が配慮すべき事項等を示した指針を整備をし、事業者等に対応を促すとともに、国が、ＡＩの開発や利用の動向を調査をし、国民の権利利益の侵害が生じたなどの悪質なケースについては指導、助言、情報提供するなどの措置を講じるとされておりまして、これに基づきまして適切に今対応を図っているところでございます。

ＥＵではＡＩ規制法案が進められているというふうに聞くんですけれども、日本としての、推進法じゃなくて規制をかけるような法案作成を進めるべきと考えるんですが、少し遅いかなと。

欧州のデジタルサービス法、ＡＩ規制、偽情報に関する行動規範などの知見も踏まえ、情報の内容の当否への国家の介入をなるべく避け、事業者の自主的な取組に委ねることを基本としつつ、政治広告の透明性確保、偽情報、誤情報の拡散リスクへの対応、生成ＡＩコンテンツである旨の表示などについて、必要な責務を果たすことも検討すべきです。

プロジェクト・ヤタ・シールド及びＡＩ法のガバナンス規定がコーポレートガバナンス・コードやソフトローと連動させることのお考えがあるのか、そういったこと、今後、コーポレートガバナンス・コードじゃなくても、お考えがあるのか、内閣府にお伺いしたいと思います。

今回のこのＡＩ法案は、国民生活の向上及び国民経済の健全な発展に寄与することを目的としているものであります。

この評価ツールにつきましては、各国の政府とか企業で開発が進められておりまして、ＡＩセーフティ・インスティテュート、この前、先般の参考人質疑で来られた村上所長のＡＩセーフティ・インスティテュートでもその一翼を担っているというところでございます。

そのためにも、ＡＩに対する国民の不安を払拭し、ＡＩの研究開発と活用を強力に進めていく必要がございまして、今般、イノベーション促進とリスク対応を両立するＡＩ法案の提出を行っているところであります。

一方で、今回の法案は、略称ＡＩ推進法というふうに言われているので、私もこの後、賛成討論の予定なんですけど、賛成はするんですけれども、でも本当に、赤澤大臣の言葉を借りれば、ゆっくり急ぐとおっしゃいましたっけ、このトランプ関税のことについても。

それで、実は先週、アメリカで、その下院で、ワン・ビッグ・ビューティフル・ビル、大きく美しい法案という予算調整法案が可決されて、この中には、州や自治体のＡＩ規制を十年間、十年間ですよ、禁止する条項というのが設けられる。

国によって違うといっても、基本的にこれＡＩとかはもうグローバルな、一緒なので、ちょっと国によっての違い方というのが、どういうふうに関わってくるのかが分からないと思いますし、それからもう一つ、今回は総じて、今言われたのは、今回のＡＩ法とそれから既存法の何か全体でリスクの対応をしていくと言っていますけど、じゃ、そもそもＡＩに対するリスク評価というものを今回の法を作るに当たってきちんとできているのかどうかというのが疑問になっちゃう。

その上で、この今回のＡＩ法案は規制法ではございませんので罰則もございませんけれども、先ほどから御答弁申し上げていますように、日本でＡＩを開発するときには既存の法律も当然適用されますので、やり方を間違えますとその既存の法律の罰則が適用されるということも当然あるわけであります。

一つは、まず、ＡＩ開発者がもう開発段階でＡＩの安全性をちゃんと予測をして、予想して、安全性を高めるような工夫を講じるということでございます。

ですけど、今回はＡＩに特化している法案なので、何かこれはすごく漠としている感じで、これ、ＥＵのＡＩ法に比べるとやっぱりこれ定義、すごくシンプルになっちゃっているんですよ。

休憩前に引き続き、人工知能関連技術の研究開発及び活用の推進に関する法律案を議題とし、質疑を行います。

ＥＵのＡＩ法は、ＥＵ域外に拠点を置く提供者がハイリスクＡＩシステムをＥＵ市場に投入する際、ＥＵ地域に代理人を設置することを義務付けております。 また、本年一月に制定された韓国のＡＩ法でも、海外から韓国に向けてＡＩサービスを提供する一定の事業者は韓国国内に代理人を設立しなければならないという要件が盛り込まれていると承知しております。

そして、規制サンドボックスに係る検討についてお伺いいたしますけれども、ＥＵのＡＩ法は、先ほど述べた規制に加えて、隔離された限定的な環境の下で革新的なＡＩシステムの開発やテストなどを可能にするＡＩ規制サンドボックスについても規定していると、イノベーションの促進の観点も踏まえた内容となっていると認識しております。

一方で、ＥＵのＡＩ法は、ＡＩによるリスクを四段階に分けて、最もリスクの高いＡＩの市場への投入を禁じ、罰則を設けるなど、ＡＩに対する包括的かつ厳格な規制を設けているということ。

今次のＡＩ推進法の基本理念、第三条五項では、我が国が人工知能関連技術の研究開発及び活用に関する国際協力において主導的な役割を果たすよう努めるとしています。

ＡＩ法案というものですね、それこそ委員会も終盤迎えたわけでございますけれども、これまで指摘された点も踏まえて、本当に素朴な疑問をさせていただきたいというふうに思いますので、率直にお答えをいただきたいと存じます。

人工知能関連技術の研究開発及び活用の推進に関する法律案を議題とし、質疑を行います。

人工知能関連技術の研究開発及び活用の推進に関する法律案の審査のため、本日の委員会に、理事会協議のとおり、内閣府科学技術・イノベーション推進事務局統括官渡邊昇治君外十四名を政府参考人として出席を求め、その説明を聴取することに御異議ございませんか。

まず、国際協力において主導的なという意味でいうと、やはり日本の戦略は、アメリカのようにデファクト取れるわけでなく、ＥＵみたいにＥＵ・ＡＩ法でブリュッセル効果で世界を支配する、ルールを作るというのもできないので、積極的に国際協力を通じて標準化を進めようとしてきたというのが事実だと思います。

私がＡＩの安全性に関しての日本を代表して国際の場に出ると、大体、日本から出る方、同じ方なんですね。

人間中心というのは、私も責任のある方針の一つではあるわけですが、ヒューマン・イン・ザ・ループということで、人間が必ず確認しなさいというようなガバナンス手続が要請されるケースがＥＵ・ＡＩ法などではございます。