AI法は国会でどう議論されたか

理念としては、ＡＩ法においてイノベーション促進とリスク対応の両立を理念として掲げておりますが、こうした観点から、経産省としては、ＡＩ事業者ガイドラインの公表を始めとした事業者の適切なＡＩガバナンスの構築を後押しする取組を行っています。

昨日閣議決定いたしました第二期となるＡＩ基本計画においては、御指摘の偽情報を含むＡＩを悪用したディープフェイクにつきまして、引き続きＡＩ法に基づく調査などを機動的に運用するとともに、ＡＩ生成コンテンツを判別する技術や、電子透かしなどのＡＩの制御機能などの開発を支援をするということにしてございます。 さらに、極めて高性能なＡＩの登場などにより、今後更にＡＩのリスクが複雑化、深刻化するおそれがございますので、今後の状況を踏まえまして、必要があれば、ＡＩ法も含めた制度等についても見直しの検討を進めてまいりたいと考えております。

これに対応するため、昨年五月に成立したＡＩ法におきましては、イノベーションの促進とリスク対応の両立を理念として掲げまして、イノベーションを阻害する過剰な規制は避けつつ、リスク対応のための措置を講じるとされたところでございます。 具体的には、そのＡＩ法におきましては、ＡＩの開発、利用の適正性の確保を図るため、ＡＩを開発、提供する者が配慮すべき事項等を示した指針を整備をし、事業者等に対応を促すとともに、国が、ＡＩの開発や利用の動向を調査をし、国民の権利利益の侵害が生じたなどの悪質なケースについては指導、助言、情報提供するなどの措置を講じるとされておりまして、これに基づきまして適切に今対応を図っているところでございます。

ＥＵではＡＩ規制法案が進められているというふうに聞くんですけれども、日本としての、推進法じゃなくて規制をかけるような法案作成を進めるべきと考えるんですが、少し遅いかなと。

欧州のデジタルサービス法、ＡＩ規制、偽情報に関する行動規範などの知見も踏まえ、情報の内容の当否への国家の介入をなるべく避け、事業者の自主的な取組に委ねることを基本としつつ、政治広告の透明性確保、偽情報、誤情報の拡散リスクへの対応、生成ＡＩコンテンツである旨の表示などについて、必要な責務を果たすことも検討すべきです。

プロジェクト・ヤタ・シールド及びＡＩ法のガバナンス規定がコーポレートガバナンス・コードやソフトローと連動させることのお考えがあるのか、そういったこと、今後、コーポレートガバナンス・コードじゃなくても、お考えがあるのか、内閣府にお伺いしたいと思います。

また、ＡＩを安心して活用できるよう、ＡＩ法に基づき、透明性、公平性、安全性など、ＡＩ利用の適正性確保のための指針を年内を目途に策定してまいります。

その上で、イノベーションの促進とリスク対応の両立を理念とするＡＩ法の施行も踏まえ、ＡＩ技術の進歩と知的財産権の適切な保護の両立が達成されるよう、検討を進めてまいります。

そうした中、先月末に成立したＡＩ法では、第十三条において、国が国際的な規範の趣旨に即した指針を整備することとしております。 また、ＡＩ法に基づき立ち上げられるＡＩ戦略本部の下、関係省庁とも連携をし、既存の法令やガイドラインの遵守徹底、ＡＩ研究開発者、活用者等による自主的取組の促進、新たな技術の開発導入など、総合的に対策を進めてまいりたく存じます。

先ほど申しましたけれども、規律に対するアプローチとして、今般成立しましたＡＩ法、この法に基づきまして指針を整備し、その中で、三木委員が今御指摘されました、そういった欺瞞的な、人をだます、うそをつくような詐欺的な、欺瞞的なＡＩについても、今後、そういう事業者、開発者も含めて、不適切な出力をしないように、リスクに対応するようなこともしっかり検討されるべきというふうに考えておりますし、また、新たにＡＩ戦略本部が総理の下にできます。

三木委員におかれましては、先日、四月十一日と十六日ですが、この内閣委員会におけるＡＩ法案の御審議に続いて、本日、ＡＩのリスクへの対応に関する御関心を持っていただきましたことを感謝申し上げたいと思います。 まず、技術によるアプローチとしましては、偽情報、誤情報対策技術を始めとするＡＩの安全性に係る研究開発、実証や、それらを支える計算資源やデータの整備、共用、さらには人材育成等にも取り組んでいるところでありまして、こうした取組を引き続き推進してまいる考えです。

市村委員におかれましては、先般の内閣委員会でのＡＩ法の質問に続いて今日も御質問いただきまして、ありがとうございます。 また、ＡＩ法につきましては、本日、参議院本会議にてお認めいただきました。

いずれにしましても、ディープフェイクポルノを含むディープフェイク問題については、これは極めて重要な課題であるというふうに認識しておりますので、我が国においては、このＡＩ法案に基づき有識者からの意見聴取や関連技術の動向調査などを通じて実態を詳細に把握し、関係府省が連携して必要な対策を早急に講じていくことが重要であると認識しております。

これについて言いますと、例えば、本法案に基づき整備する指針を通じまして、ＡＩ開発者に対し、開発段階におけるレッドチーミング、すなわちセキュリティーの脆弱性をテストするというようなレッドチーミング及び評価ツールの使用や、市場への導入後のインシデントの特定と、そこで特定された問題への対応を奨励するなどによって、不適切な出力を抑制し、ＡＩの安全性を向上させてまいる考えです。

今回のこのＡＩ法案は、国民生活の向上及び国民経済の健全な発展に寄与することを目的としているものであります。

この評価ツールにつきましては、各国の政府とか企業で開発が進められておりまして、ＡＩセーフティ・インスティテュート、この前、先般の参考人質疑で来られた村上所長のＡＩセーフティ・インスティテュートでもその一翼を担っているというところでございます。

そのためにも、ＡＩに対する国民の不安を払拭し、ＡＩの研究開発と活用を強力に進めていく必要がございまして、今般、イノベーション促進とリスク対応を両立するＡＩ法案の提出を行っているところであります。

その上で、この今回のＡＩ法案は規制法ではございませんので罰則もございませんけれども、先ほどから御答弁申し上げていますように、日本でＡＩを開発するときには既存の法律も当然適用されますので、やり方を間違えますとその既存の法律の罰則が適用されるということも当然あるわけであります。

一つは、まず、ＡＩ開発者がもう開発段階でＡＩの安全性をちゃんと予測をして、予想して、安全性を高めるような工夫を講じるということでございます。

既存法令等による対応に加えまして、ＡＩ法案に基づく取組を新たに進めることで、ＡＩに関連して現時点では想定することの難しい新たな課題等についても今後迅速かつ適切に対応していくことが可能と考えております。

いずれにしましても、今般のＡＩ法案に基づきます枠組みの中で、必要となる対応をしっかりと図ってまいります。

御指摘のＥＵのＡＩ法では、確かに最上位から二段階目となるハイリスクなＡＩシステムに雇用や人事に係る事項が位置付けられていることは承知しておりますけれども、各国の制度体系はそれぞれの歴史あるいは文化によって異なるものでありますので、一概にはちょっと比較するのはどうかなというふうに思いますが、いずれにしましても、我が国としては、既存法とガイドライン等を組み合わせましてリスクに対応することを基本としつつ、本法案に基づく指針の整備や情報収集、調…

ちょっと細かくお答えしますと、確かにＡＩ法案、ＡＩ法という面で比べますと、日本のＡＩ法には罰則規定がないということがございます。 しかし、法体系ということで比較をしますと、ＥＵが言っているその四つのランクに分けて、一番厳しいものは禁止、次は基準適合義務とか、こういう考え方ですけれども、日本も当然、刑法とか個人情報保護法に抵触するものは規制が掛かっているわけですし、それから医療機器とかであればその認証というのがありまして、そういう意味では、やっぱりリスクの高いものについては何らかの規制が掛かっているというところは、ＥＵと日本は、法律は違うんですけど、ＡＩ法ではなくて…

いずれにしましても、国においては、このＡＩ政策、あるいはＡＩ法律に関するウェブサイトというのを充実していきたいというふうに考えております。

また、研究開発機関、事業者に求める取組につきましては、国といたしましては、当該指針を踏まえた自主的な対応を求めていくとともに、ＡＩセーフティ・インスティテュート、通称ＡＩＳＩといいますけれども、このＡＩＳＩが公開しているＡＩの安全性に関する各種ガイドの周知を徹底することなどを通じてリスク対応に向けた取組を求めてまいる考えであります。

また、既存法やガイドライン等による迅速かつ柔軟なリスクへの対応に加えまして、ＡＩ法案が成立した暁には、法に基づく情報収集や調査などによってＡＩの研究開発や活動の実態、課題を把握をしまして、必要に応じて、関係省庁の連携の下、対策を検討していくことができると考えている次第であります。