寺田稔議員の質問と、政府の答弁

先生、今の陳述にも、また先生の著書の生成ＡＩと認知戦の中でも、生成ＡＩの問題について深く触れておられます。生成ＡＩが、大規模化、低コスト化、巧妙化、迅速化の四つの点について大変大きな影響を及ぼしているんだということで、そのインパクトは、情報の真贋、真偽の境界を非常に曖昧にして、その判別を大変困難にしています。そのことは、偽・誤情報を本物だと信じてしまうという現象に加えて、先生も触れられたとおり、本来本物なのに、実はそれが偽物だと誤認をさせる、いわゆるうそつきの分け前、ライアーズディビデンドを引き起こすというふうに先生も著書では指摘をされております。こうした、例えば戦争にまつわるディープフェイクの拡散や、あるいは、政府の意思決定や国民の意識に多大な影響を与えるＡＩです。

生成ＡＩのリスクとしては、先ほど説明の中でも触れましたけれども、従来、偽情報、誤情報というのは、労働集約型で、ローテーションを組んで人間が発信をするということが行われていましたけれども、それが生成ＡＩの利用によって、全体的に自動化をする、しかも非常に人間らしい形での文面、あるいは画像、自然な動画、こういったものになってくる。これに対しては、人間の力でそれを判別する、見破るというのはなかなか限界もございますので、技術的な進展、開発の促進、そういったものを検知する、そこにもＡＩを使っていって検知を進めていくというようなことも重要になってくるのではないかと考えています。先ほど少し触れましたけれども、国内では、新エネルギー・産業技術総合開発機構のプログラムで、昨年から二〇二七年までの予定で偽情報の検知・評価・システム化に関する研究開発も行われており、要素技術についても総務省のファンディングで開発…