奥村政佳議員の質問と、政府の答弁

要するに、自分で判断をして自分で行動を起こしていくようなＡＩ、これが国内で、いわゆる認知戦、情報戦ですね、ＡＩが自ら判断して日本国内で人々の認知や世論に影響を与えるような情報戦を仕掛けた場合に、現在の審議中のこの法案で対応が可能かどうかというのも伺っていきたいと思います。先ほど渡邊統括官もおっしゃっていましたけれども、火事のときにふだん訓練していないことはできないというふうにおっしゃっておりました。先ほどの質問では海外の事例でしたが、国内で悪意のあるＡＩが暴走してデマや扇動を行うような最悪のシナリオを想定をしています。もはや、もう人間が関与しなくても、ひょっとするとＡＩ同士がそういう認知戦を行う可能性すら指摘をされています。

奥村委員から、自律型ＡＩが国内で認知戦を行った場合のケースについて御質問がございました。生成ＡＩによりまして、短時間で大量の情報の出力、これが可能となりますが、そうした情報の中には、当然偽情報あるいは誤情報も含まれ得るというふうに考えております。本年二月に策定いたしましたＡＩ戦略会議・ＡＩ制度研究会の中間とりまとめにおきましても、この偽情報、誤情報の作成にＡＩが使用され、拡散されることによる情報操作等のリスクがそこにしっかりと指摘されているところであります。こうしたリスクに対応していくためには、まずはその実態、これを把握することが必要不可欠でありまして、本法案第十六条に規定いたします情報収集や調査等を適時適切に実施するとともに、新たに設置されるＡＩ戦略本部の下で関係府省庁が緊密に連携することで対応していくことができるものと考えております。また、ＡＩをめぐるリスクへの対応につきましては、技…