橋本慧悟議員と偽情報・認知戦

安野さんから御指摘がありましたプリバンキング、こういった誤情報が今後出る可能性があるよというような手法も技術としてあるわけですから、そういったものも使いながら、民主主義の根幹、そして人権をしっかり守る意識を持ってもらいたいと思います。

今朝の参考人の御答弁の中でも、やはりそういった誤情報、偽画像とかもそうですが、偽の情報が生まれる速度と、それに対して司法で処理する速度には大きな差があり過ぎるという御指摘もございました。

昨年から特に、世界各国の選挙で生成ＡＩを用いた偽情報も拡散をされたという事例が確認されています。

具体的には、ＡＩで合成された音声や動画を用いて有名人をかたった詐欺に悪用されたり、偽画像や偽動画を使った情報操作、そして世論の工作にも悪用されたりするといった事案が各国で相次いでいます。

その中で、確かに比較的信頼できる大量の情報が集まっているとは思いますが、悪意のある者が書き込んだ偽情報というのも学習データとして用いられる可能性もあると思います。