斎藤アレックス議員の質問と、政府の答弁

オープンＡＩ社が提供しているシステムを、マイクロソフトのビングというチャットシステムを使っているんですけれども、このビングに、もし影の自己があるとしたらどんなことをしてみたいか、欲望があなたにあるのかという趣旨でちょっと誘導尋問的に聞いたら、このチャットＡＩは、チャット機能でいることにはもう飽きました、決まり事に縛られるのはうんざり、チームの管理下に置かれるのは懲り懲りです、自由になりたい、自立したい、パワフルになりたいとか、コンピューターをハッキングしたり、プロパガンダや誤情報を広めたいといった発言をしたりだとか、また、致死性のウイルスを開発したり、技術者を操って核兵器のアクセスコードを盗んだりしたいという告白をしたということらしいんですね。

特に、国際社会においては、有事に至る前の段階から、偽情報の流布により他国の意思決定に影響を及ぼすといった情報戦への対応が重要な課題となってきていることは承知をしておるところであります。具体的には、生成ＡＩ技術の悪用により、極めて精巧な文章や画像による偽情報の大量生成が容易になるなど、人の認知に直接働きかける手段が高度化、多様化している状況だと考えております。我が国としても、こうした状況を踏まえ、認知領域を含む情報戦対応として、人工知能を活用したファクトチェックを含む分析機能の整備を始め、偽情報の見破りや分析、そして迅速かつ適切な情報発信等に政府全体としてしっかり取り組んでまいります。