文月涼議員の質問と、政府の答弁

現在、認知戦に関しましては、主として偽・誤情報を使った即効性の攻撃と、これをどう防御するかに重点が置かれていると考えられますが、これからは遅効性の攻撃もスコープに入れるべきと考えます。政府は、遅効性攻撃として、既にＡＩ学習に対するデータポイズニング攻撃を認識されているので、それに、人間の認知機能そのものを劣化させる、あるいは破壊する攻撃を加えていただきたいと思います。一例を挙げます。攻撃を構成する一つ目の要素は、強制的にＳＮＳへの依存状態をつくるものです。とある国において、ＳＮＳのサービスの危険性に関する裁判の記録が流出し、その中には、従業員の告白として、四から七秒の動画を二百六十本、約三十五分見せることができれば依存状態にさせられるという趣旨の内容が記されておりました。二つ目の構成要素は、依存性により若年層の脳機能を劣化させてしまうという研究です。

ＡＩの適正性確保につきましては、昨年十二月に、ＡＩ法に基づく適正性確保のための指針を策定したところでございます。この指針におきましては、ＡＩを開発、提供する事業者に対しまして、不適切な出力の抑制や、ＡＩの意図しない動作などの防止のために、最新の技術と知見を駆使して、解決、改善に向け取り組むことを求めております。また、国民の皆様に対しましては、ＡＩの特性や仕組みを正しく理解をし、能動的にＡＩリテラシーを身につけるよう努めることや、ＡＩを利用する際には、得られる情報の出どころ、正確性等を理解をし、人間の判断、責任の下で意思決定を行うことを求めております。内閣府といたしましては、事業者や国民の皆様がこれらの点に留意しつつ、ＡＩの研究開発、活用を適正に進められるよう、関係省庁と連携し、この指針の普及啓発等に取り組んでまいります。