川裕一郎議員の質問と、政府の答弁

今後、国家情報会議における情報分析においてＡＩやアルゴリズムの活用が進むことは避けられません。しかしながら、その判断過程は極めて不透明になりやすく、いわゆるブラックボックス化の問題が指摘をされています。特に、アルゴリズムによるリスク判定や対象抽出が行われる場合、その前提となるデータや設計思想に偏りがあれば、結果そのものがゆがんでしまう可能性があります。にもかかわらず、その判断過程が検証できないのであれば、国民から見れば、なぜ自分が対象になったのか分からないという極めて不透明な状況が生じかねません。そこで、お伺いをします。国家情報会議においてＡＩを活用する場合、その分析の妥当性をどのように検証をするのか。また、判断過程においてどの程度の説明可能性を確保するのか。

警察庁における、また警察組織におけるということが前提で、いわゆる国家情報会議、これは私の所管というよりは内閣官房長官の方の所管となりますので、運用については、私の方からの答弁は差し控えたいというふうに思います。