河西宏一議員の質問と、政府の答弁

今急速に普及しつつあるのがＡＩエージェントであります。チャットＧＰＴもそうなんですが、プロンプトを入れてとかというよりも、勝手に提案をしてくれたりとか、勝手にマネジメントしてくれる、今こういう段階に入っております。例えば、人間に代わって受発注あるいは契約なども行えるＡＩエージェント、これによって業務フローは抜本的に変わってくるんだろうというふうに思っております。他方で、ＤＸが進めば、また効率化が進めば進むほど、一度システムがダウンすると、その打撃は広範囲かつ深刻になる可能性が大きいわけであります。

事業者がＡＩを導入する際のリスクとして、一般的には、ＡＩが誤情報や偽情報を出力するといったリスクが考えられます。一方で、御指摘のとおり、導入したＡＩシステムの活用が進んだ後、浸透した後に、当該ＡＩシステムの出力の傾向が急変するであるとか、当該ＡＩシステムが、システムのサービスが停止をする、ＡＩシステムが停電で停止するといったような事態が生じると、大きな被害が生じかねないというふうに考えています。ＡＩの導入に関するリスクはその導入の仕方によって千差万別であることから、事業者ごとにリスクを特定して多面的に評価をし、事業者ごとに事故時の対応等を含むＡＩガバナンスポリシーを策定、実施することが重要であるというふうに考えています。このことは、法案に基づいて整備をいたします予定の指針の中に盛り込むことも含めて検討してまいりたいと存じます。