谷合正明議員の質問と、政府の答弁

関連して、ＡＩの活用について伺います。一人一台端末の普及に伴って、子供たちが誰にも言えない悩みを身近な生成ＡＩに打ち明けるケースというものがあるということであります。ＡＩが子供たちの事実上の相談相手になりつつあるという現実もある。これを放置するのではなくて、むしろこのＡＩを命を守る側に積極的に生かしていくべきではないかとも考えます。ただ一方で、海外では、対話型ＡＩが自殺を思いとどまらせるどころか、逆にその自殺念慮に寄り添う結果、この自殺を助長してしまって、悲劇を招いたとして訴訟に発展する事案も報告されております。ＡＩが不適切な応答をしたり、子供を孤立した依存状態に陥らせたりする負の側面を国としてどう克服していくか、これも極めて重要だと思っております。そこで、こども家庭庁に問いたいと思いますが、このＡＩを活用した自殺対策をどう進めていくのでしょうか。

令和七年の小中高生の自殺者数が過去最多となったこと、こども家庭庁としても大変重く受け止めております。生成ＡＩの利用につきましては、こども家庭庁が実施した令和七年度青少年のインターネット利用環境実態調査において、高校生の四六・二％が生成ＡＩを利用しているとの結果が示されており、その利用が広がっていると認識しております。また、子供へのアンケートにおいても、生成ＡＩをコミュニケーションや雑談に使っている、不確かな情報が多いなどのデメリットがあると感じているなどの回答がございました。令和八年四月に全面施行となった改正自殺対策基本法では、自殺対策はＩＣＴやＡＩ等の適切な活用を図りながら展開することとされております。このため、令和八年度において、デジタルデータやＡＩ等を活用した新たな取組について有識者の参画を経て検討することとしており、海外の事例も踏まえつつ、安全性等にも留意しつつ、ＡＩの活用につい…