生成AI 子どもの国会答弁と質疑

本年二月に警察庁におきまして公表した令和七年における少年非行及び子供の性被害の状況では、令和七年中のＳＮＳに起因する事犯の被害児童数は千五百六十六人と引き続き高水準で推移をしており、特に、昨年は小学生の被害が過去十年で最多の百六十七人となるなど、性被害の低年齢化の傾向が見られるところでございます。 また、児童の画像を生成ＡＩなどにより性的に加工し悪用した、いわゆる性的ディープフェイク被害といった新たな類型の性被害も見られ、令和七年中、警察において取り扱った事案は百十四件でありますが、これらの事案にあってはＳＮＳを利用した性的画像の拡散も見られるところでございます。

御指摘のＡＩ技術につきましては、昨今その利用が一層普及しており、こども家庭庁が実施した令和七年度青少年のインターネット利用環境実態調査におきましても、高校生の四六・二％が生成ＡＩを利用しているとの結果が示されています。 こうした中、ＡＩへの依存リスクを含めて、インターネット上では子供を取り巻くリスクが多様化していると認識しております。

まず、教育政策におけるＡＩとの向き合い方についてお尋ねがありました。 教育政策におけるＡＩの活用については、デジタルの力でリアルな学びを支えるとの基本的な考えに立ち、バランス感覚を持って取り組む必要があると考えております。

次に、子供や若者が直面するリスクについて考えたいと思います。 また、生活リズムが乱れ、孤立し、休み明けには不登校や自殺が増えるという大変悲しい実態がございます。

今回の政策評価のための実証的共同研究で、少年院の入院者のアンケートや日記を生成ＡＩで分析し、再犯要因の関連性や在院中の心情変化を可視化して政策効果を検討するという先駆的な取組が行われました。 行政記録として蓄積されるデータを生成ＡＩで分析する手法は、例えば、過去の膨大なカルテ情報から各個人に効果的な治療、投薬判断に結び付け、ポリファーマシー解消を目指すなど、医療、教育、福祉など幅広い政策領域に応用可能と考えます。

現在、川口市、埼玉県の川口市周辺におけるクルド人問題ですね、刑法に国旗損壊罪がある本国のトルコでは、二〇〇五年にメルシン国旗事件と呼ばれるものが発生しまして、これはどういうものかというと、クルド人の子供が国旗を汚損したという報道を機に、一般市民が愛国的な自警行為と称してクルド人住民への凄惨な暴力、集団暴力をエスカレートさせた事件であります。 例えば、生成ＡＩやディープフェイクを用いて、日本在住の特定グループが国旗を汚損する偽動画がＳＮＳで拡散されたとします。

次に、生成ＡＩによる日本の子供のポルノ画像による犯罪はあるかどうか、警察庁に伺います。

先週に引き続き質問させていただきますが、本日は、生成ＡＩがもたらす負の側面、特に人権を、負の側面をどう防ぐか、特に人権を守るという観点から質問をいたします。 生成ＡＩなどの技術で子供や女性などのわいせつな画像や動画を作り出すいわゆる性的ディープフェイクをめぐって、対策を求める声が出ています。

やっぱり、ＡＩの世界が広がって、今度そのクリエーターが物を作る、何でしょうね、その原動力であったりとか気持ちというのがなくなってくると、今度はＡＩの方も衰退をしていくわけで、やっぱりそういうことがないように、こういう議論をしていく中では、しっかりと、作った人、創造をする人、人間を守っていくというここの観点を忘れずに、もちろんＡＩを使う世界というのはすばらしいかもしれませんけれども、その一方でそういう側面があるということも議論をする中で忘… 一方で、生成ＡＩで作ったものを使うときに、ユーザー側のリテラシー教育と開発者の側の責任というのも必要なのかなというふうに思います。

今の話を聞きながら、リテラシーというところにも関わってくるんでしょうけれども、例えばＳＮＳ、これはちょっと通告はしていなかったりもするんですけれども、意見として、やっぱり、子供たちがこういうＳＮＳに対してどういうふうに接していくかということもしっかりと国としては考えていかなければいけないのかなというふうに思います。 やっぱり、善悪の判断が付かない子供たちが、それこそＡＩに洗脳されてもうまさにＡＩに乗っ取られていくというようなことが、未来が起こり得ないとは限らないのかなと。

保育園入所の選考でＡＩを取り入れている、四月の選考の事務は従来の百七・五時間から一時間にまで短縮をされて、その結果、保護者への結果通知も二週間以上早まった、また、実証実験では従来の手作業による選考結果と一〇〇％一致した、そういう効果も紹介をされております。 また、ＡＩを搭載した街頭の防犯カメラで顔の識別ができる実証実験ということも紹介をされていて、子供の行方不明事案などへの迅速な対応をするのが狙いということで、こうしたことも大変重要だと思います。

政府としてしっかり考えていただきたいということはもちろんお願いをしつつ、これ議員立法でできているということですから、我々これ与野党関係なく、やっぱりこうした子供たちをしっかりと守っていく。 あるいは、これ実は、この問題というのは加害者側も子供たちである場合が多くて、もう小学生ぐらいからこういった生成ＡＩを学んで、そういったディープフェイクを作れるような技術を身に付けて、加害者側が高校生といったことも十分あるわけですから、そういった意味では、子供たちを被害者にもさせないし加害者にもさせないというような取組、これ与野党関係なく、思いは一つだと思いますので、もちろん表現の自由やそういった問題ありますけれども、そこら辺はしっかりと…

竹詰仁議員からは、まず、国産ＡＩの開発及び海外展開に関する政府の方針についてお尋ねがありました。 ＡＩは国民生活や経済社会に密接に関係することから、日本の文化や商習慣等を正確に回答できるＡＩを開発することは重要であると認識しており、産業競争力や経済安全保障の観点からも、国産ＡＩの開発がなされることが望ましいと考えております。

ＡＩ技術は急速な進化を遂げており、社会構造や我々の日常生活に既に変化をもたらし、今後更に大きな変化を生み出すことになります。 ＡＩの活用は、産業の生産性を飛躍的に高め、経済成長の強力な起爆剤となるだけでなく、少子高齢化による労働力不足といった我が国が抱える構造的な課題の解決にも有効です。

全くそのとおりで、生きるための唯一の武器、唯一の財産であるこの教育を担う教師の方々が、自ら尊厳を持って生き生きと次の時代をつくる子供たちと向き合って、子供たち一人一人に光が当たるような環境をつくるための大事な一歩がこの法案であると私は思っております。 そこで、この法案は重要な一歩ですけれども、教育投資の充実による子供の学びの転換は、まさにこれからスタートするところであります。

アカデミアで必要な人材ということ、質問でしたけれども、一旦、私の講演の中での内容になるんですけれども、昨今のＡＩというのは自動研究というものもできます。 本当に最近話題になりますけれども、最近行われました大学入試ですね、共通テスト、あと各大学の二次試験において、生成ＡＩというのは共通テストは九一％の正答率、そして第二次試験の東京大学の一番難しいとされている数学の試験でも合格、理科三類合格、一番難しい医学部に通ずる理科三類合格ラインというふうに言われております。

このディープフェイクポルノについては、生成ＡＩを使用して、実在する人物の顔部分をすり替えて性的な画像や動画を作成するというものでありますが、特に、子供が被害者になったり、また子供が加害者になるというケースも出てきておりますし、大きな社会問題になっております。 そして、昨日のニュースでも、生成ＡＩで作成したわいせつ画像を販売した二十代から五十代の四人が逮捕されたというニュースも報じられておりました。

まずは、先日開幕をしました大阪・関西万博を議題としまして、大規模イベントにおけるＡＩ活用という観点からお伺いをしたいと思います。 私は、大阪・関西万博は、特に、これからのデジタル化や、またＡＩの活用が更に加速していくというふうに期待はしております。

ですから、今の子供たちは、生成ＡＩを前提とした社会の中で生きていって、それを当たり前のように使って、また違う能力を発現させていくと思いますので、余り心配しなくてもいいんじゃないかと思います。 ただ、時代を超えて、大人が子供に伝えるべきことというのはいつも変わらないと思っていまして、それは例えば、人と人との関係性であったり信頼であったり、それから、歴史とか文化とか教養とか、そういったものが重要だということ自体は時代を超えても変わらない、そういったことをしっかり伝えていく必要があるんじゃないかというふうに思います。

私の研究室でもプロンプトエンジニアリングの研究をやっていまして、一つ有名になった研究が、レッツ・シンク・ステップ・バイ・ステップという一文をつけるだけで生成ＡＩの能力がなぜか上がるというものです。 それなんかを見ますと、ちょっとこれは、何か子供にゆっくり考えようねと言うと、落ち着いて成績が上がるというのと似ているようなところがあって、不思議だなと。

知事からは、生成ＡＩ技術を利用して、実在する子供の画像をもとに性的な合成画像を作成するような行為に関し、児童ポルノの定義を明確化する等により処罰することについて検討すること、そして、政府全体で未然防止策及び被害救済策を検討し、有効な対策を講じること、この二点について御要望を頂戴いたしました。

その上で、先ほど答弁いたしましたとおり、委員御指摘のように、現在、インターネットの利用をめぐる青少年の保護に関して、関係省庁ともワーキンググループにおける検討を進めているところでありますので、生成ＡＩを利用した子供の性的画像や、ただいま御指摘のありました鳥取県の条例も含めて、状況をよく把握しながら検討を深めて、この夏頃を目途に取りまとめをしっかり行ってまいりたいと考えております。

鳥取県では、生成ＡＩの子供の性的画像を児童ポルノと定義するという条例を作りました。 こども家庭庁は、オンライン上の子供の権利擁護をどのように考えているか、そして、青少年が安全に安心してインターネットを利用できるようにするための施策に関する基本的な計画に盛り込んでいくべきではないでしょうか。

他人のクレジットカード情報やＩＤ情報を海外のインターネットサイトなどで購入、対話型生成人工知能、ＡＩのチャットＧＰＴを悪用して自作したプログラムを作り、楽天モバイルのシステムにログインをして、機械的に回線契約を行っていた。 今の若者がこういった認識が薄い中で、今の若い人たちはやはり機械とかプログラムとかそういったものにたけている子供たちもいますから、重大な犯罪に手を染めているけれどもそういった自覚がないんだよという子供たちも結構いるという中において、やはりこういった、犯罪の温床が内内通信であった可能性というのはないんですか。

ＧＩＧＡスクール構想を着実に推進しつつ、高等学校におけるＤＸ化、ＡＩデジタルを活用した外国語教育、国際交流の推進、自治体を越えた広域教師人材バンクの構築支援や、産業界の伴走支援による実践的な専門高校運営モデルの構築等を関係省庁とも連携しながら推進し、デジタル・グローバル人材や地域の経済成長、産業振興を担う人材の育成を抜本的に強化します。 学びの機会を得ることは子供たちの権利であり、誰一人取り残されない教育環境の整備は重要です。

ＧＩＧＡスクール構想を着実に推進しつつ、高等学校におけるＤＸ化、ＡＩデジタルを活用した外国語教育、国際交流の推進、自治体を越えた広域教師人材バンクの構築支援や、産業界の伴走支援による実践的な専門高校運営モデルの構築等を関係省庁とも連携しながら推進し、デジタルグローバル人材や地域の経済成長、産業振興を担う人材の育成を抜本的に強化します。 学びの機会を得ることは子供たちの権利であり、誰一人取り残されることのない教育環境の整備は重要です。