生成AI 子どもの国会答弁と質疑

本年二月に警察庁におきまして公表した令和七年における少年非行及び子供の性被害の状況では、令和七年中のＳＮＳに起因する事犯の被害児童数は千五百六十六人と引き続き高水準で推移をしており、特に、昨年は小学生の被害が過去十年で最多の百六十七人となるなど、性被害の低年齢化の傾向が見られるところでございます。 また、児童の画像を生成ＡＩなどにより性的に加工し悪用した、いわゆる性的ディープフェイク被害といった新たな類型の性被害も見られ、令和七年中、警察において取り扱った事案は百十四件でありますが、これらの事案にあってはＳＮＳを利用した性的画像の拡散も見られるところでございます。

御指摘のＡＩ技術につきましては、昨今その利用が一層普及しており、こども家庭庁が実施した令和七年度青少年のインターネット利用環境実態調査におきましても、高校生の四六・二％が生成ＡＩを利用しているとの結果が示されています。 こうした中、ＡＩへの依存リスクを含めて、インターネット上では子供を取り巻くリスクが多様化していると認識しております。

まず、教育政策におけるＡＩとの向き合い方についてお尋ねがありました。 教育政策におけるＡＩの活用については、デジタルの力でリアルな学びを支えるとの基本的な考えに立ち、バランス感覚を持って取り組む必要があると考えております。

次に、子供や若者が直面するリスクについて考えたいと思います。 また、生活リズムが乱れ、孤立し、休み明けには不登校や自殺が増えるという大変悲しい実態がございます。

今回の政策評価のための実証的共同研究で、少年院の入院者のアンケートや日記を生成ＡＩで分析し、再犯要因の関連性や在院中の心情変化を可視化して政策効果を検討するという先駆的な取組が行われました。 行政記録として蓄積されるデータを生成ＡＩで分析する手法は、例えば、過去の膨大なカルテ情報から各個人に効果的な治療、投薬判断に結び付け、ポリファーマシー解消を目指すなど、医療、教育、福祉など幅広い政策領域に応用可能と考えます。

現在、川口市、埼玉県の川口市周辺におけるクルド人問題ですね、刑法に国旗損壊罪がある本国のトルコでは、二〇〇五年にメルシン国旗事件と呼ばれるものが発生しまして、これはどういうものかというと、クルド人の子供が国旗を汚損したという報道を機に、一般市民が愛国的な自警行為と称してクルド人住民への凄惨な暴力、集団暴力をエスカレートさせた事件であります。 例えば、生成ＡＩやディープフェイクを用いて、日本在住の特定グループが国旗を汚損する偽動画がＳＮＳで拡散されたとします。

先週に引き続き質問させていただきますが、本日は、生成ＡＩがもたらす負の側面、特に人権を、負の側面をどう防ぐか、特に人権を守るという観点から質問をいたします。 生成ＡＩなどの技術で子供や女性などのわいせつな画像や動画を作り出すいわゆる性的ディープフェイクをめぐって、対策を求める声が出ています。

やっぱり、ＡＩの世界が広がって、今度そのクリエーターが物を作る、何でしょうね、その原動力であったりとか気持ちというのがなくなってくると、今度はＡＩの方も衰退をしていくわけで、やっぱりそういうことがないように、こういう議論をしていく中では、しっかりと、作った人、創造をする人、人間を守っていくというここの観点を忘れずに、もちろんＡＩを使う世界というのはすばらしいかもしれませんけれども、その一方でそういう側面があるということも議論をする中で忘… 一方で、生成ＡＩで作ったものを使うときに、ユーザー側のリテラシー教育と開発者の側の責任というのも必要なのかなというふうに思います。

今の話を聞きながら、リテラシーというところにも関わってくるんでしょうけれども、例えばＳＮＳ、これはちょっと通告はしていなかったりもするんですけれども、意見として、やっぱり、子供たちがこういうＳＮＳに対してどういうふうに接していくかということもしっかりと国としては考えていかなければいけないのかなというふうに思います。 やっぱり、善悪の判断が付かない子供たちが、それこそＡＩに洗脳されてもうまさにＡＩに乗っ取られていくというようなことが、未来が起こり得ないとは限らないのかなと。

保育園入所の選考でＡＩを取り入れている、四月の選考の事務は従来の百七・五時間から一時間にまで短縮をされて、その結果、保護者への結果通知も二週間以上早まった、また、実証実験では従来の手作業による選考結果と一〇〇％一致した、そういう効果も紹介をされております。 また、ＡＩを搭載した街頭の防犯カメラで顔の識別ができる実証実験ということも紹介をされていて、子供の行方不明事案などへの迅速な対応をするのが狙いということで、こうしたことも大変重要だと思います。

政府としてしっかり考えていただきたいということはもちろんお願いをしつつ、これ議員立法でできているということですから、我々これ与野党関係なく、やっぱりこうした子供たちをしっかりと守っていく。 あるいは、これ実は、この問題というのは加害者側も子供たちである場合が多くて、もう小学生ぐらいからこういった生成ＡＩを学んで、そういったディープフェイクを作れるような技術を身に付けて、加害者側が高校生といったことも十分あるわけですから、そういった意味では、子供たちを被害者にもさせないし加害者にもさせないというような取組、これ与野党関係なく、思いは一つだと思いますので、もちろん表現の自由やそういった問題ありますけれども、そこら辺はしっかりと…

ＡＩ技術は急速な進化を遂げており、社会構造や我々の日常生活に既に変化をもたらし、今後更に大きな変化を生み出すことになります。 ＡＩの活用は、産業の生産性を飛躍的に高め、経済成長の強力な起爆剤となるだけでなく、少子高齢化による労働力不足といった我が国が抱える構造的な課題の解決にも有効です。

全くそのとおりで、生きるための唯一の武器、唯一の財産であるこの教育を担う教師の方々が、自ら尊厳を持って生き生きと次の時代をつくる子供たちと向き合って、子供たち一人一人に光が当たるような環境をつくるための大事な一歩がこの法案であると私は思っております。 そこで、この法案は重要な一歩ですけれども、教育投資の充実による子供の学びの転換は、まさにこれからスタートするところであります。

このディープフェイクポルノについては、生成ＡＩを使用して、実在する人物の顔部分をすり替えて性的な画像や動画を作成するというものでありますが、特に、子供が被害者になったり、また子供が加害者になるというケースも出てきておりますし、大きな社会問題になっております。 そして、昨日のニュースでも、生成ＡＩで作成したわいせつ画像を販売した二十代から五十代の四人が逮捕されたというニュースも報じられておりました。

まずは、先日開幕をしました大阪・関西万博を議題としまして、大規模イベントにおけるＡＩ活用という観点からお伺いをしたいと思います。 私は、大阪・関西万博は、特に、これからのデジタル化や、またＡＩの活用が更に加速していくというふうに期待はしております。

鳥取県では、生成ＡＩの子供の性的画像を児童ポルノと定義するという条例を作りました。 こども家庭庁は、オンライン上の子供の権利擁護をどのように考えているか、そして、青少年が安全に安心してインターネットを利用できるようにするための施策に関する基本的な計画に盛り込んでいくべきではないでしょうか。

他人のクレジットカード情報やＩＤ情報を海外のインターネットサイトなどで購入、対話型生成人工知能、ＡＩのチャットＧＰＴを悪用して自作したプログラムを作り、楽天モバイルのシステムにログインをして、機械的に回線契約を行っていた。 今の若者がこういった認識が薄い中で、今の若い人たちはやはり機械とかプログラムとかそういったものにたけている子供たちもいますから、重大な犯罪に手を染めているけれどもそういった自覚がないんだよという子供たちも結構いるという中において、やはりこういった、犯罪の温床が内内通信であった可能性というのはないんですか。

教育というと、子供たちのための教育に話題が集中しがちです。 それが昨今では、生成ＡＩによってホワイトカラーの仕事が失われていくといったことも言われるようになってまいりました。

予算については今お話があったところで、必要な予算というのは幾らなのか、額が多ければいいということでもないし、先ほど私はＡＩチャットボットの話をしましたが、効果的な周知啓発がちゃんとできる予算を、必要な予算を確保するということが大事だと思いますので、テクノロジーの進展、そういうことなどを踏まえながら所要の額をしっかり確保することが大事だと思います。

私が三重県知事時代に三重県選挙管理委員会は、全国の中でもかなり早い方だったと思いますけれども、ＡＩチャットボットを入れて質問しやすいように、県民の皆さんとか有権者の皆さんが質問とか疑問を解消しやすいような、そんな工夫も三重県選挙管理委員会はやっておりましたので、時代に合わせて不断の改善をしっかりしながら常時啓発、周知徹底を行っていきたいと思います。

燃料油価格の激変緩和対策の継続、電気・ガス料金の補助の再開、住民税の非課税世帯を対象とした三万円の給付金と子供一人当たり二万円の加算金、加算分の迅速な支給、同時に、賃上げの原資となる持続的な経済成長を実現するための成長産業への集中的な投資促進や中小企業・小規模事業者の生産性向上に向けた支援、これらについてもニーズに確実に応じることができる規模で予算を確保すべきと考えます。 百三万円を超えても親の扶養控除を外れないとなれば、その子供は働き控えをしなくてもよくなります。

社会保険料を支払った場合でも、家族旅行に行ったり、記念日に大切な人と食事をしたり、子供にかわいい服を買ってあげたり、習い事のための十分なお金が手元に残ります。 中学生以下の子供たちにも当然生存権は保障されています。

これこそ、まさにＡＩ技術やデジタルトランスフォーメーションの活用によって解決するにふさわしい課題ではないでしょうか。 このことは子供たちにも大きな影響が出ています。

まだ恋も知らない子供たちが性被害者になっている現実を私たちは決して許さず、行動に移さなければなりません。 国民民主党は、二〇二一年五月、子どもの性被害防止法を議員立法いたしました。

そこで、私の方からは、昨今の急速な生成ＡＩの進化を踏まえまして、ＡＩ時代において民主主義の基盤たる情報環境を健全たらしめるために必要な広報協議会の在り方や取組について、意見を申し述べます。 今年一月二十一日、米国大統領選挙に向けたニューハンプシャー州の民主党予備選において、バイデン大統領に似せてＡＩが生成したと見られる声で、十一月の大統領選に向けて投票を温存することが重要だなどと呼びかける電話が数千件ともされる範囲にかかり、司法当局は先週二十三日、選挙を妨害したなどとして、五十四歳の政治コンサルタントを起訴しました。

終わりますけれども、前回審議をしたスマホの法案もそうですし、今回もそうですが、グローバルに我々の生活がつながっていて、そこに対してどうやって適切に我が国の法律を守ってもらうのかというのは非常に難しい課題ではあるんですけれども、ただ、このティームーに関しても、もう既にアクセスはしているというふうにこの間レクでも伺いましたので、是非、チャットＧＰＴを使いながら、瞬時に翻訳してくれますから、どんどん海外の事業者にもしっかりと我々の法律の内容を…