生成AI 子どもの国会答弁と質疑

本年二月に警察庁におきまして公表した令和七年における少年非行及び子供の性被害の状況では、令和七年中のＳＮＳに起因する事犯の被害児童数は千五百六十六人と引き続き高水準で推移をしており、特に、昨年は小学生の被害が過去十年で最多の百六十七人となるなど、性被害の低年齢化の傾向が見られるところでございます。 また、児童の画像を生成ＡＩなどにより性的に加工し悪用した、いわゆる性的ディープフェイク被害といった新たな類型の性被害も見られ、令和七年中、警察において取り扱った事案は百十四件でありますが、これらの事案にあってはＳＮＳを利用した性的画像の拡散も見られるところでございます。

御指摘のＡＩ技術につきましては、昨今その利用が一層普及しており、こども家庭庁が実施した令和七年度青少年のインターネット利用環境実態調査におきましても、高校生の四六・二％が生成ＡＩを利用しているとの結果が示されています。 こうした中、ＡＩへの依存リスクを含めて、インターネット上では子供を取り巻くリスクが多様化していると認識しております。

まず、教育政策におけるＡＩとの向き合い方についてお尋ねがありました。 教育政策におけるＡＩの活用については、デジタルの力でリアルな学びを支えるとの基本的な考えに立ち、バランス感覚を持って取り組む必要があると考えております。

次に、子供や若者が直面するリスクについて考えたいと思います。 また、生活リズムが乱れ、孤立し、休み明けには不登校や自殺が増えるという大変悲しい実態がございます。

今回の政策評価のための実証的共同研究で、少年院の入院者のアンケートや日記を生成ＡＩで分析し、再犯要因の関連性や在院中の心情変化を可視化して政策効果を検討するという先駆的な取組が行われました。 行政記録として蓄積されるデータを生成ＡＩで分析する手法は、例えば、過去の膨大なカルテ情報から各個人に効果的な治療、投薬判断に結び付け、ポリファーマシー解消を目指すなど、医療、教育、福祉など幅広い政策領域に応用可能と考えます。

現在、川口市、埼玉県の川口市周辺におけるクルド人問題ですね、刑法に国旗損壊罪がある本国のトルコでは、二〇〇五年にメルシン国旗事件と呼ばれるものが発生しまして、これはどういうものかというと、クルド人の子供が国旗を汚損したという報道を機に、一般市民が愛国的な自警行為と称してクルド人住民への凄惨な暴力、集団暴力をエスカレートさせた事件であります。 例えば、生成ＡＩやディープフェイクを用いて、日本在住の特定グループが国旗を汚損する偽動画がＳＮＳで拡散されたとします。

次に、子供や若者が直面するリスクについて考えたいと思います。 また、生活リズムが乱れ、孤立し、休み明けには不登校や自殺が増えるという大変悲しい実態がございます。

本年二月に警察庁におきまして公表した令和七年における少年非行及び子供の性被害の状況では、令和七年中のＳＮＳに起因する事犯の被害児童数は千五百六十六人と引き続き高水準で推移をしており、特に、昨年は小学生の被害が過去十年で最多の百六十七人となるなど、性被害の低年齢化の傾向が見られるところでございます。 また、児童の画像を生成ＡＩなどにより性的に加工し悪用した、いわゆる性的ディープフェイク被害といった新たな類型の性被害も見られ、令和七年中、警察において取り扱った事案は百十四件でありますが、これらの事案にあってはＳＮＳを利用した性的画像の拡散も見られるところでございます。

今回の政策評価のための実証的共同研究で、少年院の入院者のアンケートや日記を生成ＡＩで分析し、再犯要因の関連性や在院中の心情変化を可視化して政策効果を検討するという先駆的な取組が行われました。 行政記録として蓄積されるデータを生成ＡＩで分析する手法は、例えば、過去の膨大なカルテ情報から各個人に効果的な治療、投薬判断に結び付け、ポリファーマシー解消を目指すなど、医療、教育、福祉など幅広い政策領域に応用可能と考えます。

現在、川口市、埼玉県の川口市周辺におけるクルド人問題ですね、刑法に国旗損壊罪がある本国のトルコでは、二〇〇五年にメルシン国旗事件と呼ばれるものが発生しまして、これはどういうものかというと、クルド人の子供が国旗を汚損したという報道を機に、一般市民が愛国的な自警行為と称してクルド人住民への凄惨な暴力、集団暴力をエスカレートさせた事件であります。 例えば、生成ＡＩやディープフェイクを用いて、日本在住の特定グループが国旗を汚損する偽動画がＳＮＳで拡散されたとします。

本当に、保護者や子供たち自身だけではなく、事業者側のリテラシーというのも大変重要になってくるかと思います。 先ほどの意見交換会では、実は七五％ぐらいの子供たちがそうした悪質な広告であったりとかというのを実際に目に触れる機会があったということで回答していますので、是非また、これまでも、生成ＡＩもそうなんですけど、技術革新が本当に速いので、大臣とともにまたしっかり前に進めていきたいと思います。

生成ＡＩの急速な普及によりまして、子供たちや学生が単にＡＩを便利な道具として使うだけでなくて、著作権などＡＩと知的財産の関係を正しく理解する知財教育を強化していく必要があると考えます。 著作権を中心とした知財教育の整備ですね、私も著作権というと何か分からないことも結構多くて、ＡＩ時代のこの著作権ってどういうものなのかと、大人でも結構分からない部分あるんですけれども、子供たちにはなおさらしっかり若いときからこうした知財教育に触れていただくということは大変重要じゃないかというふうにも思っておりまして、大臣の見解を伺ってまいりたいと思います。

今回の個人情報保護法改正案は、ＡＩ開発目的で利用する場合、個人情報を本人の同意なく第三者に提供できるよう特例を設けるものです。 しかし、この法案が通れば、ＡＩ開発に使われる場合には、個人情報を本人の同意なく渡すことができるようになります。

生成ＡＩ等の目覚ましい進展は、私たちの生活を豊かにする一方で、企業の採用動向や若年層の雇用環境に新しい変化をもたらすリスクもはらんでいます。 子供たちの教育から大人のリスキリングに至るまで、既存の枠組みを時代の変化に合わせて柔軟に見直し、どのような環境変化にも対応できる基礎力を育む教育環境を整えてまいりたいと思っております。

そうした中、私の方から、育児というのはやはりコアタイムというものがあります、朝と夕方、子供を学校に連れていく、また、迎えに行って、寝かし付けまでする、この間はどうしても肉体的に体が空きませんので、ここを外して働ける、つまりはフレックスであったりテレワーク、こういったものが重要なのではないかという意見を述べさせていただきました。 今は生成ＡＩが主流になっておりますけれども、じゃ、これから先、どのようなテクノロジーが発展をしていって生活の利便性が高まっていくのか、そして、そこに可能な限り予見性を持って投資をしていくことこそが地方の生活を、地方の生活の利便性を高めていくことにもつながると思いますので、今回、最初の調査会の開催ではありましたけれども、来年からの調査会の開催におきましても、引き続き、こうした観点から参考人の皆様のお話をお伺いをしながら議論を深めてまいりた…

二、デジタルな形態の教科書の導入を単なる教材の電子化にとどめることなく、生成ＡＩの急速な進展や人口減少社会の到来を見据え、我が国が目指す公教育の将来像を明確に示すとともに、子どもたちの主体性、創造性、協働性及び情報活用能力の育成に向け、必要な施策を総合的かつ計画的に推進すること。 あわせて、教育データの標準化や継続的な調査研究を実施し、子どもの発達段階や障がいの特性、教科の特性、言語の多様性等を踏まえ、その結果を不断に教育現場の改善に反映させる仕組みを構築すること。

昨今の生成ＡＩの台頭やデジタルな形態の教科書の導入を踏まえれば、その重要性はますます高まっていくと考えます。 生成ＡＩやＳＮＳ等を利用する際の注意点やマナー、個人情報の取扱いなど、身に付けるべき情報モラルはたくさんあると思いますが、加えて、重要だと考えるのは、デジタル端末の使用による健康面への影響等の正しい理解です。

先ほどＡＩの話をしましたが、子供の自殺の背景にはＳＮＳの空間の問題も極めて大きくなっていると思います。 思春期の子供たちは大人が思う以上にデジタル空間の影響を強く受けています。

実際、私もＳＮＳの検索等を通して、自殺とか入れるとそれ以外は出てこないようにとか、規制なんかもしっかりと、海外で自殺案件もあったので、防御としてそういった対策も取り組んでいただいておりますが、やはりＡＩチャットは、私もふだん生活をしている上で活用させていただいていますが、絶対に悪い気分にはさせない、そして寄り添ってくれる、自己肯定感を上げてくれるような、いい答弁ですねとか聞くとそういった励ましの言葉ももらえるような、そういったものもあり… 次に、ＣＤＲ、すなわち子供の死亡事例を多機関で検証する仕組みについて伺います。

御指摘のＡＩ技術につきましては、昨今その利用が一層普及しており、こども家庭庁が実施した令和七年度青少年のインターネット利用環境実態調査におきましても、高校生の四六・二％が生成ＡＩを利用しているとの結果が示されています。 こうした中、ＡＩへの依存リスクを含めて、インターネット上では子供を取り巻くリスクが多様化していると認識しております。

是非お願いしたいのは、相談を待つ支援から見付けに行く支援で、先ほどもございました自殺対策基本法改正により地域の協議会ですね、地域が協議会設置、努力義務化されました。 次に、ＡＩチャットボットの問題についてお伺いします。

まず、教育政策におけるＡＩとの向き合い方についてお尋ねがありました。 教育政策におけるＡＩの活用については、デジタルの力でリアルな学びを支えるとの基本的な考えに立ち、バランス感覚を持って取り組む必要があると考えております。

我が国は、人口減少、少子高齢化、生成ＡＩの急速な進展という社会構造の変化の中にあります。 ＡＩ時代に向けて、公教育をどう再設計するのかという国家戦略の根幹を問うものです。

総務省の取組や対応状況についてお伺いしましたが、今後は、子供や保護者による自己防衛や家庭での見守りに加えて、プラットフォーム事業者側の責任の在り方についてもより議論を深めていく必要があると考えます。 現行制度は、フィルタリングや家庭での見守りなど、保護者側の対応に依存する傾向が強い一方で、ＳＮＳや生成ＡＩを取り巻く環境は急速に変化しており、従来の対応のみでは十分に対応し切れない課題も生じていると考えます。

ＬＩＮＥなどの身近なＡＩツールなども活用していただければと、御検討していただければと思います。 現在、日本の制度は、子供側に一定の自己防衛を求める側面がある一方、ＳＮＳや生成ＡＩを取り巻く環境が急速に変化する中で、プラットフォーム事業者側の対応の在り方についても議論が必要になっていると考えます。

その中で、先生御指摘のように、ＧＩＧＡ端末が一人一台ということになっておりますけれども、それに加えて、アルゴリズムであるとかインターネット等々、生成ＡＩも含めてですけれども、子供たち、生徒の生活により深い形で、かつより速いスピードで入り込んでいる中、学校現場においてもそういったＧＩＧＡ端末の利用環境を踏まえて検討すべきであるとか、あるいは、文科省もそうでございますけれども、こども家庭庁や総務省でも教材などを随時作っているところでございま…