生成AI 子どもの国会答弁と質疑

本年二月に警察庁におきまして公表した令和七年における少年非行及び子供の性被害の状況では、令和七年中のＳＮＳに起因する事犯の被害児童数は千五百六十六人と引き続き高水準で推移をしており、特に、昨年は小学生の被害が過去十年で最多の百六十七人となるなど、性被害の低年齢化の傾向が見られるところでございます。 また、児童の画像を生成ＡＩなどにより性的に加工し悪用した、いわゆる性的ディープフェイク被害といった新たな類型の性被害も見られ、令和七年中、警察において取り扱った事案は百十四件でありますが、これらの事案にあってはＳＮＳを利用した性的画像の拡散も見られるところでございます。

御指摘のＡＩ技術につきましては、昨今その利用が一層普及しており、こども家庭庁が実施した令和七年度青少年のインターネット利用環境実態調査におきましても、高校生の四六・二％が生成ＡＩを利用しているとの結果が示されています。 こうした中、ＡＩへの依存リスクを含めて、インターネット上では子供を取り巻くリスクが多様化していると認識しております。

まず、教育政策におけるＡＩとの向き合い方についてお尋ねがありました。 教育政策におけるＡＩの活用については、デジタルの力でリアルな学びを支えるとの基本的な考えに立ち、バランス感覚を持って取り組む必要があると考えております。

次に、子供や若者が直面するリスクについて考えたいと思います。 また、生活リズムが乱れ、孤立し、休み明けには不登校や自殺が増えるという大変悲しい実態がございます。

今回の政策評価のための実証的共同研究で、少年院の入院者のアンケートや日記を生成ＡＩで分析し、再犯要因の関連性や在院中の心情変化を可視化して政策効果を検討するという先駆的な取組が行われました。 行政記録として蓄積されるデータを生成ＡＩで分析する手法は、例えば、過去の膨大なカルテ情報から各個人に効果的な治療、投薬判断に結び付け、ポリファーマシー解消を目指すなど、医療、教育、福祉など幅広い政策領域に応用可能と考えます。

現在、川口市、埼玉県の川口市周辺におけるクルド人問題ですね、刑法に国旗損壊罪がある本国のトルコでは、二〇〇五年にメルシン国旗事件と呼ばれるものが発生しまして、これはどういうものかというと、クルド人の子供が国旗を汚損したという報道を機に、一般市民が愛国的な自警行為と称してクルド人住民への凄惨な暴力、集団暴力をエスカレートさせた事件であります。 例えば、生成ＡＩやディープフェイクを用いて、日本在住の特定グループが国旗を汚損する偽動画がＳＮＳで拡散されたとします。

先週チャットＧＰＴも４オムニというのが出て、既に使っていらっしゃる方もいらっしゃると思いますが、私は早く行政がＡＩを導入すべきだと思っていて、例えば、こういった事案も、一枚一枚のデータを全部読み込ませると、今は、本当にものの数分で、自分で、定性的な文書といいますか、データベースみたいなものを整備しなくても、どれぐらいの事案が、例えば青少年同士の性加害事案があるのかということも全部、ＡＩがデータを、ちゃんとその中身を全部調べた上で処理して… 行政がちゃんと対策するためには正しいデータがなきゃいけないので、そういう意味では、いろいろデータがないというようなこともおっしゃっているんですが、子供を守るという意味でも、この分野は進めていただきたいと思います。

今の、現代の教育に即した、環境に即した教育を行っていく上では、やはりそうしたバックグラウンドや、そうした生徒たちの学校で学びの場のサポートというものも非常に大事だと思っておりますし、最新の設備で是非学ばせてあげたい、また、地域の差なく子供たちに学んでもらいたい、そのように考えております。 また、ほかにも、センシングやＡＲ、ＶＲ等の先端技術、そして生成ＡＩやデータの利活用、こうしたところも、次の世代の学校教育、この環境には非常に大切な問題でありまして、この課題を改善しなければいけない、そのように考えております。

子供たちを守ること、子供の権利をしっかり守れるように、引き続き取組の徹底をお願いしたいというふうに思います。 続きまして、生成ＡＩと著作権について文部科学大臣に伺います。

生成ＡＩに対する日本政府の対応について、ユーザーやクリエーターの関心を中心にまず質問をいたします。 まず、人間の尊厳を尊重し、子供の権利を守るための取組について伺います。

また、文部科学省におかれては、教育課程におけるＩＣＴリテラシーの教育というのは、子供さんたちが社会に出て、今実際に、今の状況においても、ＳＮＳを通じたいじめを含めて、ここでは具体的には申し上げませんけれども、大変いろいろな憂慮される状況が学校現場でも起こっているということもございます。 現在、生成ＡＩ等、技術の急速な進展によりまして、先ほどからこのことも議論があっておりますけれども、巧妙な偽情報、誤情報の拡散、蔓延によりまして、災害時、緊急事態の発生時に誤った情報が拡散されることによって救出活動に支障が出たなどの大変憂慮される状況が起きております。

今は、その上、生成ＡＩとかフェイクニュースとか、やっぱり考えなきゃいけないことたくさん出てきたわけでありますけれども、こうしたやっぱりリスクというのは、じゃ、デジタルが暮らしの中で入ってきている以上、完全に子供たちからシャットアウトするということも現実的ではありません。 むしろ、これから未来を担う子供たちがデジタル社会でトラブルにならずに生きていける能力を養う、そして、このデジタル社会の秩序を維持していくために、どういう点に注意をして、どういうリスクがあるのか、どういうことをやっちゃいけないのか、そういったことを子供たち自身が考えてできるようになるということが非常に大事だと思っております。

はっきり言って読みづらいと言っていましたし、これでたとえ間違えたとしても結局は自治体職員の人為的ミスと言われて終わりなんだよねというふうに、何かまさに吐露する感じでおっしゃっていましたけれども、本当にこういう状態で簡素と表現することに私は何か違和感を覚えるということははっきりと申し上げたいというふうに思いますし、分かりづらいまま突っ走るくらいであるならば、デジタル庁のお話もありましたけれども、ＡＩチャットボットとかを開発するなりして、し…

盛山大臣におかれましては、大学共通テストのこと、あるいは千五百台の端末を貸与いただくこと、様々、矢継ぎ早にリーダーシップを取っていただいて、被災地の子供たちの学びの継続、また文化財の復旧、そういうことに大変御尽力をいただいておりますことに心から敬意と感謝を申し上げたいと思っておりますし、また引き続きの、子供たちの学びの継続、文化財の振興のために御尽力を賜りますことを心からお願いを申し上げたいと思います。 生成ＡＩの台頭など、テクノロジー環境が目まぐるしく変化する中、情報技術を使いこなせるようになることは、次世代の子供たちにとって必須条件です。

あらゆる政策ツールを総動員し、誰もが結婚し、子供を産み育てたいとの希望がかなえられる、そんな社会の構築を目指さなくてはなりません。 この戦略では、まず、若い世代の所得を増やす、次に、社会全体の構造、意識を変える、そして、全ての子供、子育て世帯を切れ目なく支援する、この三つを基本理念に掲げ、今後三年間の集中取組期間において、前倒しして実施する加速プランにより、子供、子育て施策の拡充を図ることとされています。

その後、さらに、生成ＡＩという技術が出てきて、デジタル技術の進歩は、およそ専門家をもってしても人知を超えるペースで加速しています。 職業としてデジタル技術を持つ人たちは職業倫理や社会人としての常識等を悪用しないという基礎を備えておられるのでしょうが、今後は高度な技能を習得した社会に出る前の子供もそのような形で出てくることが予想されます。

その考え方、それはチャットＧＰＴのような答えでして、今まで政府答弁を積み重ねていくとそうなるんですね。 これは、今仮にですよ、子供、例えば国債のようなものを出して通貨供給をして、子供を産むようにしたところでですよ、もちろんすべきなんですが、十年、二十年たたないと効果は現れないんですよ、実際ね。

今の子供たちは、学校教育として一人一台情報端末、それ以前からＩＴＣの活用含めて、また日常生活でも様々な形で触れているわけでありまして、さらに学校ではプログラミング教育を発達段階に応じて受けているわけであります。 今後は、生成ＡＩ始めとしたＡＩ技術を使いこなすことを習得していくわけでありますから、そういった教育を受けた世代と受けていない世代が存在する過渡期におきましては、圧倒的にそういった教育を受けた世代の方が様々な選択肢を持つ、まあよく情報デバイド、情報格差という言い方をするわけでありますが、一旦それが良からぬことに使われれば、悪用されれば、教育を受けていない世代は対抗しづらい状況にあるわけであります。

ちょっと、先ほどと同じ議論にはなってしまうんですけれども、やはり、どちらが大事ということは定めていないと建前では言っていても、結局、学校で学ぶ学問というのは限定されていて、私たち大人というのは、子供たちに何を教えるかということを、優劣をつけて選別して教えているわけです。 やはり、何が重要で何が重要でないかというのは、これは大人の責任としてしっかりと峻別していく必要があると思いますので、何を子供たちに教えていくかというのは非常に大事なことだと思いますので、そこはできれば、一概に言えないだとか、優劣はないという建前論ではなくて、何が大事か、何を子供たちに教えていくべきか、何を次世代に教えていくべきか、これは我々大人の責任として、文科省だけではなく、官民一体となって、国全体で議論をしていくべきだと思っておりま…

特に、社会経験が少ない子供は影響を受けやすいことが指摘されており、児童が動画投稿サイトを見て、バナナを三百本食べると死ぬといった情報を信じているという記事が先日も掲載されていました。 最近、毎日のように報道で取り上げられている生成ＡＩについて伺います。

やっぱりこの今の社会を考えますと、子供から高齢者までスマホを使って、それから今話題のチャットＧＰＴも電力を大変必要とするということも伺っていますし、これからますますこの電力が必要となる社会の中でこの安定供給を失っては、やはり暮らしも困ります、それから産業も困っていくということになりますので、あらゆるエネルギー源を否定することなく、様々イノベーションも、社会的にも技術的にもしっかりと起こしていって、それを総合的に考えていくべきだと私も思っ…

この生成ＡＩの利用については、おっしゃっていただいたように、懸念の点で、やはり子供たちの学習に対する影響ですとか誤情報、それから虚偽情報が蔓延してしまうですとか機密情報の流出、知的財産権の侵害など、本当に多岐にわたる問題点が今課題として上がっているかと思います。 これ、ＡＩ戦略会議でも指摘されているかと思います。

続きまして、生成ＡＩに関して、教育現場における取扱いについて伺いたいと思います。 子供の思考力や表現力への影響について懸念する声があります。

最後に、今日は斎藤委員、熊谷委員、竹内委員からもございましたが、著作権法におけるチャットＧＰＴとかＢａｒｄとか、対話型ＡＩに代表される生成ＡＩの質問、これはもちろんまさにここが主戦場ですかね。 そして、ずっとこわばっていては、世界と伍するって、教育現場に使ったら何か悪いことが起こる、そういうことを指摘する識者が同じ口で世界と伍する技術を、サービスを、世界に羽ばたく子供たちをと言うわけですね。

子供政策の議論の際はいつも感じておりますが、検討をしている間に子供たちは大人になってしまいます。 ＡＩやロボットが社会実装されたソサエティー五・〇に向けて、国家戦略が求められています。

保育所内の雰囲気や音、におい、保育士の表情や子供への接し方など、現場でなければ分からないことも多く、検査の緩和の流れに大きな疑問の声が上がっています。 河野大臣、子供の安全、当事者の声を踏まえ、アナログ規制の見直しの対象から外すべきではないでしょうか。