AIエージェントは国会でどう議論されたか

委員御指摘のとおり、政府においても、一定の自律性を持ってタスクを実行するＡＩエージェントを活用していくことについては、職員の業務の効率化また質の向上を図る上で今後も必要と考えております。 一方で、ＡＩエージェントには意図しない行動などのリスクが生じ得ることから、ガバナンスの確保は非常に重要であると考えておるところでございます。

また、ＡＩエージェントのお話でございますが、体制構築に関する御指摘については、本日決定をいたしましたＡＩ基本計画案においても、社会課題の解決や、行政サービスの質の向上、効率化に向けて、ＡＩエージェントを含め、積極的にＡＩを活用することとさせていただいております。

特に御指摘ありました管理職層につきましては、確かにデジタル庁内でも、私も人のこと全く言えないんですけれども、利用が少ないというような状況でございますけれども、ＡＩ基本計画において指定職、管理職による率先した利活用を促す仕組みの導入ということが明確に位置付けられておりまして、こうしたことを踏まえた対策を講じてまいりたいと考えてございまして、具体的には、指定職や管理職にも需要があると考えられる深い情報分析機能ですとか政策立案の壁打ち機能とい…

そんなわけですので、私はやはり、このＡＩ時代において重要なのは、東京とか地方とかいう対立とかではなく、日本中の研究者がどこにいても世界最高水準の計算資源、データ基盤、研究クラウド、ＡＩエージェントなどのアクセスができるというようなことも重要じゃないかなと思っております。

今お答えもいただきましたが、現在、デジタル庁を中心に、省庁横断での生成ＡＩエージェントの活用に向けたガイドラインが整備されているということでありますが、その現状と今後の方向性についてお聞かせいただきたいと思います。 ＡＩによる攻撃にはＡＩで対抗する必要がある、そういう問題意識を持っていただいて、偽情報への対処も視野に入れて政府内にＡＩエージェントの体制を構築する必要があるというふうに考えますが、ここも政府の考え方をお聞かせいただきたいと思います。

それでは、今年の夏をめどに改定を予定している人口知能基本計画についてでありますけれども、先ほど来言っております住民目線のＫＰＩの設定と公表、行政ＡＩ活用ルールの整備、質疑はしておりませんけれども先ほど申し上げました、省庁横断的なＡＩエージェントの体制の構築、ＡＩ偽情報を見抜くためのリテラシー教育の推進、この四点を計画に盛り込んでいただきたいなというふうに思いますが、政府の方針をお聞かせいただきたいと思います。

そんなわけですので、私はやはり、このＡＩ時代において重要なのは、東京とか地方とかいう対立とかではなく、日本中の研究者がどこにいても世界最高水準の計算資源、データ基盤、研究クラウド、ＡＩエージェントなどのアクセスができるというようなことも重要じゃないかなと思っております。

今お答えもいただきましたが、現在、デジタル庁を中心に、省庁横断での生成ＡＩエージェントの活用に向けたガイドラインが整備されているということでありますが、その現状と今後の方向性についてお聞かせいただきたいと思います。 ＡＩによる攻撃にはＡＩで対抗する必要がある、そういう問題意識を持っていただいて、偽情報への対処も視野に入れて政府内にＡＩエージェントの体制を構築する必要があるというふうに考えますが、ここも政府の考え方をお聞かせいただきたいと思います。

それでは、今年の夏をめどに改定を予定している人口知能基本計画についてでありますけれども、先ほど来言っております住民目線のＫＰＩの設定と公表、行政ＡＩ活用ルールの整備、質疑はしておりませんけれども先ほど申し上げました、省庁横断的なＡＩエージェントの体制の構築、ＡＩ偽情報を見抜くためのリテラシー教育の推進、この四点を計画に盛り込んでいただきたいなというふうに思いますが、政府の方針をお聞かせいただきたいと思います。

最近は、やはりＡＩエージェントが研究者同士を結び、ＧＰＵや研究クラウドが全国の大学をつないでいる時代です。

こうした脅威に対抗するために何が必要かといいますと、ＡＩ生成コンテンツを判別、制御する技術の開発の支援、そして、生成ＡＩによる偽情報の検知、対処、これを担う省庁横断的なＡＩエージェントの体制の整備、その情報を受け取る国民のリテラシーの向上、教育、これがまさに人工知能基本計画の政策課題だというふうに考えております。

怪しいというところをもう先にＡＩとかがピンポイントでついて、そこを調べていくみたいな部分があると思いますので、そうであれば、人数は少ないというか、でも今後、六百七万人どころかもう一千万人とか、もう何千万人のＡＩ解析というか、それがどうかというのを見るときに、やはりＡＩエージェントの時代ですので、是非その辺の世界最高水準データのガバナンス機関みたいなのが日本でできるとすばらしいなとか思うんですけれども、その辺りも含めてちょっとお話しいただ…

今、検索拡張生成やＡＩエージェントがどんどん発達していくと、モデルの性能差というよりも、どんなデータベースにつながっているのかの方が重要になるのではないかなと素人ながら思っています。

今、世界は、生成ＡＩ、大規模言語モデル、ＡＩエージェントなど、既に次のパラダイムに突入しています。

ただ、やはり、まだまだそのようなサービスの需要というのはこれから高まってくる可能性があって、民間側でも同じようなその信頼性を持った情報を届けるというサービスが多分出てくると思います、間違いなく、このＡＩエージェントになって。

そして、次の時代を見据えて考えていかなければならないのは、ＡＩエージェントというものが今後その主軸にも多分なってくると思います。 特に、地元に対しての、郵便の住所録を使って、様々な皆さんに自分の主張というものをこの政治家の皆さんはお届けをするんですけれども、多分、時代的に、これＡＩエージェントとかが出てくると、住所録を自分で持っていなくても、例えば僕は尼崎なんで、尼崎の市民の方々、五十万人、世帯数でいったらその半分ぐらいというところの何十万、何万というところにこの資料をお届けしてくださいと言うたら、もうそれで届くような時代に多分なってくると思います。

これはサービスの方ですけれども、自治体側の努力だけではなくて、国民側、つまりサービスを受ける側でも、例えば、スマホにＡＩエージェントの搭載されたものを使いますと、ＡＩエージェントが代理人として、ネットワークを通じて役所の方に情報を取りに行くということなども可能ですので、一方からだけではなく、両方から、情報を与えに行ったり、こっちから取りに行ったりというのを活用していただいて、更に進めていただければと思います。

こういったバイブコーディング、ＡＩエージェントの活用、必要不可欠であるというところと、今年の秋にもというかなり早いタイムラインでもろもろ取り組んでいただいているところ、大変心強く受け止めております。 中央省庁だけでなくて、自治体においても職員がＡＩそしてＡＩエージェントを安全に利活用できる環境づくりは大変重要で、ガイドライン整備等で総務省が主導すべき課題ではないかと考えます。

その上で、一歩先を見据えると、民間企業では既に次の段階であるＡＩのエージェント、ＡＩエージェントと呼ばれるものの活用に進んでいると承知をしております。 ＡＩエージェントは、業務や調査を任せるだけではなくて、例えばバイブコーディングと呼ばれるような、これは、専門のプログラミングの知識がなかったとしても、日本語でＡＩに指示をしながら自らツールを作っていくと、プログラミングをできるような手法でございますが、こういったことを駆使しながら、現場の企業の職員が自分たちでツールを作りつつ業務をＡＩに遂行させるというところも既に始まっておるところでございます。

そうした中でも、この労働投入量が加速度的に増やすことが難しい中にあっても、日本経済の成長軌道に乗せていくためには、製造現場におけるフィジカルＡＩを効果的に導入していくこと、また各業界における企業でＡＩエージェントを積極的に導入する、こうしたことを通じて生産性を向上させていくことが極めて重要であるわけであります。

ビビアン外務大臣、ここはすごくて、ナノクローというオープンソースのソフトウェアを使いながら、自作のＡＩエージェントを作って、それを業務に活用しておられるらしいんですね。

例えば、教員、補助員、学校事務員等の増員、あるいは制度の見直し、それからＡＩエージェントなどの最先端技術の活用、さらには財源問題。

ただ、そのときは人間のハッカーが主体的に、ＡＩをサブとしていろいろ使って攻撃していくということだったと思うんですが、これからは、私に言わせるとＡＩエージェント型万能ハッカーということで、ＡＩが自分で考えて、指示はこれを取ってこいということだけで、あとは自由自在に、ある意味では万能金庫破りのような状況にフェーズが変わった。

ですから、その答弁というのは、私が本会議で聞いたときに同じ答弁があったので、そうじゃなくて、私が言うところのＡＩエージェント型万能ハッカーに対する対応として、一体、基幹インフラにどういう対応を具体的に促していくのか、このことを聞いているんです。

ある意味では、万能金庫破り、どんな金庫でも開けてしまう、核兵器並みの脅威とも言われておりますし、私は、ＡＩエージェント型万能ハッカーというような表現がいいんじゃないか、いいんじゃないかというか、脅威を示す一つの表現になるんじゃないかと思うんですけれども。

ＡＩは、単なる対話ツールにとどまらず、複数のシステムを横断して自律的に目的を達成するＡＩエージェントへと進化しつつあります。 このＡＩエージェント時代の到来は、行政、産業、地域社会、この在り方そのものに変革をもたらす転換点であると私も認識をしているところでございます。