ＡＩは機械ですので、例えば一定のデータを学習させて、そうですね、解答例を十個出してみよとか、違うパターンでバラエティーを持たせて百個作ってみろと言われたら作ると思います。
問題は、その中でどれが最も良いとか、相対的に良いという評価をＡＩはなし得ないということで、なので、まさに生成ＡＩとはそういうものなわけですが、作るだけ作らせるというところまではＡＩでいいものが出せる、あるいは少なくともやれることはやれる、それを評価するところがまだ人間にしかできていないというのがお答えになろうかと思います。
大屋雄裕慶應義塾大学法学部法律学科教授
2025年5月22日・第217回国会 参議院 内閣委員会 第16号（外部サイト、新しいタブで開きます） の 105 番目の発言（外部サイト、新しいタブで開きます）（全 116 発言）
前後のやりとり
二点お答えいたします。 一つ目は国際協力の点でございますが、意見の中で言及いたしましたＡＩ開発ガイドライン、総務省のものですね、これには実は国際的議論のためのという言葉がくっついておりまして、ちゃんと英語に訳して世界に向けて発信をしたと。その後の働きかけもあって、実はＯＥＣＤガイドラインの制定に大きく貢献したという実績がございます。 このような形で、実はこれまで、この分野において日本は、先駆けて日米欧の協力のフレームワークをつくり、ある時期までは中国もその協力のフレームワークに応じてくれるというところまでは持っていった実績がございますので、引き続きそ…
御質問ありがとうございます。今までの参考人とほぼ同じ答えになるかと思いますが。 まず、国際協力において主導的なという意味でいうと、やはり日本の戦略は、アメリカのようにデファクト取れるわけでなく、ＥＵみたいにＥＵ・ＡＩ法でブリュッセル効果で世界を支配する、ルールを作るというのもできないので、積極的に国際協力を通じて標準化を進めようとしてきたというのが事実だと思います。その成果がＯＥＣＤのＡＩ原則であり、広島ＡＩプロセス、これは非常に評価が高いですし、今、ＡＩＳＩの国際ネットワーク、村上さんが出ているやつも含めて、積極的に進めているという意味では非常に主導…
104
大島九州男(れいわ)私の認識としては、今、それぞれ参考人、一つ一つの知能ですよね。その知能というのは、今までの経験とか今まで自分がインプットした知識とかそういうところから出てくるわけですよね。 当然、コンピューターもＡＩも、そういうふうに与えられたものでインプットされたやつからアウトプットしていくという。だから、もっとちょっと分かりやすく言うと、働く側の人の声だけをずっと入れていたらこれは労働者の考え方、経営者の声だけずっと入れたらその経営者の考え方、で、これが議論し合うと労使交渉になるみたいなね。でも、要は、その一つのコンピューターの中にそれこそ労働者の声とそして個々の…
- （上の発言）
ＡＩは機械ですので、例えば一定のデータを学習させて、そうですね、解答例を十個出してみよとか、違うパターンでバラエティーを持たせて百個作ってみろと言われたら作ると思います。
問題は、その中でどれが最も良いとか、相対的に良いという評価をＡＩはなし得ないということで、なので、まさに生成ＡＩとはそういうものなわけですが、作るだけ作らせるというところまではＡＩでいいものが出せる、あるいは少なくともやれることはやれる、それを評価するところがまだ人間にしかできていないというのがお答えになろうかと思います。
106
大島九州男(れいわ)よくＳＦの世界じゃないけども、我々、今回サイバー法案もやりましたと。 じゃ、当然このＡＩ、コンピューターですから、いろんな外から攻撃を受けて、意図せぬそういう脳に変換されていると。我々人間でも、例えば、我々は政党人ですから政党で決まっていることを当然言うと思っていたら、突然何か女系天皇がどうだとかいうようなことを言ったみたいなね、いうような、えっ、何これというような、おかしいんじゃないの、壊れたのみたいなね、いう部分を、これを修復をしていって直していきながらみたいなこともあるんでしょうけど、実際、そういう意図せぬことをやられるというようなことも当然ある…
コンピューター自体は、あるいはＡＩというプログラム自体は、その書かれたとおりにしか動きません。
問題は、我々人間がこう動いてほしいなという思いをプログラムという形で記述するわけですが、そこがパーフェクトではないということですね。つまり、いわゆるバグという問題が起きて、それはコンピューターの誤動作だというふうに我々はつい表現してしまうのですが、プログラムは正常に動作しているんです。人間の表現が間違えたのですね。そのような問題はＡＩについても常に起こり得ます。
108
大島九州男(れいわ)済みません、何かちょっと我々も素人であれなんですけど、ブラックボックス化っておっしゃったですよね、先ほど。何でそれが出たか分からないというような、だから、自分たちはこういうふうな意図でインプットしたんだけど、こういう答えが出てくるというのはちょっと理解に苦しむなというのは、勝手にその人工知能がそこで何か違う思考というか違うものを取り入れてやっていると、そういう認識でいいんですかね、そのブラックボックスというのは。大屋さん。