お答えいたします。ありがとうございます。
まず、例えば信用情報につきましても、これまでに存在してきた金融機関は、例えば事故情報を基に信用を計算しておりますし、それについては情報開示のシステムがございまして、本人がひょっとしておかしいのではと思ったら確認をすることができる、あるいは訂正の申立てができるということになっております。しかし、ＡＩの発展によって、そのような統制を受けていない業者あるいは業態というものが生まれてくる。それを一つのリスクとして考えていかなければいけないというふうに考えておるということが第一であります。
もう一つは、ＡＩというのはそれ自体技術でして、その技術なりの癖がある、あるいは特徴があるものであります。例えば、生成系ＡＩであればハルシネーションと呼ばれる全く存在しない情報をあたかも本当のものであるかのように提示するという現象が生じることは広く知られているわけですが、この広く知られているというのはもちろんＡＩに関係する人々の間でということであり、残念ながら現段階においては市民の間でというようにはなっていないと思います。
第一に、それに対する対策としては、学校教育の中にＡＩの利用法、利活用法、逆にその問題点というのを組み込んでいくことが必要だと考えておりまして、実際、大学などではそのような観点からの教育が始まってきているところだと認識しています。
ただ、問題なのは、議員からも御指摘ありましたが、中高年層のように既に学校を出られたという方、この方々にどうやって情報を届けていくかというのは一つの大きな課題であり、私自身としては、マスメディアにそういうところは頑張っていただきたいと思っているところではありますけれども、なお課題として政府の立場からも検討していく必要があるのではないかと思っております。
以上です。
42
竹谷とし子(公明)
公明党の竹谷とし子でございます。
四人の先生のお話を伺いまして、大変勉強になりましたし、また興味深い点が多々ありました。ありがとうございます。
まず、村上参考人に伺いたいと思います。
日本がイノベーション進まなかった理由として、前例踏襲、保守的な日本企業、まさにそうだなということを思いましたけれども、ＡＩの安全性を担保すれば利活用とイノベーションはできるだろうと、本当にそうだなということも思いました。
国及び自治体、行政側でも活用していこうということでこの法案の中でうたわれておりますけれども、自治体、私、東京なんですけれども、東京の各自治体でも、…
この発言のページ
43村村上明子独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長
ありがとうございます。
御指摘いただいたまず前段のところで、自治体、国が活用していくというところは非常に私も期待しているところでございます。
〔委員長退席、理事磯崎仁彦君着席〕
私個人としては、東京都のＡＩ戦略会議の方にも参画させていただいておりまして、東京のような大きい自治体は先んじてそういう安全性の担保なども含めてできることが多いと思うんですけれども、東京都に比べると、比較的小さい自治体というのは自分たちでそれを全部やり切るのは難しいと思っていますので、そういった大きい自治体が率いることでほかの自治体も追随できるようなことというのを政府も主導し…
この発言のページ
44竹谷とし子(公明)
ありがとうございます。
続きまして、大屋先生に伺いたいと思います。
〔理事磯崎仁彦君退席、委員長着席〕
法哲学ということで、大変興味深く聞かせていただきました。事前に配付を、提供をいただきました先生の論文ですね、「ＡＩによる危機、ＡＩをめぐる危機」ということで、こちらももう十分そしゃくできているか分からないんですけれども、非常に深い洞察をお示しいただきました。
この中にプロファイリングの問題ということで御紹介をいただいております。信用情報も具体の例に挙げていってくださっておりますけれども、本当にＡＩによるものじゃなくても、この信用機関というかの信…
この発言のページ
- （上の発言）
45大大屋雄裕慶應義塾大学法学部法律学科教授
お答えいたします。ありがとうございます。
まず、例えば信用情報につきましても、これまでに存在してきた金融機関は、例えば事故情報を基に信用を計算しておりますし、それについては情報開示のシステムがございまして、本人がひょっとしておかしいのではと思ったら確認をすることができる、あるいは訂正の申立てができるということになっております。しかし、ＡＩの発展によって、そのような統制を受けていない業者あるいは業態というものが生まれてくる。それを一つのリスクとして考えていかなければいけないというふうに考えておるということが第一であります。
もう一つは、ＡＩというのはそれ自体技術でして、その技術なりの癖がある、あるいは特徴があるものであります。例えば、生成系ＡＩであればハルシネーションと呼ばれる全く存在しない情報をあたかも本当のものであるかのように提示するという現象が生じることは広く知られているわけですが、この広く知られているというのはもちろんＡＩに関係する人々の間でということであり、残念ながら現段階においては市民の間でというようにはなっていないと思います。
第一に、それに対する対策としては、学校教育の中にＡＩの利用法、利活用法、逆にその問題点というのを組み込んでいくことが必要だと考えておりまして、実際、大学などではそのような観点からの教育が始まってきているところだと認識しています。
ただ、問題なのは、議員からも御指摘ありましたが、中高年層のように既に学校を出られたという方、この方々にどうやって情報を届けていくかというのは一つの大きな課題であり、私自身としては、マスメディアにそういうところは頑張っていただきたいと思っているところではありますけれども、なお課題として政府の立場からも検討していく必要があるのではないかと思っております。
以上です。
46竹谷とし子(公明)
ありがとうございます。
ＡＩは便利なんですけれども、間違えることもあるし、いろんな問題があるというふうにも思っています。
ある人が、国会質疑にＡＩ使う人をどう思いますかとＡＩのある製品に聞いたら、そういう国会質問に使っちゃうというのは、何というんでしょうか、ばかにして、笑っちゃうねという感じで言っていたということを言われまして、ああそうなんだなと、それぐらいのつもりで使いこなしていくというのが人間には、人間中心のＡＩなんじゃないかなというふうに感じたところでございます。ありがとうございます。
次に、永沼参考人に伺いたいと思います。
この制度運用に…
この発言のページ
47永永沼美保一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査／日本電気株式会社ＣＤＯ Ｏｆｆｉｃｅ主席プロフェッショナル
ありがとうございます。
開発者、それから提供者、また利用者といったところがＡＩのところには、事業のところには出てくると思うんですけれども、まず、引渡しをして、それぞれの、まずタスク部分のところで何をするかというところもありますけれども、それぞれに、この間のところがどのように線引きがされるのかというところがＡＩのときにはもう少し明確になっていく必要もございます。
ここのところで申し上げているこの責任分担の明確化というところは、今、具体的にしてここのところをこう変えてというところではないんですけれども、今あるこの三者、特にここのところでは開発者、提供者と…
この発言のページ
48竹谷とし子(公明)
ありがとうございます。
また、③番目の国際的整合性の確保というところで、ＡＩの国際ルール形成への関与を強化すべきということで御提案いただいております。
本当にこれとても大事なことだというふうに思いますけれども、こちらどのような方法が考えられるか、また、それをいかに政府として後押しをしていくことができるかということについてもお考えを伺えればと思います。
この発言のページ