お答えいたします。
まず、ブラックボックス化というところですけれども、これブラックボックスには実は二つありまして、一つはその中身を、ロジックを公開したくないというブラックボックス、それから、生成ＡＩを利用したものによくあるんですけれども、そのシステムを作った者ですらなぜその出力が出てくるのか分からないという、そういうブラックボックスが両方ございます。
それをちょっと一緒に議論をしてしまうとややこしくなるので、今その人事採用のところでいうと、例えば効率化で、この送られてきたレジュメに対して、何万とある中から面接が可能あるいは人が読むのに可能な人数のところにあるルールを持って絞り込むというようなことに利用する場合と、採用に近いところに、割と比較的採用したら活躍してくれる人をＡＩのモデルを作って選別するというような、そういう形で作るような、そういうモデルがありますけれども、今、前者の方に関して言うと、実はその各社がどういう人をフィルタリングするのか、どういう人を選ぶのかというルールはその会社の戦略そのものなんですね。なので、それを公開しろというと、そこは会社としては難しいということになります。
一方で、後者のようなものというものは、例えば先ほど申し上げたような差別の再生産であったり、これ今採用の話をしていますけれども、例えば、自治体で例えば何か補助金を出すときの判断にＡＩを使うなんていったときには、どういう基準でそのシステムを作って動かしているのかというのを透明性にするべきというのはしっかりとやっていかなきゃいけないことになります。
なので、オープンにできるかどうかというのに、そのまず技術的な二つの区別があるということ、それから、戦略的なのか、それとも戦略的でないところでそのロジックを使っているのかというところというのを分類して考えて、公開するべきところ、公開しなくてもよいところというのを見るべきではないかなというふうに思います。
以上です。
90大大屋雄裕慶應義塾大学法学部法律学科教授
ありがとうございます。
個人情報保護の世界で申し上げますと、やはり明確な悪用を意図している事業者とか個人がおるということを前提に我々は法規制を考えていかなければいけない、いわゆる名簿屋問題などがそれに当たると思っております。
他方で、ＡＩ技術についていいますと、例えば人類を滅ぼす結果を生み出すようなＡＩを開発しようとする事業者というのがどこにいるかと考えると、余りいなさそうなんですね。先ほど申し上げましたが、やはり基本的には、事業者は、我々が喜んでその事業者の提供するサービスを使ってお金を落としてくれることが大好きなのであって、そのようなウィン・ウィ…
この発言のページ
91市市川類一橋大学イノベーション研究センター特任教授／東京科学大学データサイエンス・ＡＩ全学教育機構特任教授
御質問ありがとうございます。
私は個人情報保護法そのものの専門家ではございませんが、やはり技術とこういった権利関係に係る制度という意味でいうと、やはり技術が変わってくるとその制度の在り方も変わってくるのかなと、こういうふうに思っています。
プライバシーに係る議論というのは元々、昔はなくて、一八〇〇年代後半になって新聞とか書籍とかいう技術が出てきたときに、それに対してプライバシーというのが守らなきゃいけないんじゃないかということで、まずは新聞関係の規制として始まり、その後、一九六〇年代ぐらいに、日本でいうと、いわゆるプライバシーのあの有名な判決、ちょっ…
この発言のページ
92
井上哲士(共産)
ありがとうございます。
国民のいろんな不安の一つに、ＡＩによる人事採用や評価でいわゆるこのブラックボックスやバイアスの問題ということがいろいろ出ております。
先日、私、この問題質問しますと、政府の答弁では、新たな指針で、生成ＡＩが格差、差別を助長するような出力をしないような措置をＡＩ開発者が講じることについて盛り込むことを検討していると、こういうお話で、一般的なお話だったんですけど、そういうものを出力しないようなことをＡＩ開発者が講じるというのは、具体的にどういうことになるのか。これ、村上参考人と永沼参考人、それぞれお願いします。
この発言のページ
- （上の発言）
93村村上明子独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長
お答えいたします。
まず、ブラックボックス化というところですけれども、これブラックボックスには実は二つありまして、一つはその中身を、ロジックを公開したくないというブラックボックス、それから、生成ＡＩを利用したものによくあるんですけれども、そのシステムを作った者ですらなぜその出力が出てくるのか分からないという、そういうブラックボックスが両方ございます。
それをちょっと一緒に議論をしてしまうとややこしくなるので、今その人事採用のところでいうと、例えば効率化で、この送られてきたレジュメに対して、何万とある中から面接が可能あるいは人が読むのに可能な人数のところにあるルールを持って絞り込むというようなことに利用する場合と、採用に近いところに、割と比較的採用したら活躍してくれる人をＡＩのモデルを作って選別するというような、そういう形で作るような、そういうモデルがありますけれども、今、前者の方に関して言うと、実はその各社がどういう人をフィルタリングするのか、どういう人を選ぶのかというルールはその会社の戦略そのものなんですね。なので、それを公開しろというと、そこは会社としては難しいということになります。
一方で、後者のようなものというものは、例えば先ほど申し上げたような差別の再生産であったり、これ今採用の話をしていますけれども、例えば、自治体で例えば何か補助金を出すときの判断にＡＩを使うなんていったときには、どういう基準でそのシステムを作って動かしているのかというのを透明性にするべきというのはしっかりとやっていかなきゃいけないことになります。
なので、オープンにできるかどうかというのに、そのまず技術的な二つの区別があるということ、それから、戦略的なのか、それとも戦略的でないところでそのロジックを使っているのかというところというのを分類して考えて、公開するべきところ、公開しなくてもよいところというのを見るべきではないかなというふうに思います。
以上です。
94永永沼美保一般社団法人日本経済団体連合会デジタルエコノミー推進委員会国際戦略ＷＧ主査／日本電気株式会社ＣＤＯ Ｏｆｆｉｃｅ主席プロフェッショナル
ありがとうございます。
ここは、今お話にありましたように、各社のちょっと戦略というか、その中の内部の話になるところがありますが、一般的な話として考えたときに、各社の中ではやはりそのデータの扱いのところについては、以前の御質問のときにも申し上げましたが、ルールというものをやはり設けております、私どもの中でも。
そのときに、各社の中でその入力データに関して、出力データに関して、その扱いに関してというところのやはりルールにのっとった形でどうしていくかというところが戦略になってくると思いますけれども、そういったところで実はどのくらいのことがやはり決められてい…
この発言のページ
95井上哲士(共産)
今の問題も含めて、大体政府はこの間、基本的には既存法とガイドラインを組み合わせて対応と、こういうことなんですが、結局その事業者任せになってしまうんじゃないかという、こういうおそれもあるわけなんですが、ヨーロッパなどでやっているような、いわゆる第三者のチェック体制というのも必要ではないかと思うんですが、これ、村上参考人と大屋参考人、それぞれお願いします。
この発言のページ
96村村上明子独立行政法人情報処理推進機構ＡＩセーフティ・インスティテュート所長
ありがとうございます。
今、既存法とガイドラインでしっかりと見ていくといったところは、まさにこの法案での指針なんですけれども、例えば人事採用であるとか、そういった人の選別にあるようなものというものに関して一定のガイドラインを設けたときに、そのガイドラインに従っているかどうか、あるいはガイドラインに従っていることを透明性高くしているかどうかということは、何らかの外に分かる形で示すということで対応ができるのではないかなというふうに思っております。
以上です。
この発言のページ