プロファイリング、アルゴリズムに関する課題ですけど、事業者が違法又は不法、不当な行為を助長したり、又は誘発するおそれがある方法で個人情報を利用することは禁止されています。
したがって、ＡＩの利用や開発における場合においても同じですので、このプロファイリングについて言えば、性別や戸籍等によって正当な理由なく本人に対する違法な差別的取扱いがなされたり、あるいはアルゴリズムについて違法な差別が誘発されるおそれがあるような、いずれにしても、そういったＡＩモデルを使ったり入力したりするということは、これは違法になりますから、やってはなりません。
それからもう一つは、結果的に差別的な取扱いになっちゃった場合、意図しなくても起こり得ると思うんです。そういったものに関しては、察知したすぐにその使用をやめるとか、そういったような処置をせずに漫然と使って、それも予期しないことが起こりましたというのは言い訳にはならないだろうと思っていますから、そういった配慮というのがきちんと必要だろうと思います。
こういった内容は既にガイドラインとして記述されているんですけれども、ＡＩについてはまだそういったことは適用されていませんので、今回ガイドライン作るに当たっては、ＡＩについても同じものが適用されるんだということは明記して、注意喚起、周知をしていきたいと思っています。
42
岸真紀子(立憲)
その辺が曖昧だとやはりいろんなトラブルが事業者間で起こりかねないので、分かりやすくしていただきたいというところです。大臣がおっしゃっていただいたみたいに、海外、外国の場合はもっと深刻で、これまた日本の法律ではないので非常に難しいところがあるというふうに考えています。その辺りも、ちょっと余りにも、事業者を選定していないため、やっぱり不安だという国民の声は多いというところなので、どう抑止的にできるかというのは本当に難しい問題だなというふうに感じています。
次の質問です。
統計処理前の個人情報、個人関連情報に対し、法違反を問わずに本人の利用停止、消去請求は…
この発言のページ
43
松本尚(自民)デジタル大臣・内閣府特命担当大臣（サイバー安全保障）
今お話の出ました自己情報コントロール権というのについては、内容や範囲、法的性格に関して様々な見解があると僕も承知しております。
明確な概念としてまだ確立されていませんので、そういったところに基づいて何かを決めるということはできないと思いますけれども、一番最初に御質問あった、個人情報保護法の目的である、個人情報の有用性に配慮しつつ権利利益を保護するということ、これはしっかりと守らなきゃいけないし、それを実現するためのルールとして、この個人の権利利益を保護するために必ずしも本人の関与によらなければならないというわけではなくて、その場合においては個人情報の適…
この発言のページ
44岸真紀子(立憲)
ちょっと分かりづらいかもしれませんが、後段に出ていた、私が質問の後段で言った自己情報コントロール権というのは、もうどんどんどんどんやっぱりデータが出回っていく時代だからこそ、やはりどこかで整理をしていく必要があると考えています。大臣おっしゃったとおり、いろんな意見があって難しいというのも分かるんですが、やっぱりこういう議論は進めていただきたいなということはお願いしておきます。
次に、ＡＩは完全ではないというふうに多方面から指摘がされているところです。例えば、プロファイリングの問題であったりアルゴリズムの問題、個人の特定などの課題は置き去りにしたままでの…
この発言のページ
- （上の発言）
45松本尚(自民)デジタル大臣・内閣府特命担当大臣（サイバー安全保障）
プロファイリング、アルゴリズムに関する課題ですけど、事業者が違法又は不法、不当な行為を助長したり、又は誘発するおそれがある方法で個人情報を利用することは禁止されています。
したがって、ＡＩの利用や開発における場合においても同じですので、このプロファイリングについて言えば、性別や戸籍等によって正当な理由なく本人に対する違法な差別的取扱いがなされたり、あるいはアルゴリズムについて違法な差別が誘発されるおそれがあるような、いずれにしても、そういったＡＩモデルを使ったり入力したりするということは、これは違法になりますから、やってはなりません。
それからもう一つは、結果的に差別的な取扱いになっちゃった場合、意図しなくても起こり得ると思うんです。そういったものに関しては、察知したすぐにその使用をやめるとか、そういったような処置をせずに漫然と使って、それも予期しないことが起こりましたというのは言い訳にはならないだろうと思っていますから、そういった配慮というのがきちんと必要だろうと思います。
こういった内容は既にガイドラインとして記述されているんですけれども、ＡＩについてはまだそういったことは適用されていませんので、今回ガイドライン作るに当たっては、ＡＩについても同じものが適用されるんだということは明記して、注意喚起、周知をしていきたいと思っています。
46岸真紀子(立憲)
ありがとうございます。
アルゴリズムとかプロファイリングでいうと、やはり就職差別につながった事例もありますね、ＡＩを使っての就職差別というものもありますし。
私も、何度も言いますが、行政に携わってきた者として、ＡＩを使うのはいいけれども、そのＡＩを使ったがゆえにアルゴリズムで本当は保護すべき人が保護されなくなってしまうとかという恐ろしさがあったり、今回はＡＩ開発の方なので、そこで万が一にでもこういったプロファイリングとかアルゴリズムに使われてはいけないと、でも明確にそれは禁止されているというふうになっているので、先ほどから言っているモニタリングをどう…
この発言のページ
47佐佐脇紀代志個人情報保護委員会事務局長
お答え申し上げます。
個人情報保護法はあくまでも個人情報の保護の目的に照らした行政規制としての法律でございますので、個人データの第三者提供に関する規律ではございますが、それとは別に、委員御指摘のような、民法で規律される契約につきましては、それは合意に基づく約束でございますので、それは民法に基づき保障されるわけでございます。それらを覆すような効果が行政規制、行政法規であります個人情報保護法は持ちませんので、先ほどのクラウドの契約もしかりでございますけれども、それらは維持され続けるということでございます。
何ら当事者に、それをほごにしてデータのやり取りを…
この発言のページ
48岸真紀子(立憲)
そうですよね。そうしないと、経済活動にもストップが掛かってしまうおそれがあると思うんですよ。だって、そうじゃないと信頼性のあるクラウドサービスを使えなくなってしまうということになるので、これはどう考えてもやっぱり制限があるよと。
でも一方で、これ確認させてください。契約書に小さく書かれていたり途中で変更となった場合などに気付かずに利用してしまう可能性もあるかもしれない、否定できないというところなんです。これは、お願いしたいのは、消費者庁ともやっぱり連携を取って、今回の個人情報保護法がこんなふうに変わりましたよと、こういうことは違いますよというのをちゃん…
この発言のページ