問題が起きてからじゃないと。疑わしい事例というのは、まずそもそもどうやって把握するかという問題はあると思うんですね。で、問題が起きてからじゃないと対応しないと。
問題が起きたというのはどういうときかといったら、その要配慮個人情報を含む重大な機微に触れる情報が外に漏れるなりなんなり、何らかの被害が出ている状況という、深刻な状況になっているような場合が想定されます。このこと自体も問題ですし、そもそも、そのＡＩに読み込ませた情報から個人情報が全く消えているということが確認できる、確立された、今おっしゃいましたけれども、いつどんな度合いにおいても確認できる方法はないということでありますから、個人の権利利益が侵害されない範囲で対応していますというのは、余りにも安易な無責任な御発言ではないかと私は思います。
この学習済みモデルから生成された派生モデル又はファインチューニングモデルについても、統計特例で提供された個人情報削除の確認対象になるのかどうか、お答えいただきたいと思います。既に作られた学習済みモデルから更にちょっとまた進化させて作った、あくまでもこれも統計特例の範囲の中で作成するモデル、又は自社モデルと連結した形で、これもあくまでも統計特例の範囲の中でという限定付きで作られたモデルについてお答えいただきたいと思います。
37
松本尚(自民)デジタル大臣・内閣府特命担当大臣（サイバー安全保障）
開発された後のＡＩモデルに個人情報が残る事態というのは、完全に個人の状態、データ等排斥された後のことでございますから、基本的に想定していないものと承知しておりますけれども、仮に違反が疑われた場合にあっては、個人情報保護委員会において、データの内容とか開発の手法、復元防止のどんな措置を講じていたか、あるいは開発されたＡＩモデルの挙動、総合的に判断して調査と認定をしていくということになります。
これは事後でやることになりますけれども、違反が疑われなくても定期的にモニタリングをするということは我々としても常々言っているところでございますので、そういったモニタ…
この発言のページ
38
石垣のりこ(立憲)
それ、まず、いわゆる公示されているというか、示されている、表示されているものからの確認という話を伺いました。そこの契約上に特に問題がなければ、そこから更に踏み込んで、どのように具体的に積極的に個人情報保護委員会が、触ってみなきゃ分からないわけですよね、そこまでまず踏み込むことができるのかどうなのか、この点における疑問もあります。
そもそも、ＡＩモデルで学習された個人情報について、当該情報が学習済みモデルに残っていないということを確認する一般的な技術的方法というのは存在するのでしょうか。
この発言のページ
39松本尚(自民)デジタル大臣・内閣府特命担当大臣（サイバー安全保障）
お答えします。
ＡＩモデルに係る学習手法には様々なものが存在しておりまして、個人情報が存在していないことを画一的に常に証明できる一般的な技術はありません。ＡＩ開発に用いられたデータの内容、具体的な開発の手法、復元防止のための措置など、考慮して判断する必要がこれはあろうかというふうに思っております。
先ほど申し述べましたけど、ＡＩ開発である限り、開発されたＡＩモデルに個人情報が残る事態というのは基本的に我々は想定していないと承知をしておりますが、仮に違反が疑われた場合は、当然しっかりと対応することは言うまでもございません。
この発言のページ
- （上の発言）
40石垣のりこ(立憲)
問題が起きてからじゃないと。疑わしい事例というのは、まずそもそもどうやって把握するかという問題はあると思うんですね。で、問題が起きてからじゃないと対応しないと。
問題が起きたというのはどういうときかといったら、その要配慮個人情報を含む重大な機微に触れる情報が外に漏れるなりなんなり、何らかの被害が出ている状況という、深刻な状況になっているような場合が想定されます。このこと自体も問題ですし、そもそも、そのＡＩに読み込ませた情報から個人情報が全く消えているということが確認できる、確立された、今おっしゃいましたけれども、いつどんな度合いにおいても確認できる方法はないということでありますから、個人の権利利益が侵害されない範囲で対応していますというのは、余りにも安易な無責任な御発言ではないかと私は思います。
この学習済みモデルから生成された派生モデル又はファインチューニングモデルについても、統計特例で提供された個人情報削除の確認対象になるのかどうか、お答えいただきたいと思います。既に作られた学習済みモデルから更にちょっとまた進化させて作った、あくまでもこれも統計特例の範囲の中で作成するモデル、又は自社モデルと連結した形で、これもあくまでも統計特例の範囲の中でという限定付きで作られたモデルについてお答えいただきたいと思います。
41松本尚(自民)デジタル大臣・内閣府特命担当大臣（サイバー安全保障）
派生モデル等については、これは新しく別のＡＩモデルを開発する場合も当然含まれるんですけれども、大量の個人情報を扱う場合ですから、この個人に関する情報に当たらない状態、要は個人の情報が排斥された状態まで加工をするということが求められることは当然でございますし、そのほか特例にいろいろな縛りが掛かっていますが、それが適用されることも同様でございます。
この発言のページ
42石垣のりこ(立憲)
ということで、どんどん広がっていくわけですよね。最初、提供しました、こういうＡＩモデルを作ります、一つできました。で、そこで終わりじゃなくて、またそれを活用して何らかの統計目的という名前のＡＩが作られていく。その先、どんどんどんどん広がっていったときに、どこまで個人情報保護委員会はちゃんとチェックができるんですか。問題が起きなければ結局分からないですよね、把握すら、入口ちゃんとチェックしないわけですから。本当に無責任だと思うんですね。
このように、本当に悪用されないのか、目的外利用されていないのか、安全に管理されているのか分からない状況で、センシティブ…
この発言のページ
43松本尚(自民)デジタル大臣・内閣府特命担当大臣（サイバー安全保障）
統計作成等を行う事業者の各種の義務を課すことを前提にして、事前の審査、認証制度は求めないということにいたしました。理由は、これは保護と適正な利活用、個人情報の保護と適正な利活用の両立を図ることが旨とする改正であるからにほかなりません。
先ほど、私、一番最初の御質問に答えたように、車運転するのにアクセルとブレーキ踏まないと運転できませんけれども、ある意味、事故を起こすのは怖いからといってアクセルをいつまでも踏まなければ前には進めませんから、今回の特例というのは、入口でハードルを設けるか、出口でハードルを設けるかの問題からすれば、出口のハードルを高くして、…
この発言のページ