プロファイリングの範囲ということに関してはなかなかちょっと明確ではなかったかと思うんですけれども、個人自身が、この法律を作ったことによって不利益を受けないように是非ともしっかりと対応をいただきたい、これはお願いであります。
次に、ＡＩ、アルゴリズムの活用の透明性について、これも国家公安委員長にお伺いをします。
今後、国家情報会議における情報分析においてＡＩやアルゴリズムの活用が進むことは避けられません。しかしながら、その判断過程は極めて不透明になりやすく、いわゆるブラックボックス化の問題が指摘をされています。特に、アルゴリズムによるリスク判定や対象抽出が行われる場合、その前提となるデータや設計思想に偏りがあれば、結果そのものがゆがんでしまう可能性があります。にもかかわらず、その判断過程が検証できないのであれば、国民から見れば、なぜ自分が対象になったのか分からないという極めて不透明な状況が生じかねません。
そこで、お伺いをします。
国家情報会議においてＡＩを活用する場合、その分析の妥当性をどのように検証をするのか。また、判断過程においてどの程度の説明可能性を確保するのか。さらに、誤ったアルゴリズム判断によって不利益が生じた場合、その責任は誰が負うのか、システムの開発者なのか、運用主体なのか、それとも最終判断を行った行政なのか。所見をお聞きしたいと思います。
169
あかま二郎(自民)国家公安委員会委員長・内閣府特命担当大臣（防災・海洋政策）
お答えいたします。
本法案が成立した場合、各省庁が保有する多様な情報を、国家情報会議また国家情報局が集約すること、そうなりますが、個人情報等の取扱いのルール自体を何ら変更するものではないと承知をしております。警察における情報の取扱いの観点からも御懸念には及ばないというふうに考えております。
その上で、警察が公共の安全と秩序の維持という責務の範囲内で情報収集を行うべきことや、個人情報保護法等の関係法令を遵守した上で個人情報を取り扱うべきことは当然であり、こうした点について、例えば全国警察の警備部門の責任者を集めた会議であるとか警察庁担当者の出張による指…
この発言のページ
170
川裕一郎(参政)
適時対応していくということでありまして、関連をしまして次の質問に行きたいと思うんですけれども、データ統合とプロファイリングの危険性についてお伺いをします。
複数の行政機関及び警察が保有をする情報が統合されることで、個人の行動履歴、交友関係、購買志向、さらには思想や価値観にまで踏み込んだ推測が可能となる環境が生まれます。これは、利便性の裏側で、個人を点ではなく線、さらには面として把握することを可能にし、結果として、特定の属性や傾向に基づいて人を評価する、また選別するいわゆるプロファイリングの高度化につながります。こうした仕組みは、一歩間違えれば、疑わしき…
この発言のページ
171あかま二郎(自民)国家公安委員会委員長・内閣府特命担当大臣（防災・海洋政策）
プロファイリングなどについての今お尋ねがございましたけれども、国家情報会議であるとか国家情報局においては、各省庁が保有する多様な情報を集約して多角的に分析することを通じて情報の客観性を担保していくこと、そういうふうに承知をしております。そういった情報の取扱いに当たっては、個人情報保護法等、関係法令を遵守して行われるものというふうに承知をしております。
あわせて、救済措置について、これもお尋ねがございましたが、四月十日の本委員会において、内閣官房の政府参考人の方から、各機関、国家情報局も含む各機関の個別の調査活動の何がしかの問題によって個々人に損害等が発…
この発言のページ
- （上の発言）
172川裕一郎(参政)
プロファイリングの範囲ということに関してはなかなかちょっと明確ではなかったかと思うんですけれども、個人自身が、この法律を作ったことによって不利益を受けないように是非ともしっかりと対応をいただきたい、これはお願いであります。
次に、ＡＩ、アルゴリズムの活用の透明性について、これも国家公安委員長にお伺いをします。
今後、国家情報会議における情報分析においてＡＩやアルゴリズムの活用が進むことは避けられません。しかしながら、その判断過程は極めて不透明になりやすく、いわゆるブラックボックス化の問題が指摘をされています。特に、アルゴリズムによるリスク判定や対象抽出が行われる場合、その前提となるデータや設計思想に偏りがあれば、結果そのものがゆがんでしまう可能性があります。にもかかわらず、その判断過程が検証できないのであれば、国民から見れば、なぜ自分が対象になったのか分からないという極めて不透明な状況が生じかねません。
そこで、お伺いをします。
国家情報会議においてＡＩを活用する場合、その分析の妥当性をどのように検証をするのか。また、判断過程においてどの程度の説明可能性を確保するのか。さらに、誤ったアルゴリズム判断によって不利益が生じた場合、その責任は誰が負うのか、システムの開発者なのか、運用主体なのか、それとも最終判断を行った行政なのか。所見をお聞きしたいと思います。
173あかま二郎(自民)国家公安委員会委員長・内閣府特命担当大臣（防災・海洋政策）
一般論として申し上げれば、まず、ＡＩが社会に大きな変革をもたらす中で、治安確保の観点からこれに積極的に対応すること、このことは必要であるというふうに考えております。
その上で、今委員の方からＡＩの活用に伴う責任の在り方等についてお尋ねがありましたけれども、昨年の十二月に政府の人工知能戦略本部において決定された人工知能関連技術の研究開発及び活用の適正性確保に関する指針において、ＡＩを活用する範囲や条件については人間自らが最終的な判断を行うことや、ＡＩがもたらす社会的影響を踏まえ、責任の所在の明確化、責任を果たすための仕組みの構築等により、技術的、制度的、…
この発言のページ
174川裕一郎(参政)
責任の所在は警察庁のＡＩガバナンスの責任者ということで、これは間違いないですかね。
この発言のページ
175あかま二郎(自民)国家公安委員会委員長・内閣府特命担当大臣（防災・海洋政策）
警察庁における、また警察組織におけるということが前提で、いわゆる国家情報会議、これは私の所管というよりは内閣官房長官の方の所管となりますので、運用については、私の方からの答弁は差し控えたいというふうに思います。
この発言のページ