2026年6月18日・第221回国会 参議院 法務委員会 第16号（外部サイト、新しいタブで開きます） の 94 番目の発言（外部サイト、新しいタブで開きます）（全 134 発言）
要するに、生成ＡＩというのは統計学や確率論を基礎としていて、誤情報や倫理的に正しくない情報が一定程度避けられないのだとすると、やはりその生成ＡＩの限界をきちんと国民に周知すべきだと思います。また、監督官庁もありませんので、そういった回答を発信する事業者の規制も行う必要があると思います。事業者は、防止が可能ならきちんとそうすべきであるし、防止がもうできないというのなら、相談相手にするのはやめるべきではないかということも考えなければなりません。
次に、法務省にお尋ねしますが、対話型の生成ＡＩが自殺を助長するような回答をして自殺した場合、この場合はＡＩ事業者に刑事上の自殺関与罪や民事上の不法行為責任が発生することはあるのでしょうか。
お答えいたします。
一般論として申し上げますと、生成ＡＩにおきましては、誤った情報や倫理上好ましくない回答など、不適切な出力をする場合があると承知をしてございます。
その主な要因といたしましては、生成ＡＩは、あらかじめ大量のデータを学習し、前後の文脈を踏まえて統計的に確からしい単語をつなげて文章を生成するといった仕組みであることから、事実と異なる情報をもっともらしく出力する、あるいは不適切な情報を出力するといった場合があること、また、学習データに含まれる不正確な情報や偏りが出力結果に影響を及ぼすことなどが挙げられます。
以上でございます。
では、そうした現象が起きるのを防止することは可能なのでしょうか。
内閣府といたしましては、ＡＩ法に基づき昨年十二月に作成いたしましたＡＩの適正性確保に関する指針に基づきまして、不適切な出力の抑制に向けて最新の技術と知見を活用して取り組むよう促しているところでございます。こうしたことも踏まえまして、ＡＩを開発、提供する多くの事業者におきましては、不適切な出力をできるだけ抑制するよう対策を講じてきているものと承知をしてございます。
とはいえ、生成ＡＩの不適切な出力を完全に防ぐということは現在の技術では困難であるというのが一般的な理解であると認識してございます。
要するに、生成ＡＩというのは統計学や確率論を基礎としていて、誤情報や倫理的に正しくない情報が一定程度避けられないのだとすると、やはりその生成ＡＩの限界をきちんと国民に周知すべきだと思います。また、監督官庁もありませんので、そういった回答を発信する事業者の規制も行う必要があると思います。事業者は、防止が可能ならきちんとそうすべきであるし、防止がもうできないというのなら、相談相手にするのはやめるべきではないかということも考えなければなりません。
次に、法務省にお尋ねしますが、対話型の生成ＡＩが自殺を助長するような回答をして自殺した場合、この場合はＡＩ事業者に刑事上の自殺関与罪や民事上の不法行為責任が発生することはあるのでしょうか。
お答えいたします。
犯罪の成否は、捜査機関により収集された証拠に基づき個別に判断されるべき事柄でありますので、法務当局としてはお答えを差し控えますけれども、その上で、あくまで一般論として申し上げますと、刑法二百二条の自殺関与罪は、人を教唆し若しくは幇助して自殺させた場合に成立するものと承知しているところでございまして、例えば、生成ＡＩを提供する事業者が、生成ＡＩを利用して人を教唆し若しくは幇助して自殺させたと認められるような場合においては、自殺関与罪が成立することもあり得るのではないかと考えられるところでございます。
私からは民法を所管する立場から御答弁申し上げますが、お尋ねのような事案においてＡＩ事業者が民法上の不法行為責任を負うかどうかについては、個別の事案における具体的な事情に即して判断する必要があり、一概にお答えすることは困難でございます。 その上で申し上げると、民法七百九条において、「故意又は過失によって他人の権利又は法律上保護される利益を侵害した者は、これによって生じた損害を賠償する責任を負う。」と規定されております。一般論としては、ＡＩが自殺の教唆等に当たる回答をした場合においてＡＩ事業者の不法行為責任を負うかどうかについては、個別の事案における具体的…
要するに、事業者が自殺防止のための安全配慮に関していかなる注意義務を負っているかということであり、また、具体的注意義務としてとるべき措置や対策の中身というのを、これは、日本でもこのような、自殺のような、あるいはそれを訴えるような事件が起きる前に、きちんと規制をしなければならないのではないかと思います。 次に、次の質問、ちょっと次飛ばして、一旦、三から行きまして、二を後回しにさせていただきますが、三の外国資本による土地買収についてお尋ねします。 外国資本による土地買収は続いていて、京都でも長らく話題でありますし、また、参政党も、四年前の参議院選挙のとき…