ここでは、昨今、日本の社会で話題になっている人工知能やAIと呼ばれる、コンピュータを利用した技術を、人間はどこまで信用し、その結果にどこまで頼って社会の営みができるかについて議論することで、どのような疑問に答えるのかを考えます。

ここで議論したいこと、すなわち、主題は、人間社会は、「人工知能をどこまで頼り、信用してよいか?」と言う質問です。

図1.1. 議論すべきこと

人工知能は、あたかも人間のように考え、答えを教えてくれる、「便利な機械である」と無邪気に考えることは、危険であり、むしろ間違いです。「人工知能は、「人間のように働き、反応する知的なロボットりような自動機械」または、「疑似人間」であると、言えます。これまでの機械が、与えられた刺激に対して、いつも同じ反応をするのに対して、刺激に対する反応を、「空気を読んで」人間のように臨機応変に変えるものであると、言えます。

普通の機械は、動作が「確定的である」と言えますが、厳密に言えば、人工知能は、動作が「確率的である」と、表現できます。この点だけを見れば、やはり最近話題になっている、量子コンピュータの動きに似ていると言えます。

それらの基礎の上に、最後に、その理論的な理解に基づき、AI技術と社会の関係、特に、「人間のような機械」について考察します。

図1.2. 議論すべきこと(2)

つまり、ここで議論することは、例えば、「人工知能に基づいて動作する自動車が、交通事故を起こした場合、」を想定すると、人工知能で制御される自動車が、人間が運転している自動車と接触したとします。その場合、日本では、「警察は、最初に運転者の、運転の誤操作を、最初に疑う」でしょう。それは、機械が間違いを起こす確率は、人間が間違いを起こす確率よりもはるかに低いと、想定するからです。これに対して、その事故がドイツで起きた場合、ドイツでは日本と違って、交通事故を専門的に分析する分析官が、その事故原因の分析を担当するので、分析結果が間違った場合の社会的な影響の重大性を考え、影響の大きさを考慮して、最初に、「機械の誤動作」や人工知能を働かせている「ソフトウェアの実現上の問題」を疑うでしょう。

同じように、「人工知能に基づいて動作する自動車が、登校中の小学生をひいた場合」、日本の警察であれば、最初に、小学生の子供たちが交通ルールを守らずに、ルールを逸脱した行動をとったのではないかと、疑うでしょう。しかし、アメリカの社会では、小学生の登校中であれば、どんな場合でも、それを見た自動車が停止すべきことが決まっているため、自動車を開発した企業の説明責任が問われるでしょう。これらの例から分かるように、国によって、事故への対応は異なります。そのことは、AIを利用した自動運転かどうかには、左右されません。複数の事故が報告されていれば、欧米の社会では、自動運転を制御するソフトウェアの信頼性は、厳重に分析されるでしょう。それは、ロスアンジェルスで発生した、日本車の急加速事故問題の例からも、明らかでしょう。