文明が地球上に誕生してから、約5,000年の間、物事を考えられるのは、人間だけでした。しかし、19世紀になって突然、「機械にも考える能力を持たせられるかもしれない」と言う考えが生まれ、考える力のある機械を生み出そうとする人々が出てきました。それとほぼ同時に、その考えられる機械を使って、人間が物事を考えるように、機械に物事を考えさせるための「計算手順」を教える人も出てきました。「プログラマ」です。世界最初のプログラマは、バッベージと言う数学者が設計した機械を動かすプログラムを作った「エイダ」と言う若い女性でした。詩人、バイロンの娘で、貴族のラブレス卿婦人でした。

人間は、社会における人々の活動を「うまく」行うために、コンピュータと言う「考える機械」を作り出しました。その機械は、20世紀後半に入って、機械自身が自分の経験から学ぶ方法を人間が見つけたことで、人間のように学ぶ力を得ました。人間との違いは、人間の「学び」は、ほとんどの場合、個人の頭脳の中だけで起こります。これに対して、機械の「学び」は、ある機械の「学び」の結果を、別の機械が、一瞬のうちに自分の「学び」に変え、さらにそこから、自分の学びを積み上げられることです。つまり、機械は人間では追いつくことができない速さで、集団で、物事を「学ぶ」能力を持っていると言えるのです。

そのようなコンピュータと人間が協力して生きる未来の人間社会は、どのようになるでしょうか。コンピュータができることは、人間ではなく、コンピュータがやるようになるでしょう。すでに、株の取引きや、通貨の取引などでは、人間に代わって、コンピュータが高速に取引を行うようになっています。人間の仕事は、コンピュータを動かしたり、コンピュータを通信回線につなげたりする仕事だけになりつつあります。会社の経営にも、コンピュータが重要な役割を担うようになっているので、将来、会社を運営するコンピュータ社長が出現するかもしれません。

そのような時に重要なことは、社会は「人間が生きるために、人間が作る」仕掛けだと言うことをしっかりと理解し、社会の決まりごとや「習わし」などを、人間がしっかりと決めてゆくことです。コンピュータでも、自動車や飛行機の運転や操縦はできるでしょう。ほとんどの場合、コンピュータの方が上手に運転するでしょう。しかし、事故が起こりそうな状況で、コンピュータができることは、あらかじめ決められた手順で自動車や飛行機を動かすだけです。その手順を決めるのは、実は「人間」なのです。

人間がときどき間違いを起こすように、機械であるコンピュータも誤りを起こします。誤りを起こす回数は、人間のそれよりもはるかに少ないでしょう。しかし、間違いは起きるのです。人間よりも間違いを起こす回数が少なければ、人間は「コンピュータは間違えない」と誤解します。人間は、よく間違いを起こす人間よりも、コンピュータを信用し、コンピュータの出した答えに頼るようになります。これは、人間同士でも起きていることです。よく間違える人が言うことよりも、ほとんど間違えない人の言うことを信用する傾向に、そのことが見られます。人間がコンピュータを信用し、コンピュータを頼るようになると、コンピュータが間違った答えを出したとき、信用ができない人間が間違いを起こす場合よりも、重大な結果を招くかも知れません。

信用ができない人が言ったことは、それが正しいことだとしても、直ぐには信用できません。正しくないことを信じて、行動するわけにはゆかないからです。ですから、そのような場合、私たち人間は、普通、その人が言っていることを信じてよいかどうかを、注意深く確かめます。計算の結果であれば、その計算の過程を見直して、間違いがないかを確かめるでしょう。自分よりも能力の高い人が言ったことは、自分自身で確かめるより、本人の能力を信頼する方が正しそうなので、私たち人間は、自分では確かめることはせずに、その人の言っていることを信じるという選択をします。その有能な人が、コンピュータに代わっただけです。

社会の多くの人々が、コンピュータが出す結論には誤りがないと信じれば、その社会の選択は、コンピュータに託されることになります。しかし、コンピュータも間違えるのです。コンピュータの出した結論を鵜呑みにして、社会がその結論に基づいて何かをすれば、その結論に誤りがある時、社会は間違った方向に進んでゆきます。これは、第2次世界大戦が始まる前、ドイツ国民がヒットラーを信頼し、ヒットラーが示した道を突き進み、自国だけでなく、他国の人々にも多大な損害を与えた歴史的な事実からも分かります。ヒットラーがコンピュータに代わるだけです。日本でも、旧日本陸軍、特に東条英機らを中心とした人々が、日本の国民を間違った方向に導いたため、日本国民だけでなく、周辺の国々の国民にも多大な損害を与えました。

(つづく)