公開: 2019年7月13日
更新: 2024年10月25日
人間社会が、「考える機械」、特に便利な「自分で学べる機械」を使うようになると、その機械は、人間のナン何千倍の速度で仕事をする「スーパーマン」を雇ったような感じです。しかし、機械とは言え、人間の新入社員のように、仕事を一から教え込まなければなりません。その機械は、何度も間違いを起こし、そのたびに先生である人間から叱られながら、その仕事を少しずつ学ばなければならないのです。先生である人間が、機械の失敗を見逃せば、機械は同じような場面で、同じ間違いを起こします。、
自分が操縦している飛行機の設計が、変更されていることをしっかりと理解していないパイロットは、以前の同型の「古い設計」の飛行機の操縦経験に基づいて、強風の中を、飛行場に着陸しようとしている時、上からの強い風を受けて、飛行機の高度が急に下がった場合、着陸をやり直そうと決心し、機首を上げようと操縦かんを引きます。しかし、飛行機の機首は上がりません。おかしいと感じたパイロットは、もっと「強く」操縦かんを引くでしょう。それでも機首は上がらず、結果として飛行機が墜落すると言う事故が起こりました。これは、飛行機を製造した会社の設計者達が「より安全な飛行機を作ろう」という考えから行った設計の改良によって、多くの犠牲者を出してしまったと言う事例です。パイロットも、「より安全に着陸させよう」と言う考えに基づいて、着陸の「やり直し」を決定したわけです。
コンピュータを動かすプログラムは、飛行機を飛ばしている機械部品に比較すると、すでに完成していても、その内容を簡単に変えられます。そして、それを行うことは、従来のような機械式の飛行機の設計変更に比較すると、変更は、はるかに早く、安く行えます。そのため、製品に何か問題が見つかると、人間はしばしば、直ぐに対応して、設計変更を行って、製品を世に出そうとします。しかし、それを利用するのは人間です。多くの人間は、製品の見た目が変わらなければ、昨日までの製品の動き方と、今日の製品の動き方が違うとは考えません。「昨日までできたことは、今日もできる」と信じる傾向があります。人間は、一度学んだことは、簡単には忘れることができないのです。このコンピュータと人間の「時間感覚」の違いが、場合によって、人間社会に大きな問題を起こす可能性があります。もはや、機械は、人間の思うがままに動く、便利な物とは限らないのです。
また、コンピュータと人間の関係だけについて考えれば、今やコンピュータは、人間やその社会を操(あやつ)り、動かすこともできるものになろうとしています。一般の企業では、コンピュータは、注文の受付から、部品の発注や仕事の発注まで、関係する会社とのやり取りを自動的に行うだけでなく、最近では、注文を受け付けた瞬間に、必要な部品の購入から、その作業に携(たずさ)わる作業者の手配、その作業を実施する日のスケジュール、作業場所の手配なども自動的に行います。もしコンピュータが停電や故障で動かなくなったり、プログラムの誤動作で、計算を間違えれば、会社内は大混乱になるでしょう。それは、銀行などの場合、ATMでお金が出し入れできなくなったり、必要な現金を送金できなくなったりして、社会的な混乱を引き起こすかもしれません。現実にそのような問題が発生した例は、少なくありません。
少し前のことですが、ある大銀行がコンピュータシステムの一部に変更を行い、システムを動かし始めた時、いくつかの支店でATMでの取引ができなくなりました。この故障からシステムを立ち直らせようとしている間に、別の支店のATMも動かなくなり、その日のうちに銀行全体のATMや窓口での取引ができなくなりました。一部のお客さんたちは、給料が払い込まれたので、現金を引き出しに行ったのですが、現金を引き出せなくなり、生活に支障を起こしてしまいました。1日でも、コンピュータシステムが止まると、その日に人手で行った入出金のデータを、窓口業務終了後に人手でコンピュータへ入力しなければなりません。その作業が終わらなければ、次の日にコンピュータがATMからのデータを処理しようとしても、コンピュータの中のデータは、1日前のものなので、正しいデータかどうか分からないからです。
このようにして、どんどんコンピュータシステムの回復が遅れ、数週間が経ち、公共料金の振り込みや、一部の企業から委託を受けていた社員への給与の振り込みなどの処理もできない状態になりました。大企業のお客さんは、買ったものに対する料金の振込額だけでも、数十億円以上になることがあります。この振り込みができなくなると、それを依頼している大企業へ、お金が渡らなくなるため、その大企業に製品などを売った企業に、現金がなくなってしまう事態が起こります。企業とは言え、それほどのお金を現金で持っているわけではないので、その不足している分の現金を借金でなんとかしなければなりません。借金をすれば、当然、利子を払わなければなりません。仮にその大企業が仕事を頼んだ会社に料金を支払う期限が迫っていれば、その支払いを少し遅らせてもらうか、借金で支払うかしなければなりません。さらに、最近では、多くの大企業が海外を拠点としている大企業との取引を行っているので、問題は、問題が発生した銀行内の事故に留まらなくなります。