Bainbridge (1983)「自動化の皮肉 (Ironies of Automation)」

このブログでも以前から紹介していますが、農作業を自動化（自働化）させることを謳い文句にしたスマート農業技術が近年多く現れるようになりました。

農業に限らず、作業の自動化にともなって人間にどのような影響が及ぶか、人間にどのような対処が求められるか、人間とコンピュータの協働はいかにあるべきか、こうした問題を40年近く前に考えて答えを提示しようとした論文があります。以下の論文です。

Bainbridge, L. (1983) Ironies of Automation, in G. Johannsen, and J.E. Rijnsdorp, eds., Analysis, Design and Evaluation of Man–Machine Systems, Pergamon: 129-135.
https://doi.org/10.1016/B978-0-08-029348-6.50026-9

タイトルが「自動化の皮肉 (Ironies of Automation)」で、生産工程を自動化しても最初に期待していたほど状況は楽になりませんよ、人間の負担はもっと増えるかもしれませんよ、もっとこういう対応も考えておかなければ駄目ですよ、、、と警告を与えるような趣旨の論文です。

Wikipediaにも解説があります。

https://en.wikipedia.org/wiki/Ironies_of_Automation

Bainbridgeは女性の認知心理学者で、上の論文の執筆当時はUniversity College London所属でした。

執筆時期は1980年代前半で、PCがやっと出回り始めた頃です。

当時、農業にICTを活用する発想もほとんど見えてない時代で、この論文では農業での自動化（自働化）について何も述べていません。

それでも、私がこの論文を読んだ感想として、現在農業へのICT・自働化導入を考える際に注意すべき点について多く示唆が得られるように感じられました。

上のWikipedia記事によると、Bainbridge (1983)に関する論文引用件数は次第に増えて膨大にのぼるそうです。

そこで、ざっとですがこの論文の趣旨を紹介させていただきたいと思います。

コンピュータなど使ってあるシステムの自動化を進める際、そのシステムに関わる人間にいろいろな役割、仕事が残されます。

Bainbridge (1983)は、このときの人間の役割、仕事について以下のように整理します。

彼女は、システムの自動化を進めるときのオペレータに残される仕事として、

①自動化されたシステムが正しく作動しているかをモニターすること

②そのシステムが正しく作動していないときに事態に対処すること

を挙げます。

Bainbridge (1983)では、まず、①が実際に円滑に行えるか？が考察されます。
①が円滑に行えるためには、システムが正しく作動しているかを人間が適切に判断できることが必要です。これが実際すんなりうまくいくでしょうか？

システムの作動状況について単調なモニタリングが延々続くと、オペレータの注意が散漫になって、システムが正しく作動していないことを見落としやすくなることが考えられます。また、オペレータが自働化されたシステムに長い間（数か月間、数年間）仕事を任せていると、その判断力・勘が鈍ってしまい、システムが正しく作動していないことを見極められなくなる可能性も考えられます。特に、自動化処理を進めるコンピュータの判断が複雑化しているときほど、その判断が適切かを人間が完全に見極めることは困難化します。

こうした懸念への対応策としては、まず、オペレータに状況を記録・報告させて注意を怠らないように促すことが考えられます。しかし、その対応策をとった時でも、記録を取る行為自体が機械的作業になってオペレータが事態をよく観察しないままになる恐れがあります。

このほか、システムが誤作動していることを別の機械で検知してアラームをオペレータに与えることも対応策として考えられます。しかし、異常の検知に手間取って、そのアラームが出てからでは対応が手遅れになることも考えられます。また、異常事態の発生が確定する以前にアラームを出して早めに強く注意を促そうとすると、今度はオペレータがアラームの意味をさほど信用しなくなること（いわゆるオオカミ少年効果）も考えられます。

次に、Bainbridge (1983)では、②が実際に円滑に行えるか？が考察されます。

②に関しては、システムが正しく制御されていないことが判明した場合に、マニュアル制御に切り替えることが一般的でしょうが、その際にマニュアル制御をおこなう技能が担当オペレータに確保されているかどうかが問題になります。

ここでオペレータにとってマニュアル制御の経験がない、あるいは、マニュアル制御の経験はあるものの長い間実際には行っていないとすると、オペレータにとって、制御がうまくいかない原因を適切に把握して回復策を講じることが難しくなりやすいと予想されます。

こうした懸念への対応策としては、起こりうる事態を想定して組み込んだシミュレーション訓練を担当オペレータに受けてもらい、その訓練を通じてオペレータのマニュアル制御での対応能力を高めることが挙げられます。事態が刻一刻と変化する状況を扱えるような動的シミュレーターがこの訓練にはふさわしいと考えられます。
しかし、そのときでも未知、想定外の事態はシミュレーターでは扱いきれないという問題が残ります（10年前に福島第一原子力発電所内でもこうなっていたのかと福島県出身の私は思い返してしまいます）。

以上のような考察から、①、②の対応で起こりうる諸問題の発生・悪化を未然に食い止めようとすると、システムの自動化を進める前よりも高い能力や重い負担が、人間であるオペレータに求められてくるとも考えられます。

もともとは人間を楽にしようとして自動化したのに、結局は自動化で人間の負担を前よりももっと重くしなればならなくなるかもしれない、、、

というのがBainbridge (1983) の「自動化の皮肉」が言わんとするところです。

こうしてオペレータである人間に重い負担を求める形で自動化を進めなければならないとなると、オペレータにはストレスが多くかかり、仕事への意欲が下がってしまうことも懸念されます。

ではこうした事態を避けられるような何か良い解決策はないのでしょうか。

コンピュータが仕事に進出してくるとき人間とコンピュータの間のあるべき関係としては、両者間で分業を進めること、つまり、単純なマニュアル作業はコンピュータに任せて自動化し、人間はより高度な仕事を集中的に担うべきだという主張がしばしば出されます。
しかし、Bainbridge (1983) は、このような分業を考えるだけでは「自動化の皮肉」現象への対応策としては不十分であることを述べます。

Bainbridge (1983) は、「自動化の皮肉」現象への対応策として、人間とコンピュータの役割をそのように分けることではなく、コンピュータが人間の技能形成や就業意欲を支えられるように、両者の役割を適切に統合すること (integration) を提案しています。

Bainbridge (1983) が考えている望ましい人間とコンピュータの統合化の形態は、コンピュータが人間が扱う仕事の種類や仕事の忙しさをリアルタイムで把握して、オペレータの能力の高低や時間ストレス（急を要するか）に適切に応じながら、洗練されたディスプレイの案内表示を通じてオペレータの仕事を支援する、というものです。

Bainbridge (1983)は、航空機の操縦ではパイロットが同時にいくつもの仕事をこなさなければならないとき自動操縦に切り替え、こなすべき仕事が減ったらマニュアル操縦に切り替えるようにしていたことを、この引き合いに出します。彼女は、こうした人間とコンピュータの関係を一般の生産管理システムでも実現できないかと構想していたようです。

生産管理システムでコンピュータがオペレータに指導や指示を出しすぎると、オペレータが生産管理システムに起こりうる諸問題の構造について理解し対処能力を身につける機会が失われてしまいます。このため、Bainbridge (1983)は、人間にとって仕事の負担が重い状況などに限りつつコンピュータが人間を支援するという形で両者を統合できないかと構想していました。　

こうした支援システムの実現のためには、先述のように、コンピュータが人間が扱う仕事の種類や仕事の忙しさをリアルタイムで把握できることが必要になります。このシステムは、論文が書かれた当時はまだ構想できていなかったようで、Bainbridge (1983)の論文では具体的に述べられていません。しかし、現在は多くの管理工程において、タッチパネルほか、アイカメラ、生体センサ、チャットボット、その他AI搭載の機器類を使ってこの支援システムを作ることは可能になってきていると思われます。

このほか、Bainbridge (1983)は、上記の支援システムがうまく機能するためには、コンピュータがどの仕事をいかに扱うことができるのかについて、人間があらかじめよく把握しておくことが必要であることを強調しています。それができていないと、人間がコンピュータを頼りにしすぎて「あてが外れた」となりやすいためです。Bainbridge (1983)が提唱する「統合」ではここが急所になりやすいかもしれません。　

私が乗っている某メーカーの自動車にも、高速道路でハンドル、アクセル操作を支援する機能が備わっています。ボタン一つで支援機能の作動が始まり、運転者がブレーキペダルをちょっとでも踏むと支援機能は解除されるようになっています。また、ハンドル操作が数分間行われていないとハンドル操作を行うように警告音が出るのでハンドルを取り回そうという気にさせられます。以上は、人間に運転への注意を呼び掛けつつ人間とコンピュータの間で運転が円滑に切り替えられるようにと、自動車メーカーなりに配慮した結果なのでしょう。これもBainbridge (1983)が構想した統合化されたシステムに該当してくると思われました。彼女の構想に沿うような支援システムの例は他にもすぐ見つかるでしょうね。

（話が少しそれましたが）まとめますと、Bainbridge (1983)は、「自動化の皮肉」現象を指摘して、その対処として人間の能力、意欲の維持のためにコンピュータを活用して両者の機能を統合することを提案した先駆的論文として、その意義・貢献を高く評価できるでしょう。

論文読後の感想としては、スマート農業技術が導入されると農民が楽になるように喧伝されますが、やはり、Bainbridge (1983) の言う「自動化の皮肉」現象により、スマート農業技術を導入した農民がかえって苦労することにならないのかによく注意する必要があると痛感しました。

また、それを避けられるように農民とコンピュータの役割の統合をいかに進めるべきかについて、スマート農業技術の開発研究、普及に携わる方々がよく注意を払ってほしいと思いました。
そのためにもBainbridge (1983) の論文エッセンスは日本の農学研究者の間にもぜひ知れ渡ってほしいと思います。