このブログでも以前から紹介していますが、農作業を自動化(自働化)させることを謳い文句にしたスマート農業技術が近年多く現れるようになりました。
農業に限らず、作業の自動化にともなって人間にどのような影響が及ぶか、人間にどのような対処が求められるか、人間とコンピュータの協働はいかにあるべきか、こうした問題を40年近く前に考えて答えを提示しようとした論文があります。以下の論文です。
https://doi.org/10.1016/B978-0-08-029348-6.50026-9
①が円滑に行えるためには、システムが正しく作動しているかを人間が適切に判断できることが必要です。これが実際すんなりうまくいくでしょうか?
システムの作動状況について単調なモニタリングが延々続くと、オペレータの注意が散漫になって、システムが正しく作動していないことを見落としやすくなることが考えられます。また、オペレータが自働化されたシステムに長い間(数か月間、数年間)仕事を任せていると、その判断力・勘が鈍ってしまい、システムが正しく作動していないことを見極められなくなる可能性も考えられます。特に、自動化処理を進めるコンピュータの判断が複雑化しているときほど、その判断が適切かを人間が完全に見極めることは困難化します。
こうした懸念への対応策としては、まず、オペレータに状況を記録・報告させて注意を怠らないように促すことが考えられます。しかし、その対応策をとった時でも、記録を取る行為自体が機械的作業になってオペレータが事態をよく観察しないままになる恐れがあります。
このほか、システムが誤作動していることを別の機械で検知してアラームをオペレータに与えることも対応策として考えられます。しかし、異常の検知に手間取って、そのアラームが出てからでは対応が手遅れになることも考えられます。また、異常事態の発生が確定する以前にアラームを出して早めに強く注意を促そうとすると、今度はオペレータがアラームの意味をさほど信用しなくなること(いわゆるオオカミ少年効果)も考えられます。
しかし、そのときでも未知、想定外の事態はシミュレーターでは扱いきれないという問題が残ります(10年前に福島第一原子力発電所内でもこうなっていたのかと福島県出身の私は思い返してしまいます)。
以上のような考察から、①、②の対応で起こりうる諸問題の発生・悪化を未然に食い止めようとすると、システムの自動化を進める前よりも高い能力や重い負担が、人間であるオペレータに求められてくるとも考えられます。
もともとは人間を楽にしようとして自動化したのに、結局は自動化で人間の負担を前よりももっと重くしなればならなくなるかもしれない、、、
というのがBainbridge (1983) の「自動化の皮肉」が言わんとするところです。
こうしてオペレータである人間に重い負担を求める形で自動化を進めなければならないとなると、オペレータにはストレスが多くかかり、仕事への意欲が下がってしまうことも懸念されます。
ではこうした事態を避けられるような何か良い解決策はないのでしょうか。
しかし、Bainbridge (1983) は、このような分業を考えるだけでは「自動化の皮肉」現象への対応策としては不十分であることを述べます。
Bainbridge (1983) は、「自動化の皮肉」現象への対応策として、人間とコンピュータの役割をそのように分けることではなく、コンピュータが人間の技能形成や就業意欲を支えられるように、両者の役割を適切に統合すること (integration) を提案しています。
Bainbridge (1983) が考えている望ましい人間とコンピュータの統合化の形態は、コンピュータが人間が扱う仕事の種類や仕事の忙しさをリアルタイムで把握して、オペレータの能力の高低や時間ストレス(急を要するか)に適切に応じながら、洗練されたディスプレイの案内表示を通じてオペレータの仕事を支援する、というものです。
Bainbridge (1983)は、航空機の操縦ではパイロットが同時にいくつもの仕事をこなさなければならないとき自動操縦に切り替え、こなすべき仕事が減ったらマニュアル操縦に切り替えるようにしていたことを、この引き合いに出します。彼女は、こうした人間とコンピュータの関係を一般の生産管理システムでも実現できないかと構想していたようです。
生産管理システムでコンピュータがオペレータに指導や指示を出しすぎると、オペレータが生産管理システムに起こりうる諸問題の構造について理解し対処能力を身につける機会が失われてしまいます。このため、Bainbridge (1983)は、人間にとって仕事の負担が重い状況などに限りつつコンピュータが人間を支援するという形で両者を統合できないかと構想していました。
こうした支援システムの実現のためには、先述のように、コンピュータが人間が扱う仕事の種類や仕事の忙しさをリアルタイムで把握できることが必要になります。このシステムは、論文が書かれた当時はまだ構想できていなかったようで、Bainbridge (1983)の論文では具体的に述べられていません。しかし、現在は多くの管理工程において、タッチパネルほか、アイカメラ、生体センサ、チャットボット、その他AI搭載の機器類を使ってこの支援システムを作ることは可能になってきていると思われます。
このほか、Bainbridge (1983)は、上記の支援システムがうまく機能するためには、コンピュータがどの仕事をいかに扱うことができるのかについて、人間があらかじめよく把握しておくことが必要であることを強調しています。それができていないと、人間がコンピュータを頼りにしすぎて「あてが外れた」となりやすいためです。Bainbridge (1983)が提唱する「統合」ではここが急所になりやすいかもしれません。
私が乗っている某メーカーの自動車にも、高速道路でハンドル、アクセル操作を支援する機能が備わっています。ボタン一つで支援機能の作動が始まり、運転者がブレーキペダルをちょっとでも踏むと支援機能は解除されるようになっています。また、ハンドル操作が数分間行われていないとハンドル操作を行うように警告音が出るのでハンドルを取り回そうという気にさせられます。以上は、人間に運転への注意を呼び掛けつつ人間とコンピュータの間で運転が円滑に切り替えられるようにと、自動車メーカーなりに配慮した結果なのでしょう。これもBainbridge (1983)が構想した統合化されたシステムに該当してくると思われました。彼女の構想に沿うような支援システムの例は他にもすぐ見つかるでしょうね。
(話が少しそれましたが)まとめますと、Bainbridge (1983)は、「自動化の皮肉」現象を指摘して、その対処として人間の能力、意欲の維持のためにコンピュータを活用して両者の機能を統合することを提案した先駆的論文として、その意義・貢献を高く評価できるでしょう。
そのためにもBainbridge (1983) の論文エッセンスは日本の農学研究者の間にもぜひ知れ渡ってほしいと思います。