経営者・有識者インタビュー

第22回

どうすればヒューマンエラーを防げるか?

中田 亨 氏
(独立行政法人産業技術総合研究所 セキュアシステム研究部門セキュアサービス研究グループ 博士(工学)/主任研究員)

社会でどのように役に立っているかわかりにくいと言われる「数学」。このコーナーではさまざまな分野の第一線でご活躍中の方々に、社会と数学のかかわりについて語っていただきます。

第22回は産業技術総合研究所主任研究員としてさまざまな業種の企業とヒューマンエラー防止の共同研究を進めている中田亨氏にお話をうかがいました。

間違いに気づき、修正できるのが人間の強み

中田さんは工学系研究科のご出身ですが、大学時代からヒューマンエラーへのご関心があったのでしょうか。

中田さん:
実は、ヒューマンエラーに関して教えたり研究したりしている大学は少ないんです。それもさまざまな学科のなか、たとえば航空学科や原子力学科、看護学科などの学科のなかに1つ研究室がある、という規模なので、専門にするつもりはありませんでした。もともと私はロボットの研究をしていたんです。ロボットと比べると人間のほうがはるかに頭が良くて、間違えません。産業用ロボットは間違いなしに動作を行いますが、決まった動きしかできず、自分でまわりの状況を判断して行動するとなるとお手上げです。コンビニへ行ってジュースを買ってきなさいと命令しても、まずルートを定義し、道とは何かを定義し、落ち葉があったらどうするのか、猫が横切ったらどうするのか等々、すべての可能性を考慮したシナリオを書いてやらないといけません。

現実的に、それはシナリオが膨大になり過ぎて無理そうですね。

中田さん:
これをロボット業界では「フレーム問題」と呼んでいて、人間が何気なくやっていることをロボットができるようにするシナリオを書くには、無限の可能性を想定することになるので何ページあっても足りません。だからロボット業界の人は「人間はロボットよりはるかに頭が良い」と思っているんですが、世間一般では「人間は間違いが多くて信用できないのでロボットに置き換えたほうがいい」と思われています。このギャップがとても私にはおもしろくて、だんだんヒューマンエラーの分野に入っていくきっかけになりました。
しかもロボットの考え方を人間に適用して分析してみると、非常に役立つ知見が得られます。何かロボットが失敗したことの原因を分析する手法を使い、人間の間違いを分析してみると「この事故はこういうプロセスで起きた」ということがよくわかるんです。ただ、私がヒューマンエラーの研究をはじめる前からそういうアプローチはあったのですが、実はあまりパッとしていなかったのが当時の実情です。それはなぜだろうと考えてみると結局、人間の強さは間違いを起こさないことではなく、間違ってもすぐもとに戻せるところなんです。間違いをしないという点においては、ロボットの圧勝です。しかし人間は間違ったとわかったらすぐに自分で修正し、挽回ができる。したがって、事故や問題が発生している企業の現場では「もっと訓練して誤差を0ミリにしましょう」と考えるより、「どうすれば間違いに気づきやすくなるか?」と考えたほうが効果はあります。

ヒューマンエラーの知見に対するニーズは多いのですか。

中田さん:
オフィスでの事務ミスや建設現場での事故といった研究はあまり手がつけられていないのですが、社会的な需要は非常に大きい分野です。誤発注は大きな損失を引きおこす可能性がありますし、建設現場で怪我や死亡事故を防がなければいけないのは当然です。産業技術総合研究所に寄せられるいろいろなご相談や共同研究のご依頼にはヒューマンエラーに関する事柄がとても多く、私の研究も世の中でたくさんの人が困っているこの分野に引き寄せられていった、という側面があります。

「不確かさが許容範囲であるか否か?」

先ほどの話にも出ましたが、数字に関するヒューマンエラーといえば最近は誤発注事故が目につきます。

中田さん:
誤発注事故は年に5、6件はどこかで起きています。桁を1けた打ち間違えたならまだしも、3けた打ち間違えたという事故もあります。海外では0をいちいち打ち込んでいたら手間がかかるということでmillion(100万)単位、 billion(10億)単位で打ち込めるようになっているところがあって、millionを押したつもりがbillionだったという間違いが起こっているんです。

これはヒューマンエラーの特徴ですが、被害が文字どおりけた違いに大きくなる場合があります。普通の事故ではけたを逸脱して被害が大きくなることはほとんどありません。自動車1台の事故で100台分の被害が発生することは、物理的にまずあり得ません。しかしヒューマンエラーの場合、1000円のつもりで100万円と打ち間違えて被害がけた違いに大きくなってしまう事態があり得るのです。つまり、その仕事からどの程度の損害が生じるのか予想がつきにくく、しかも統制が非常に難しい。一般的には平社員が自分で決済できるお金は1万円、部長なら1000万円までという形で管理していきますが、それではヒューマンエラーを統制することはできません。なぜなら、ネットスーパーで慣れていない新人が商品の売り値を「1円」と入力し、損害が生じるような間違いも起こるからです。

ヒューマンエラーを回避するのはとても難しいのですね。

中田さん:
そうです。ここまでヒューマンエラーという言葉を使ってきましたが、実は専門家に言わせると「エラーという言葉は学術用語ではない」と言われています。厳密にはエラーではなく「不確かさ」という概念を使うべきであると。たとえば「30㎝の線を引きなさい」と指示されても、目分量で測ってOKという場合もあれば、電子顕微鏡で測って3μm(マイクロメートル)以内の誤差に収まっていなければいけない、という場合もあるかもしれません。つまり、「エラーが完全にない状態」という表現は学術的にあり得ず、正しく表現するなら「不確かさが許容範囲内であるか否か」という形になります。ですからヒューマンエラーは絶対にゼロにならないことを前提に、不確かさが許容範囲に収まるようコントロールしていくという発想が大切です。。

作業は分担せず、手順を「一本道」にせよ

ヒューマンエラーを防ぐにはどんなコツがあるのでしょうか。

中田さん:
1つ挙げると、人間は気づけば挽回できるという能力を持っているので、間違いがあったら目立つようにすることです。たとえば数学の点数が良い人は、たいてい目のつけどころをわかっています。かけ算の式のなかに偶数があったのに答えが奇数だったら「これは変だ…」と気づくんです。因数分解の計算でもxとyの四次式だったのに、答えが三次式になっていたら「どこかで間違った」と気づく。そういうチェック方法をわかっていると計算間違いが減少し、点数が上がっていきます。

ハードウェアを利用したヒューマンエラーの回避方法としては、どんなものがありますか。

中田さん:
ハードウェアでいうと、人間の記憶を助ける道具をつくってやれば思い違いがなくなりまし、本能的な反射行動を防ぐものをつくればそれがなくなります。銀行に行くと合い札を渡され、そこに書かれた番号で呼び出されますよね。なぜわざわざ合い札を渡すかというと、名前で呼ぶと間違って他の人が来てしまうことが多いからです。テレビ番組の『タモリ倶楽部』(テレビ朝日系列)の人気コーナー「空耳アワー」を視聴すればわかるように、人間の脳は類推ばかりしています。そこで物理的な合い札を使い、それを見せないと受け付けないようにすることでヒューマンエラーを防いでいるんです。反射的なミスを防ぐものとしては「外開きのドア」があります。新しい建物のドアはたいてい、建物から出るときに外側へ開くようになっています。これは火事が起こったとき、内開きだとパニックになった人が「なぜ開かないんだ!」とずっと外側にドアを押し続け、ドアを開けられないまま火事の犠牲になってしまう場合があるからです。これは人間の行動をハードウェアでガイドしてあげる例です。

ソフトウェアによる回避方法についてはいかがでしょうか。

中田さん:
作業をみんなで手分けする仕事はめずらしくありませんが、しっかりチェックしているつもりでも必要な手順をすっぽかしてしまうというミスがよく生じます。このミスは手順のなかに「そろい待ち合流」と呼ばれるものが入っていると非常に起こりやすくなります。そろい待ち合流とはいくつかに分けた作業をいったん取りまとめ、合流させてチェックする工程を指し、工程分析の分野では諸悪の根源のような扱いを受けます。みんなで手分けするほうが作業は早くできるように思うかもしれません。しかし、そろい待ち合流があると「ど忘れ」が起こりやすくという大きなマイナスがあります。「Aさん、Bさん、Cさんの分がそろった。じゃあ次の工程に移ろう」とそろい待ち合流をすると、しばしば「そういえばDさんの分がまだだった!」となるわけです。加えて、そろい待ち合流をすると一番作業の遅い人に合わせなければならない、という問題も生じます。

ではどうすれば良いか。結論から述べれば、下手に作業を分けないことです。もしA、B、Cという3つの仕事をする必要があったら複数の人間で分けず、1人で順番にA→B→Cと1つの流れで進めていくほうが良い。人間は作業を一本道にすると丸暗記ができるので、ど忘れが減るんです。たとえば坂道で車を駐車するとき、パーキングブレーキの引き締めが甘くずるずると滑り落ちる事故がよく起こります。坂道の駐車で必要な作業は「キーを抜く」「パーキングブレーキを強く引く」の2つですが、そろい待ちをして2つの作業を確認する方法だと、たまに片方を忘れてしまいます。そこで「キーを抜いたらパーキングブレーキを引く」というように作業を一本道の手順にすると、身体がその流れを覚えるのでパーキングブレーキの引き忘れがなくなります。こういう人間の特性を活用して作業のやり方を見直していくのがソフトウェア的な対策です。

中田さんは子どものころから数学が得意だったと思いますが、そのころの数学に関する思い出について教えてください。

中田さん:
中・高校生のころに一番使った数学は確率だったと思います。テレビゲームをやっていて「敵が5匹出てきたら勝てるのかな?」と考えると、自ずと確率を使うようになるわけです。私は囲碁・将棋も好きで、「こういう手順でいくと、こういう理屈で自分が勝つ」という思考をしますが、これはまさに数学的なロジックですね。結局、得意になるには好きかどうかが大切で、何でもいいので自分の好きな分野から数学に入っていくといいのでしょう。

どんな分野でもそこには数学が関係しています。たとえば茶道ではさまざまな決めごとがあり、茶室にも裁量の余地がないように見えますが、実際には大きな茶室もあれば小さな茶室もあり、通常とは左右を逆につくった茶室もあります。左右を引っ繰り返して建築物を構築するのは、つくっている人たちは意識していないかもしれませんが、幾何学という数学の世界です。世の中で何らかの法則に従って動いているものには数学が潜んでいます。法則に従わずでたらめに動いているものは確率の世界であり、これも数学です。数学が関係していないのは個人の好き・嫌いくらいではないでしょうか。つまり、数学は森羅万象に通じていて、世の中で生きていくということは数学の法則を見て、予想し、動いていくということです。そう考えていくと、数学の得意・不得意にかかわらず、みんな似たようなことをやっているのだと言えます。

今日はありがとうございました。

プロフィール

中田 亨(なかた とおる)

独立行政法人 産業技術総合研究所
セキュアシステム研究部門 セキュアサービス研究グループ
博士(工学)/主任研究員

1972年生まれ。2001年に東京大学大学院を修了し、独立行政法人産業技術総合研究所に入所。現在、セキュアシステム研究部門セキュアサービス研究グループ主任研究員。さまざまな業種の企業とヒューマンエラー防止の共同研究を進めている。著書に『防げ、現場のヒューマンエラー』(日科技連出版社)、『ヒューマンエラーを防ぐ知恵』(化学同人)、『理系のための「即効!」卒業論文術』(講談社ブルーバックス)、『「事務ミス」をナメるな!』(光文社新書)などがある。

経営者・有識者インタビュー 一覧に戻る