フェイルセーフ(fail-safe)とは、機械やシステムが故障したり、異常が起きたりしたときに、安全な側へ倒れるように設計しておく考え方である。「壊れない」ことを目指すのではなく、「壊れたときに、害を出さない」ことを目指す。
身近な例
エレベーターの巻上機のブレーキは、ばねの力で効くように作られている。電気が流れているあいだだけ、ブレーキが解除される。停電や故障で電気が止まれば、ブレーキが効く側に倒れる。「電気で止める」のではなく、「電気で止めるのをやめる」という向きにしてあるから、電気が失われても、止まる。
画面やサービスでの例
次は、考え方を示すための架空の例である。
- 通信が切れたとき、操作が成功したように見せない。「完了していません」と示す。
- お釣りが出せない券売機は、購入の前に、その旨を知らせる。
- 決済の途中で処理が止まったときは、二重に請求しない側に倒す。
決めておくべきこと
「異常のとき、どちらに倒すか」は、設計の段階で決めておく。決めていないと、システムの都合のよい側に倒れる。たとえば、エラーのときに「操作できたことにして先へ進める」のは、システムにとって都合がよく、利用者にとっては危険な側である。
- 何が止まるのか: 全体か、一部だけか。
- 利用者に何を見せるのか: 何が起き、いま何が安全で、次に何をすればよいのか。
- 元に戻れるのか: 途中までの入力や操作は、失われないか。
考え方の一例として、次の順番がある。
- 起こりうる故障や異常を、洗い出す。
- それぞれについて、「安全な側」がどちらかを決める。
- その状態になったことを、利用者に見える形で示す。
フールプルーフが「人の間違い」に備えるのに対して、フェイルセーフは「機械やシステムの故障」に備える。両方を重ねることで、安全の層が厚くなる。