。 事實 上 ， 安全 應該 顯示 在 沒有 發生 的 事件 ， 而 不 是 發生 了 多少 事件 。 與其 因為 過去 的 成功 而 減少 安全 方面 的 投資 ， 一 個 韌性 的 組織 會 繼續 預期 不同 的 安全 危機 ， 因為 他們 明白 ， 他們 的 知識 是 不 完善 的 ， 而 他們 的 環境 不斷 在 變化 。 因此 ， 韌性 的 指標 之 一 是 先見之明 ， 在 失敗 和 傷害 發生 之前 ， 能 預見到 風險 不斷 變化 的 能力 。 自動化 的 矛盾 機器 越來越 聰明 ， 而 越來越 多 的 任務 會 變 得 完全 自動化 ， 所以 開始 有 一 種 傾向 ， 認為 涉及 人為 過失 的 許多 問題 會 因此 消失 。 在 世界 各 地 ， 車禍 造成 每 年 數 以 百萬 的 傷亡 。 如果 我們 能 廣泛 採用 自動 駕駛 系統 ， 事故 和 傷亡率 可能 會 顯著 降低 ， 就 像 航空 和 工業界 的 自動化 提高 了 效率 ， 同時 降低 了 意外 和 傷亡 的 比例 。 當 自動化 有效 的 時候 ， 它 有 許多 好處 ； 但是 當 它 發生 故障 ， 其 結果 常常 是 出乎意料 的 危險 。 今天 ， 互相 連接 的 自動化 發電 系統 大大 減少 了 家庭 和 企業 電力 中斷 的 時間 。 但是 輸電 網路 故障 時 ， 它 可以 影響 一 整 個 地區 ， 而且 要 許多 天 才 能 恢復 。 如果 我們 有 了 自動 駕駛 系統 ， 我 預測 會 有 更少 的 事故 和 傷害 ， 但是 一旦 出 了 意外 ， 那 將 會 造成 嚴重 的 後果 。 自動化 的 系統 能 做 越來越 多 的 事 。 無論 是 冷暖氣 保持 適當 的 溫度 ， 汽車 自動 保持 正確 的 車道 和 跟前 車 的 距離 ， 從 起飛 到 著陸 都 自動 飛行 的 飛機 ， 或是 自動 導航 的 船舶 ， 自動化 可以 接管 許多 原本 由 人 來 完成 的 任務 ， 做 得 跟 人 一樣 好 ， 甚至 比 人 更 好 。 此外 ， 它 使 人 不必 花 時間 在 沉悶 的 例行 工作 上 ， 而 可以 更 有效 的 使用 時間 ， 減少 疲勞 和 錯誤 。 但是 ， 雖然 自動化 可以 接管 平淡 沉悶 的 任務 ， 但是 對 複雜 的 任務 它 往往 會 投降 ， 偏偏 這 正 是 最 需要 自動化 的 時候 。 自動化 面臨 的 困境 ， 是 它 能 處理 無聊 沉悶 的 工作 ， 但是 無法 處理 複雜 的 工作 。 自動化 出 問題 時 ， 往往 是 沒有 預警 的 。 這 個 情況 我 已經 在 其他 的 著作 和 許多 論文 裡 說明 得 非常 徹底 ， 而 其他 工業 安全 和 自動化 的 專家 也 如此 警告 。 當 自動化 的 故障 發生 時 ， 人類 是 脫節 的 ， 因為 自動化 的 好處 就 是 不 需要 人 一直 看 著 。 這 表示 人 並 沒有 在 關注 機器 的 操作 狀態 ， 而 等到 人 發現 故障 ， 評估 狀況 ， 然後 決定 如何 應對 ， 要 花上 許多 時間 。 在 飛機 上 ， 如果 自動化 失效 ， 通常 飛行員 有 相當 長 的 時間 ， 足以 了 解 情況 並 做出 反應 。 飛機 通常 飛 得 相當 高 ， 離 地表 超過 10 公里 （ 6 英里 ） 以上 。 即使 飛機 開始 墜落 ， 飛行員 還是 有 好幾 分鐘 可以 反應 。 此外 ， 飛行員 受 過 非常 嚴格 的 專業 訓練 。 當 汽車 自動化 故障 的 時候 ， 人 可能 只有 不到 一 秒鐘 的 時間 可以 避免 事故 發生 。 這 對 最 專業 的 賽車 選手 都 是 非常 困難 的 ， 更何況 大多數 的 駕駛 都 沒 受 過 什麼 訓練 。 在 某些 情況 下 ， 可能 有 足夠 的 時間 來 反應 ， 但 必須 要 能 及時 注意到 自動化 的 故障 。 在 一 個 戲劇性 的 例子 裡 ， 自動化 的 失效 導致 遊輪 「 皇家 陛下號 」 於 1995年 6 擱淺 ， 故障 持續 了 數 天 ， 造成 了 數百萬 美元 的 損失 ， 而且 到 了 事 後 的 調查 中 才 發現 故障 的 原因 。 到底 發生 了 什麼 事 ？ 遊輪 的 位置 通常 由 全球 定位 系統 （ Global Positioning System , GPS ） 決定 ， 但 衛星 天線 連接 導航 系統 的 電線 不 知 為什麼 沒 接好 ， 因此 導航 系統 從 GPS 定位 切換成 航位 推算法 （ dead reckoning ） ， 改用 速度 和 方向 估算 遊輪 的 位置 ， 但是 導航 系統 的 設計 沒有 清楚 顯示 這 個 切換 。 結果 本來 從 百慕達 前往 波士頓 的 這 艘 遊輪 ， 因為 航線 太 靠 南邊 ， 而 航向 了 麻薩諸塞州 伸出 波士頓 南方 的 鱈魚角 （ Cape Cod ） 半島 ， 造成 擱淺 。 因為 自動 導航 已經 多 年 未曾 出錯 ， 這 增加 了 人們 對 它 的 信任 及 依賴 ， 所以 忽略 了 本來 應該 做 的 人為 檢查 ， 也 忽略 了 顯示器 上 的 標示 （ 字母 「 dr 」 表示 航位 推算 模式 ） 。 這 是 一 個 模式 問題 所 造成 的 嚴重 過失 。 處理 過失 的 設計 原則人 是 有 彈性 的 ， 思想 靈活 而 富有 創造力 。 機器 是 僵化 的 、 精確 的 ， 運作 方式 相當 固定 。 兩 者 之間 的 配合 可以 產生 強大 的 能力 。 以 電子 計算機 為 例 ， 它 不 像 人 一樣 會 解 數學 問題 ， 但是 它 能 計算 人 不能 計算 的 問題 。 此外 ， 計算機 不會 犯錯 。 因此 ， 人類 加上 計算機 是 一 個 完美 的 組合 ： 我們 人類 弄 清楚 什麼 是 重要 的 問題 和 如何 定義 問題 ， 然後 我們 使用 計算機 來 計算 答案 。 如果 我們 不 將 人 與 機器 視為 一 個 合作 的 體系 ， 光 把 能 自動化 的 任務 交給 機器 ， 而 人 做 剩下來 的 工作 ， 問題 就 產生 了 。 這 會 迫使 人們 照 機器 的 方式 做 事 ， 而 不 是 用 人類 的 能力 來 做 事 。 我們 希望 人 能 監控 機器 ， 長時間 保持 警覺 ， 這 是 件 我們 很 難 做到 的 事 。 如果 我們 要求 人們 用 極 高 的 精確度 做 重複 的 操作 ， 這 又 是 件 人類 很 不 擅長 的 事情 。 當 我們 這樣 劃分 機器 和 人類 的 任務 ， 既 沒有 利用 人類 的 長處 和 能力 ， 反而 求要 人類 做 生理 及 心理 上 不 適應 的 任務 。 然而 ， 當 人 失敗 的 時候 ， 又 會 因為 人為 過失 而 受到 指責 。 我們 所 說 的 「 人為 過失 」 ， 往往 只 是 一 個 對 機器 來 說 不 恰當 的 行動 ， 它 不應該 被 認為 是 個 過失 ， 它 只是 顯現 了 科技 的 不足 。 我們 應該 消除 這 個 概念 ； 與其 說 是 過失 ， 我們 應該 意識到 人們 可以 利用 設計 的 協助 ， 將 自己 的 目標 和 計畫 轉換成 適合 機器 處理