同樣 的 ， 微波爐 知道 馬鈴薯 已經 熟 了 ， 也 是 件 很 好 的 事 。 可是 ， 如果 當 機器 失敗 呢 ？ 如果 它 做 了 不當 的 動作 ， 或 與 我們 爭 著 做主 ？ 吉米 的 車子 注意到 前面 沒 車 ， 因此 在 出口 匝道 上 以 高速 公路 的 速度 加速 前進 ？ 同樣 的 機器 在 正常 狀況 下 很 有 用處 ， 然而 在 突發 狀況 下 卻 會 降低 安全 ， 減少 舒適性 和 正確性 。 對 我們 身處 其 境 的 人 ， 它 導致 危險 和 不適 、 挫折 和 氣憤 。 現今 機器 有 了 狀況 時 ， 大都 用 信號 表達 它們 的 狀況 。 當 機器 一 有 問題 時 ， 操作 者 在 無 預警 的 狀況 下 ， 沒有 充分 的 時間 下 ， 需要 介入 並 做 適當 反應 。 吉米幸 能 適時 矯正 機器 的 錯誤 。 如果 他 不能 呢 ？ 他 就 會 因 引起 車禍 而 受到 責怪 。 諷刺 的 是 ： 當 一 部 所謂 智慧型 的 機器 導致 事故 時 ， 經常 被 歸罪於 人為 錯誤 。 要 使 人 和 機器 之間 具有 穩當 的 溝通 ， 適切 的 方法 是 增強人 和 機器 的 協調 與 合作 ， 可惜 設計 這些 系統 的 人 往往 不 瞭解 這 一 點 。 機器 如何 判斷 什麼 是 重要 的 、 什麼 不 重要 ， 特別 是 在 某 情況 下 重要 的 事 ， 而 在 另 一 種 情況 下 也許 並 不 重要 ？ 我 曾經 告訴 數 家 汽車 公司 的 工程師 有關 吉米 和 他 的 汽車 的 故事 。 他們 聽完 通常 有 兩 種 反應 ： 第一 ， 他們 怪 開車 的 人 。 在 駛入 出口 之前 為何 不 關掉 定速 系統 ？ 我 解釋 說 他 忘 了 。 他們 下 一 個 反應 是 ： 他 不 是 一 個 好 的 駕駛員 。 這 種 「 指責 後 加強 訓練 」 的 哲學 常 使 責怪 的 人 ── 保險 公司 、 立法 單位 或 社會 ── 滿足 ： 人 如 犯錯 ， 加以 懲罰 。 可是 這 並 不能 解決 問題 的 根源 。 不良 的 設計 、 不良 的 程序 、 不良 的 設施 ， 和 不良 的 操作 才 是 真正 的 元 兇：人 只 不過 是 這 一連串 複雜 過程 的 最後 一 步 。 雖然 汽車 公司 認為 駕駛員 應該 記得 車子 自動 系統 現況 的 看法 是 對 的 ， 但 不能 做為 不良 設計 的 藉口 。 我們 應該 設計 配合 使用 者 的 做法 ， 而 不 是 要 規定 他們 應該 怎麼 做 。 更 何況 車子 的 設計 並 不 幫助 駕駛員 記憶 ， 事實 上 ， 反而 幫助 他們 遺忘 。 定速 系統 幾乎 沒 給 駕駛員 任何 有關 系統 現況 的 線索 。 最好 車子 能 提醒 駕駛員 哪些 系統 正在 使用 中 。 當 我 向 設計 汽車 的 工程師 提起 這 點 時 ， 他們 就 立即 提出 第二 項 標準 的 反應 ： 「 是 的 ， 這 是 一 個 問題 ， 不過 ， 不必 擔心 ， 我們 會 改正 。 你 說 得 對 ， 導航 系統 應該 知道 車子 到 了 高速 公路 出口 匝道 ， 然後 自動 關閉 定速 系統 或者 至少 改變 安全 車速 的 設定 。 」 這 說明 了 一 個 基本 的 問題 。 機器 並 不 聰明 ： 智慧 是 在 設計 者 心 中 。 設計 者 坐 在 辦公室 內 ， 試圖 想像 車子 和 駕駛員 所有