系統 。 可是 車子 可 沒 忘記 。 我 猜想 它 自言自語 道 ： 『 好棒 ， 前面 終於 沒有 車子 了 。 』 然後 開始 加速 到 在 高速 公路 上 設定 的 速度 ── 儘管 我 是 在 出口 匝道 上 需要 慢速 前進 。 幸虧 我 很 警覺 及時 剎車 ， 否則 後果 不堪設想 。 」 我們 正 處於 與 科技 關連 重要 變化 之 際 。 直到 最近 ， 人 都 還 在 主宰 機器 。 我們 控制 機器 的 開關 、 指示 它 做 何 操作 並 引導 它 完成 一 系列 的 操作 。 當 科技 變為 更 強大 更 複雜 ， 我們 更 不能 瞭解 它 如何 作用 ， 更 不能 預測 它 的 作用 。 一旦 電腦 介入 ， 我們 經常 感到 失措 和 困擾 、 煩惱 和 氣憤 。 我們 仍然 自認為 在 主宰 機器 ， 可是 ， 機器 已經 逐漸 替代 我們 。 它們 看似 具有 智慧 和 意志 ， 其實不然 。 機器 注意 我們 的 動作 是 出自 善意 ， 是 為 了 安全 、 方便 或是 正確性 。 當 一切 都 正常 時 ， 這些 聰明 的 機器 確 是 有 幫助 的 ： 增進 安全 ， 減低 重複 動作 帶來 的 無聊 ， 使 我們 的 生活 更 方便 ， 且 比 我們 操作 時 更 正確 。 當 一 部 車子 忽然間 從 前面 擠進來 時 ， 我們 的 車子 能 自動 平穩 換 擋 慢下來 ， 的確 是 件 很 好 的 事 。 同樣 的 ， 微波爐 知道 馬鈴薯 已經 熟 了 ， 也 是 件 很 好 的 事 。 可是 ， 如果 當 機器 失敗 呢 ？ 如果 它 做 了 不當 的 動作 ， 或 與 我們 爭 著 做主 ？ 吉米 的 車子 注意到 前面 沒 車 ， 因此 在 出口 匝道 上 以 高速 公路 的 速度 加速 前進 ？ 同樣 的 機器 在 正常 狀況 下 很 有 用處 ， 然而 在 突發 狀況 下 卻 會 降低 安全 ， 減少 舒適性 和 正確性 。 對 我們 身處 其 境 的 人 ， 它 導致 危險 和 不適 、 挫折 和 氣憤 。 現今 機器 有 了 狀況 時 ， 大都 用 信號 表達 它們 的 狀況 。 當 機器 一 有 問題 時 ， 操作 者 在 無 預警 的 狀況 下 ， 沒有 充分 的 時間 下 ， 需要 介入 並 做 適當 反應 。 吉米幸 能 適時 矯正 機器 的 錯誤 。 如果 他 不能 呢 ？ 他 就 會 因 引起 車禍 而 受到 責怪 。 諷刺 的 是 ： 當 一 部 所謂 智慧型 的 機器 導致 事故 時 ， 經常 被 歸罪於 人為 錯誤 。 要 使 人 和 機器 之間 具有 穩當 的 溝通 ， 適切 的 方法 是 增強人 和 機器 的 協調 與 合作 ， 可惜 設計 這些 系統 的 人 往往 不 瞭解 這 一 點 。 機器 如何 判斷 什麼 是 重要 的 、 什麼 不 重要 ， 特別 是 在 某 情況 下 重要 的 事 ， 而 在 另 一 種 情況 下 也許 並 不 重要 ？ 我 曾經 告訴 數 家 汽車 公司 的 工程師 有關 吉米 和 他 的 汽車 的 故事 。 他們 聽完 通常 有 兩 種 反應 ： 第一 ， 他們 怪 開車 的 人 。 在 駛入 出口 之前 為何 不 關掉 定速 系統 ？ 我 解釋 說 他 忘 了 。 他們 下 一 個 反應 是 ： 他 不 是 一 個 好 的 駕駛員 。 這 種 「 指責 後 加強 訓練 」 的 哲學 常 使 責怪 的 人 ── 保險 公司 、 立法 單位