的 審判 後 ， 檢方 就 撤銷 了 起訴 。 自我 覺察 在 西方 法律 系統 扮演 關鍵 角色 ， 這 似乎 是 明智 的 安排 。 畢竟 ， 我們 已經 看到 建構 有關 自身 行為 的 敘事 對 個人 自主性 有 多 重要 。 但 這 也 帶來 了 一 個 難題 。 後設 認知 很 脆弱 、 容易 受 錯覺 影響 ， 而且 會 受 他人 影響 而 誤入歧途 。 如果 掌控感 是 未 經 深思熟慮 建構出來 的 ， 我們 要 怎麼 要求 他人 為 任何 事情 負責 呢 ？ 後設 認知 具有 監控 和 解釋 行為 的 功能 ， 但 不 是 完美無缺 ， 並 在 傳達 我們 對 自身 行為 的 責任 方面 扮演 關鍵 角色 ， 要 怎麼 調和 這 兩 者 之間 的 緊張 關係 呢 ？ 我 認為 這 個 問題 有 兩 個 解答 。 第一 個 解答 是 ， 其實 我們 不 需要 擔心 ， 因為 對 多數 目的 而言 ， 我們 對 行動 的 掌控感 都 夠 準確 。 回想 一下 你 上 一 次 在 犯錯 後 說 「 對不起 ， 我 剛才 沒 在 思考 」 的 時候 。 我 想 你 的 家人 或 朋友 應該 都 相信 你 的 話 ， 而 不 是 憤怒 地 反駁 ： 「 你 怎麼 會 知道 自己 沒 在 思考 ？ 真正 的 反思 只 是 心靈 虛構 的 產物 ！ 」 而且 在 大多數 情況 下 ， 他們 會 選擇 相信 你 的 自我 知識 是 正確 的 。 如果 你 因為 「 沒 在 思考 」 而 忘記 和 朋友 的 午餐 約定 ， 他人 就 能 知道 你 並 不 是 刻意 爽約 ， 並 相信 你 下 次 會 改進 。 後設 認知 在 許多 （ 甚至 是 大多數 ） 情況 下 都 能 順暢 地 運作 ， 而 我們 確實 可以 精準 地 瞭解 自己 在 做 什麼 ， 以及 原因 為 何 。 大腦 光 是 能 辦到 這 件 事 就 值得 我們 讚嘆 。 第二 個 解答 是 ， 只有 在 認同 自我 覺察 是 責任 的 有效 指標 的 社會 ， 自我 覺察 才 真的 會 是 責任 的 有效 指標 。 我們 對 自主性 的 觀念 和 法律 系統 一樣 ， 是 經由 社會 交流 形成 的 。 這麼 說來 責任 其實 就 像 貨幣 ， 貨幣 之所以 具有 價值 ， 是 因為 社會 上 的 人 集體 同意 它們 具有 價值 。 同樣地 ， 如果 我們 集體 同意 自我 覺察 是 某 種 決策 模式 的 有效 指標 ， 自我 覺察 就 會 對 我們 的 自主性 觀念 有 重要 影響 。 此外 ， 自主性 和 責任 跟 貨幣 一樣 ， 都 是 人類 心智 創造 的 產物 ， 取決 於 我們 建立 有關 自身 和 他人 的 敘事 的 能力 。 在 意識到 責任 是 人為 建構 的 同時 ， 我們 依然 可以 像 使用 貨幣 一樣 使用 責任 的 概念 。 自我 覺察 和 責任 之間 的 緊密 連結 有 更深 一 層 的 含義 ， 那 就 是 當 自我 覺察 變 薄弱 時 ， 責任 也 會 變 得 模糊 。 這樣 的 問題 在 逐漸 高齡化 的 社會 中 變 得 越來越 緊迫 ， 因為 失智症 等 疾病 會 攻擊 大腦 裡 自我 覺察 的 神經 基礎 。 面對 這 類 病例 ， 西方 民主 國家 在 維護 個人 自主性 與 提供 憐憫 支援 之間 力求 平衡 。 近來 制訂 的 法律 ， 例如 英國 的 《 心智 能力 法 》 （ Mental Capacity Act ） ， 規定 民眾 因為 精神 或 神經 疾病 而 無法 自行 做 決策 時 ， 國家 應該 在 何時 介入 他們 的 個人 事務 。 而 其他 提議 ， 例如 聯合國 《 身心 障礙 者 權利 公約 》 ， 則 主張 應 不惜 一切 代價 維護 自由 。 這 項 爭論 的 核心 是 對於 自主性 觀念 的 分歧 ： 在 什麼 情況 下 ， 我們 的 家人 、 朋友 或 政府 應該 介入 ， 替 我們 做 決定 ？ 這 個 領域 的 法律 十分 複雜 ， 然而 經常 在 法律 能力 案件 中 提及 的 因素 ， 就 是 病患 缺乏 病識感 或 自我 覺察 。 這 代表 自我 覺察 的 系統性 變化 有 可能 會 影響 我們 繼續 建構 敘事 ， 以及 主導 自己 生活 的 能力 。 這 種 變化 也許 會 比 我們 想像 中 要 來得 廣泛 ， 並 以 新 科技 、 藥物 或 社會 結構 的 形式 出現 。 本 書 的 最後 兩 章 將 探討 人類 自我 覺察 的 未來 ， 從 開始 與 智慧 機器 進行 協調 合作 的 需求 ， 到 科技 幫助 我們 進一步 認識 自己 的 可能性 。 第十 章 __UNDEF__ 人工 智慧 時代 的 自我 覺察 __UNDEF__ 科技 的 進步 使得 人類 與 機器 之間 產生 更 緊密 的 結合 。 肚子 餓 了 ， 美食 網站 能 推薦 不錯 的 餐廳 供 我們 選擇 ； 開車 時 ， GPS 能 指引 方向 。 汽車 的 電子 儀器 可以 執行 低層次 的 控制 。 我們 早已 是 半 機器人 了 。 ── 佩德羅 ． 多明戈斯 （ Pedro __UNDEF__ Domingos ） ， __UNDEF__ 《 大 演算 》 （ The __UNDEF__ Master Algorithm ） __UNDEF__ __UNDEF__ 就 資訊 與 電腦 理論 完全 客觀 的 觀點 而言 ， 動態 系統 的 所有 科學 知識 都 瞭解 自身 與 機器 相似 的 一 面 。 儘管 如此 ， 還是 常 有 人 問 ： 機器 有 辦法 知道 自己 是 機器 嗎 ？ 機器 有 沒 有 內在 的 自我 意識 呢 ？ ──W ． 羅斯 ． 艾許比 （ W. Ross Ashby ） ， 《 智慧 的 機制 》 __UNDEF__ （ Mechanisms __UNDEF__ of __UNDEF__ Intelligence ） __UNDEF__ 二〇〇九年 六月 ， 一 架 法國 航空 班機 在 從 里約熱內盧 前往 巴黎 的 途中 消失 在 大西洋 的 上空 。 三 位 機師 駕駛 一 架 空中巴士 A330 飛機 ── 這 是 當時 世上 最 先進 的 飛機 之 一 ， 配備 自動 駕駛 與 各 種 安全 機制 ， 墜機 的 可能性 極 低 。 夜幕 在 他們 橫越 海洋 時 低垂 ， 此時 ， 機師 注意到 飛行 路徑 有 暴風雨 發生 。 對 現代 大型 客機 而言 ， 暴風雨 很 容易 應付 。 但 在 那 天 ， 雲層 中 的 結冰 造成 飛機 的 一 個 感測器 停止 運作 ， 使得 自動 駕駛 中斷 ， 機師 們 必須 手動 駕駛 飛機 。 較 不 熟練 的 副駕駛 皮耶 ． 西德利 ． 波寧 （ Pierre-Cédric Bonin ） 試圖 手動 操縱 飛機 ， 但 他 的 操縱 不 穩定 ， 並且 讓 飛機 逐漸 攀升 。 稀薄 的 空氣 讓 飛機 停滯 在 半空 中 ， 然後 開始 下墜 。 即使 到 了 這 個 地步 ， 依然 沒 什麼 危險 。 機師 們 只要 讓 機身 恢復 水平 和 空速 就 能 解決 問題 。 這 是 新手 機師 在 飛行 課程 的 前 幾 個 小時 就 會 學到 的 基本 駕駛 技術 。 但是 波寧 持續 攀升 ， 最後 造成 災難 。 調查 報告 寫道 ， 雖然 機師 們 在 A330 的 駕駛艙 待 了 許多 時數 ， 大部分 的 時間 他們 都 在 監控 自動 駕駛 的 狀況 ， 而 不 是 手動 駕駛 飛機 。 他們 不 願意 相信 自動化 機制 會 讓 他們 犯下 導致 災難 的 一連串 失誤 。 這 樁 悲劇 的 寓意 是 ： 有時候 ， 將 控制權 交給 自動化 機制 會 造成 危險 。 我們 已經 看到 ， 像是 高爾夫球 揮桿 這樣 的 技術 ， 在 熟練 後 將 會 自動化 ， 讓 我們 不 需要 思考 該 怎麼 做 ， 思考 本身 甚至 還 會 對 表現 有 負面 影響 。 前述 這 種 類型 的 自動化 ， 發生 的 地點 是 在 我們 的 大腦 裡 。 當 事情 出錯 的 時候 （ 像是 把 球 打偏 、 汽車 打錯檔 ） ， 我們 的 意識 馬上 就 會 醒過來 ， 察覺 自己 犯 了 錯 。 但 當 機器 掌握 控制權 時 ， 情況 就 大不相同 了 。 矛盾 的 是 ， 自動化 機制 越 是 複雜 ， 人類 操作 者 的 重要性 就 越 低 。 於是 人們 便宜行事 ， 技術 可能 因此 退步 。 自古以來 就 有 人 擔憂 「 科技 擁有 控制權 」 這 件 事 。 蘇格拉底 說 過 一 個 有關 圖特 （ Theuth ） 的 故事 ， 圖特 是 傳說 中 發明 書寫 的 埃及 神祇 。 圖特 將 書寫 技術 作為 禮物 獻給 埃及 國王 塔穆斯 （ Thamus ） 時 ， 塔穆斯 並 不 高興 ， 還 擔心 這 種 技術 會 導致 人類 記憶力 的 衰退 ， 讓 健忘 像 流行病 一樣 傳染 。 他 抱怨 ， 認為 懂得 書寫 的 人 「 會 在 表面 上 無 所 不 知 ， 但 事實 上 一無所知 。 與 他們 相處 會 很 無趣 ， 因為 他們 空有 智慧 的 外殼 ， 而 缺乏 實際 內涵 。 」 幸好 ， 塔穆斯 對於 書寫 和 閱讀 的 擔憂 並 沒有 成真 。 但是 AI 和 機器 學習 可能 會 不 一樣 。 書寫 、 印刷 ， 甚至 電腦 、 網路 或 智慧型 手機 能 使 人類 智慧 突飛猛進 ， 是 因為 它們 都 屬於 透明 系統 ， 會 遵照 我們 的 要求 行事 ： 只要 排好 版 ， 印刷機 就 會 持續 重複 印刷出 同 一 本 書 。 用 筆電 寫作 時 ， 只要 按下 Enter鍵 就 能 換行 。 但是 機器 學習 與 自動化 的 結合 非常 不同 ， 其 運作 方式 通常 是 不 透明 的 ， 無法 為 人 所 知 。 除此之外 ， 我們 也 不 知道 在 明天 、 後天 、 大後天 運作 是否 還 會 產生 同樣 的 結果 。 我們 可以