住在 老人院 的 老年人 。 時間 約 上午 十一點 ， 你 正在 看 電視 《 歐普拉 時間 》 （ Oprah ） 。 這 個 白色 娃娃 般 的 機器人 走過來 ， 拿 著 藥瓶 ， 他 說 ： 「 你 該 吃 藥 了 。 」 你 拒絕 。 納奧 再 說 一 遍 。 你 說 ： 「 現在 不 吃 。 我 正在 看 我 喜歡 的 節目 。 」 在 這 一 幕 中 ， 機器人 必須 能夠 衡量 ， 你 立刻 服藥 的 好處 、 你 當下 不肯 吃 藥 的 壞處 ， 以及 是否 尊重 你 的 決定 、 不 煩 你 。 在 這 個 案例 中 ， 因為 藥丸 只 是 止痛劑 ， 納奧 決定 由 你 做 決定 、 暫時 不 吃 藥 。 他 說 ： 「 好 吧 ， 我 待會兒 再 提醒 你 。 」 但是 ， 如果 藥丸 非常 重要 ， 吃 與 不 吃 ， 其 結果 會 影響 你 的 性命 ， 納奧 會 說 ： 「 我 去 向 醫生 報告 。 」 然後 立刻 找 人 來 。 根據 羅斯 的 原理 ， 安德森 夫婦 為 納奧 安裝 特別 設定 的 演算法 ， 根據 對 病人 結果 的 利弊 給予 數字 。 正二 代表 最好 ， 負 一 代表 低微 不 好 ， 負 二 當然 就 是 最 不 好 。 很 重要 的 一 點 是 ， 數值 是 根據 創造 者 預設 的 嚴格 規則 而 定 。 機器人 在 倫理 上 不 自動 做 決定 ； 安德森 夫婦 確切 知道 它 會 怎麼 做 ， 因為 他們 已經 預先 決定 它 的 決定 過程 。 機器人 基本 上 只 進行 道德 數值 計算 。 麥可 ． 安德森 說 ： 「 我們 應該 想想 如果 機器人 有 了 倫理 判斷 ， 它們 能 為 我們 做 什麼 。 我們 會 允許 它們 做 更多 事 ， 我們 也 會 更加 信任 它們 。 」 但是 不可 預測 的 情勢 是 個 重要 因素 。 假設 ， 一 位 老年 病患 陷入 痛苦 ， 呼喊 納奧 餵 她 不 是 醫生 開 的 藥 ， 納奧 該 怎麼辦 ？ 如果 納奧 當下 找 不 到 醫生 或 護士 ， 又 該 怎麼辦 ？ 安德森 夫婦 訂 的 規則 在 這些 狀況 下 派不上 用場 ， 因為 它們 被 限定 在 非常 狹窄 的 範圍 內 。 它們 不 在 納奧 的 決定 範圍 內 。 美國 作家 以 撒 ．艾西莫夫 （ Isaac Ashimov ） 在 一九四二年 提出 著名 的 「 機器人 三 定律 」 （ Three Laws of Robotics ） ， 做為 機器人 的 倫理 規範 ： 第一 、 機器人 不得 做 任何 會 傷害 人 的 事情 ； 第二 、 機器人 應該 永遠 遵守 人類 的 命令 ； 第三 、 只要 不 違犯 上述 兩 條 定律 ， 機器人 應該 自衛 。 但是 艾西莫夫 訂 的 規則 是 小說 中 的 虛構 規則 ， 有 許多 漏洞 。 譬如 ， 假如 機器人 已 被 指令 搞 胡塗 了 ， 它 怎麼 能 遵守 人類 的 命令 ？ 假如 機器人 在 沒有 清晰 、 預先 同意 的 答案 下 面臨 艱鉅 的 選擇 時 ， 這些 法則 在 實際 上 是 行不通 的 。 我們 再 以 典型 的 倫理 兩難 情勢 「 電車 問題 」 來 討論 。 假設 你 是 一 輛 失控 電車 （ 或 火車 ） 的 司機 ， 它 朝著 站 在 軌道 上 的 五 個 人 衝過去 ， 如果 電車 繼續 衝 ， 這 五 個 人 穩死 無疑 。 但是 你 若 扳動 控制器 ， 你 可以 把 電車 轉到 另 一 條 軌道 、 只有 一 個 人 站 在 上面 。 此 人 目前 並 不 處於 險境 ， 但是 你 若 改變 路線 ， 他 又 必 死 無疑 。 你 會 怎麼 做 ？ 哲學家 爭辯 ， 扳動 控制器 、 積極 殺害 一 個 人 ， 和 消極 不 作為 讓 五 個 人 死 ， 其間 道德 差異 很 大 。 這 是 一 個 極 難 決斷 的 情勢 、 沒有 正確 的 答案 。 自動 機器 很 快 就 會 面臨 無數 類似 電車 問題 的 情勢 ， 但是 它們 不會 受到 人類 的 慌張 、 混亂 或 畏懼 所 影響 。 現在 再 假設 時間 來到 二○三○年 ， 你 坐 在 自駕車 裡 ， 行駛 在 一 條 安靜 的 街道 上 。 你 的 精神 已經 放鬆 ， 你 和 你 iPhone 52 上 的 個人 機器人 大師 在 聊天 ， 討論 本 週 要 做 的 三 件 事 ， 它們 關係到 你 的 幸福 目標 ， 此時 汽車 完全 處於 自動 駕駛 狀態 。 一 名 行人 突然 衝出來 ， 衝到 你 的 車子 行進 的 路徑 上 。 汽車 應該 轉彎 ， 避免 撞上 人 ， 即使 會 使 你 受 重傷 ？ 汽車 必須 做出 計算 。 如果 這 名 行人 是 個 孕婦 ， 而 車主 你 是 個 老人 ， 它 該 怎麼辦 ？ 如果 他 是 個 小孩 追 著 球 衝出來 ， 它 該 怎麼辦 ？ 再 假設 試想 一下 ： 如果 車子 在 千鈞一髮 之 際 能夠 檢查出來 行人 和 車主 的 信用 評分 ， 決定 誰 是 社會 更 值得 信任 的 一 員 ， 它 又 該 怎麼辦 ？ 程式 設計師 此時 面臨 極 艱鉅 的 挑戰 ： 要 如何 替 現實 生活 中 的 百萬 種 可 預見 和 不可 預見 的 不同 狀況 撰寫 演算法 ？ 接下來 的 問題 是 ： 誰 應該 為 選擇 某 特定 倫理 規範 負責任 ？ 當 人工 智慧 肇禍 致 人 於 死 ， 其咎 在 誰 ？ 如果 工程師 和 生產 廠商 制訂 規則 ， 那 代表 他們 替 主人 做 了 倫理 決定 ， 但 也 排上 隊 接受 一旦 出事 必須 負責任 。 從 另一方面 講 ， 如果 自駕車 可以 自由 地 自行 學習 、 選擇 它 的 路線 ， 它 成為 它 自己 的 倫理 代表人 ， 要 為 它 自己 行為 負責任 。 我們 只 能 開始 想像 會 衍生出 什麼 樣 的 法律 難題 。 如果 你 的 狗 咬 了 人 ， 法律 很 清楚 ： 你 是 主人 ， 你 要 負責 。 可是 涉及到 人工 智慧 ， 目前 法律 含糊 ， 不 知 是否 程式 設計師 要 出庭 被告 。 英國 政府 首席 科技 顧問 馬克 ． 沃爾波特 爵士 （ Sir Mark Walport ） 說 ： 「 有 一 個 解決 辦法 就 是 ， 讓 人類 程式 設計師 為 他們 的 程式 ， 完全 負起 責任 。 但是 這 種 問責 規定 可能 太 嚴厲 ， 以致於 沒有 人 肯 冒 風險 為 公眾 使用 去 寫 程式 演算法 ， 這 就 否定 了 我們 機器 學習 的 好處 。 」 我們 正在 進入 一 個 演算法 倫理 時代 ， 需要 替 人工 智慧 訂 一 個 希波克拉底 誓詞 （ Hippocratic Oath ） 23 。 或許 到頭來 ， 演算法 要 受到 比 非理性 的 人 更 高 的 道德 標準 所 拘束 。 __UNDEF__ 來自 麻省理工 學院 、 奧瑞岡 大學 和 法國 圖盧茲 經濟 學院 （ Toulouse School of Economics ） 的 一 群 研究 人員 致力 研究 ， 不同 的 乘客 對 自駕車 的 道德 決定 有 什麼 樣 的 冀望 。 他們 跑 了 各式各樣 的 劇本 ， 發現