有 穩定 卻 又 靈活 的 價值觀 。 一 個 物種 也 要 有 能力 自我 反思 。 人類 價值觀 的 傳承 和 反思 通過 代際 完成 。 兒童 既 可以 完全 繼承 父輩 文化 ， 也 可以 形成 一 種 與 周圍 父輩 截然不同 的 新一代 文化 。 這樣 的 好處 就 在於 ， 可以 在 基因 變異 速度 遠遠 跟 不 上 時代 發展 的 情況 下 ， 讓 種群 智慧 和 文化 發生 不斷 地 迭代 更新 。 我們 和 原始人 基因 上 幾乎 沒 什麼 變化 ， 環境 也 變化 不 大 ， 但 大腦 的 適應性 讓 我們 可以 快速 革新 人類 文化 。 未來 ， 人工 智慧 如何 調節 自己 內部 的 多功能 模塊 ， 基於 什麼 做為 調控 的 基本 原則 ， 人工 智慧 總體 基於 何 種 原則 進行 「 物種 」 自我 調控 ， 都 是 人工 智慧 面臨 的 大 問題 。 只要 是 智慧 ， 即便 完全 和 人類 不同 ， 也 需要 面臨 智慧 最 重要 的 問題 ： 自知 、 自制 、 自主 。 未來 的 超級 人工 智慧 是 什麼 樣 ？ 寫到 最後 一 部分 ， 我們 終於 該 討論 一下 ， 未來 如果 形成 超級 人工 智慧 會 是 什麼 樣 。 當然 這 是 很 遠 很 遠 很 遠 以後 的 事情 ， 也 不 知道 會不會 有 那 一 天 。 對 未來 的 討論 ， 威脅論 總是 最 熱門 的 。 人類 對 威脅 的 興奮 程度 ， 遠 高於 歌舞昇平 。 目前 在 人工 智慧 領域 ， 威脅論 的 故事 版本 大概 有 以下 幾 個 ： __UNDEF__ 一 、 人工 智慧 誕生 了 自我 意識 ， 感受到 被 人 欺侮 和 奴役 的 痛苦 ， 於是 殺人 以 復仇 ； 二 、 人工 智慧 雖然 沒有 自我 意識 ， 但是 頭腦 很 執拗 而 異常 強大 ， 種 番茄 的 人工 智慧 會 把 地球 種滿 番茄 ， 為 此 不惜 殺滅 擋路 的 人類 ； 三 、 超級 人工 智慧 比 人類 強大 太多 ， 像 清理 蟲子 一樣 清理 人類 。 第一 個 威脅 故事 ， 類似 於 《 西方 極樂園 》 或是 《 人造 意識 》 裡面 的 描述 ， 我 稱 之為 人工 智慧 復仇 故事 ； 第二 個 威脅 故事 ， 有點 像是 殘酷版 的 《 瓦力 》 ， 可以 稱 之為 人工 智慧 失控 故事 ； 第三 個 威脅 故事 ， 類似 於 《 魔鬼 終結 者 》 或是 《 駭客 任務 》 裡 的 超級 智慧 與 人 對抗 ， 可以 稱 之為 人工 智慧 壓迫 故事 。 總結 起來 ， 人們 對 人工 智慧 發展 有 兩 種 猜測 ， 一 種 是 ： 可能 產生 一 個 類人 的 強 人工 智慧 ， 因此 需要 創造出 各 種 適合 發展 人類 心智 的 學習 條件 ； 另 一 種 是 就 讓 人工 智慧 在 現在 的 數字 環境 中 發展 ， 讓 它 發展成 一 個 與 人類 差別 很 大 的 超級 物種 。 第一 條 路線 ： 擬人 路線 。 根據 前面 的 分析 ， 想要 產生 類人 的 心智 ， 需要 的 因素 包括 ： 身體 行動 、 個體 思考 、 自我 認知 、 社會 互動 、 生存 競爭 等等 。 歸結 起來 ： 若 不 是 以 有 性 繁殖 做 基礎 ， 兩性 相吸 和 一 對 一 忠誠 則 無 必要 ， 很 難 想像 哲人 之間 的 思想 交流 需要 限定 一 對 一 兩性 結對 。 無 必要 的 現象 在 進化 的 歷史 上 基本 上 都 被 剪除 ， 機器 進化 亦 如此 。 機器 之間 或 機器 與 人 之間 ， 沒 什麼 理由 自然 進化出 兩性 之 愛 。 除非 程式師 加以 規定 ， 讓 機器人 對 某 個 認定 的 人 結成 一 對 一 關聯 。 但 這 種 人為 規定 的 愛 不 是 自發 ， 只 是 一 條 命令 而已 。 「 if input ＝ 我 愛 你 ， then print ＝ 我 愛 你 」 ， 這 種 指令 三十 年 前 就 可以 做到 了 。 動機 __UNDEF__ 這 一 部分 心智 內容 也 常 被 稱為 欲望 ， 古人 講 七情 六欲 ， 也 就 是 指 人人 皆 有 的 心理 成分 ： 共通 的 情緒 情感 和 常見 的 欲望 。 在 此 處 用 動機 一 詞 ， 主要 是 因為 欲望 常 指代 受 生理 因素 推動 的 本能 ， 而 動機 要 寬泛 得多 ， 還 包括 由 社交 產生 的 權力 動機 和 人 的 自我 實現 動機 等 。 動機 是 我們 做 事 的 理由 。 在 日常 生活 中 ， 做 事 的 理由 常常 被 忽略 不 提 ， 因為 都 太 常見 ， 人人 皆 同 ， 因而 也 就 不必 拿出來 大書特書 。 誰 不 是 餓 了 想 吃飯 、 睏 了 想 睡覺 、 青春期 想 戀愛 、 成年 後 想 掙錢 呢 ？ 很 少 有 人 意識到 動機 的 重要性 ， 直到 與 人工 智慧 加以 對比 。 人工 智慧 會 下 圍棋 ， 並且 世界 第一 ， 但 它 不會 自己 選擇 下 圍棋 。 它 不會 主動 去 選擇 醫療 診斷 ， 也 不會 要求 升職 加薪 再 去 和 柯潔 對戰 。 所有 這些 人類 會 出於 種種 原因 自動 去 做 的 事 ， Alpha Go 並 不會 。 而 只要 它 還 不 懂 拒絕 和 自由 選擇 ， 那 人類 永遠 不必 害怕 。 當 它 強大 到 無以復加 ， 大不了 人類 可以 對 它 說 「 停下 」 ， 然後 它 就 停下 了 。 人 是 受 自我 動機 推動 的 ， 人工 智慧 （ 至少 目前 ） 是 受 程式師 命令 推動 的 。 那麼 人類 的 自我 動機 從 何 而 來 呢 ？ 與 整 個 心智 系統 相似 ， 人類 的 動機 體系 也 分成 多 層 。 最 基礎 一 層 就 是 人 的 生理 需求 。 食 色 ， 性 也 。 生理 需求 是 維持 有機體 生命 運轉 的 最 基本 要求 ， 如果 生理 需求 達 不 到 ， 人 會 產生 無比 強烈 的 欲望 ， 鴻溝 越 大 ， 欲望 越 強 ， 當 饑餓 和 睏倦 強 到 一定 程度 ， 其他 所有 約束 都 被 忽略 不計 。 道德 和 理想 可能 被 輕易 超越 ， 並非 人 不道德 ， 而是 生理 動機 的 優先 順序 調到 首位 。 但 生理 需求 的 另 一 特點 是 容易 被 滿足 ， 而且 滿足 之後 並 不 需要 無限 供給 。 吃飽 之後 的 人類 會 自動 把 其他 動機 調節到 前面 。 尋求 成就 、 尋求 他人 尊重 、 尋求 感官 享樂 、 尋求 權力 、 尋求 友誼 、 尋求 集體 歸屬感 、 尋求 幸福 、 尋求 智慧 、 尋求 自由 心靈 。 所有 這些 追求 都 是 全 人類 共享 的 動機 追求 。 動機 追求 而 不得 ， 人 可能 會 產生 相應 的 負面 動機 ， 尋求 幸福 而 被 破壞 ， 人 會 產生 復仇心 ； 尋求 尊重 而 不得 ， 人 也 會 希望 踐踏 他人 ； 尋求 成功 而 不得 ， 人 常常 不擇手段 。 人類 的 動機 有 多 強 ， 求而不得 之後 的 反噬 就 有 多 強 。 到 目前 為止 ， 人工 智慧 還 不會 選擇 獨立 的 目標 去 追求 。 於是 我們 要 問 ， 人類 的 這些 目標 都 是 從 何 而 來 呢 ？ 生理 目標 很 容易 令 人 想到 生物 進化 的 來源 ， 與 情感 相似 ， 人類 對 饑餓 、 睏乏 、 安全感 和 性欲 的 滿足 ， 都 和 動物 種群 相似 。 人類 的 滿足 手段 更為 高級 多樣化 ， 但 需求 本身 是 相似 的 。 而 在 此 之上 的 其他 幾 種 最 主要 動機 ， 包括 成就 動機 、 權力 動機 、 歸屬感 動機 和 自我 實現 動機 ， 都 與 人 的 社會性 和 自我 認知 密切 相關 。 可以 說 ， 讓 人類 和 動物 群體 拉開 差距 的 ， 就 是 人類 能 意識到 自我 的 存在 ， 並且 為了 自我 提升 而 不斷 追求 。 人類 會 因為 單純 贏得 比賽 而 歡欣鼓舞 ， 而 不管 這 個 比賽 是否 能 換取 美食 ， 這 是 自我 意識 對 自己 能力 的 肯定 ， 被 稱為 「 自我 效能 感 」 ； 人類 會 因為 對 他人 頤指氣使 而 感到 滿足 ， 哪怕 在 兒童 中間 ， 也 會 見到 這 種 支配 關係 ， 這 是 人 對 社會 結構 的 敏感 ， 對 自身 對 他人 的 影響力 感到 刺激 ； 人類 會 因為 兄弟 之間 的 情誼 熱淚盈眶 ， 在 兄弟 落難 的 時候 ， 哪怕 會 損失 食糧 也 去 救助 ， 這 是 人類 對於 情感 歸屬 的 需要 ， 如果 能 相互 認定 並 共同 進退 ， 會 讓 成員 感受到 擁有 強大 力量 ； 人類 會 被 超越 自身 的 真理 所 激蕩 ， 期望 自己 接近 某 種 永恆 的 真 與 美 ， 哪怕 為之 粉身碎骨 ， 這 是 人 對 自身 脆弱性 的 認知 和 超越 ， 自身 生命 短暫 渺小 ， 因此 樂於 接近 某些 永恆 和 偉大 的 存在 ， 以 此 讓 自身 獲得 提升 。 所有 這 一切 ， 都 源於 人 的 自我 認知 和 社會 參照 。 人 對 自我 有所 評價 ， 並 和 周圍 群體 加以 比對 。 人 希望 自身 能力 凸顯 、 地位 凸顯 、 被 人 珍重 、 被 人 紀念 ， 因此 才 有 了 形形色色 執著 的 追求 。 這些 追求 多半 集中 於 人 的 相對 地位 ， 而