無可 避免 地 步向 我們 全 將 在 網 上 貼上 品類 標籤 ？ 態勢 很 明顯 ， 肯定 是 走向 那 個 方向 。 除非 以 某 種 群眾 公民 反抗 搶回 隱私 和 個人 資訊 ， 我們 正 邁入 一 個 時代 ， 個人 的 行動 將 受 他們 無法 控制 的 標準 所 評斷 ， 而且 判斷 無法 抹殺 。 結果 不僅 令 人 不安 ， 而且 它們 還 永遠 存在 。 別 去 管 什麼 刪除 的 權利 、 及 被 遺忘 的 權利 。 遺忘 是 幼稚 、 愚蠢 的 東西 。 這 也 是 為什麼 至少 我們 迫切 需要 找到 方法 創造 對 瘋狂 、 低能 或 欺騙 時刻 的 原諒 。 删 除 不 應 是 非法 行為 。 人類 雖 有 種種 缺陷 、 未 臻 完美 ， 卻 絕對 不僅 只 是 一 個 數字 。 固然 要 制止 這 個 新 時代 可能 已經 太 遲 ， 我們 卻 有 選擇 及 權利 現在 去 行動 。 有 一 個 重點 ， 我們 需要 能夠 替 評分 者 評分 。 凱文 ． 凱利 （ Kevin Kelly ） 在 他 的 著書 《 必然 》 （ The Inevitable ） 中 ， 描述 未來 世界 ， 觀察 者 和 被 觀察 者 將 透明地 、 不停 地 彼此 追蹤 。 他 寫 說 ： 「 我們 現在 的 能 做 核心 選擇 是 ， 這 種 祕密 、 單向 圓形 監獄 似的 監視 ── 或是 一 種 相互 、 透明 的 『 共同 監視體 』 （ coveillance ） 。 第一 種 選擇 是 地獄 、 第二 種 是 可 拯救 。 」 我們 的 信任 應該 從 政府 內部 的 個人 開始 （ 或是 從 控制 系統 的 組織 開始 ） 。 我們 需要 信任 機制 以 確保 評分 和 資訊 是 得到 我們 允許 、 負責任 地 使用 。 我們 已經 看到 ， 若要 信任 系統 ， 我們 需要 降低 未知數 。 這 指 的 是 採取 措施 ， 降低 評分 演算法 的 不 透明 。 反對 強制 揭露 的 論述 是 ， 如果 你 知道 在 帽子 底下 發生 什麼 ， 系統 就 越 有 可能 遭到 竄改 或 駭入 。 但是 ， 如果 要 把 人類 降低到 只 憑 評分 、 就 可能 對 他們 的 生活 產生 重大 影響 ， 則 評分 的 作業 方式 就 必須 完全 透明 。 在 中國 ， 某些 公民 ， 譬如 政府 官員 和 企業 領袖 似乎 被 當做 超乎 制度 之上 。 當 他們 的 不當 行為 似乎 並 未 影響 他們 的 分數 時 ， 民眾 會 有 什麼 反應 ？ 我們 可以 看到 3.0 版 巴拿馬 文件 的 信譽 詐騙 。 想 知道 持續 不斷 監視 及 評分 的 文化 會 發展成 什麼 樣子 ， 目前 為 時 尚 早 。 當 這些 制度 影響 全 國 人民 社會 、 道德 和 財務 歷史 發揮到 極致 時 ， 會 是 什麼 樣子 ？ 長久以來 在 中國 即 處處 受限 的 個人 隱私 和 言論 自由 ， 會 受到 多 大 的 更 進一步 摧殘 呢 ？ 誰 來 決定 制度 往 哪 個 方向 走 呢 ？ 這些 是 我們 全體 必須 考量 的 問題 ， 而且 很 快 就 需要 思索 。 今天 的 中國 ， 明天 就 是 靠近 你 的 地方 。 關於 信任 的 未來 ， 真正 的 問題 不 在 科技 或 經濟 ， 它們 是 倫理 上 的 問題 。 沒 錯 ， 如果 我們 不 提高 警覺 ， 分散式 信任 將 成為 網路 羞恥 。 生活 將 成為 無 休止 的 受 歡迎 程度 的 競賽 ， 我們 全 都 狂熱 的 爭取 只有 少數 人 達到 的 最 高 評分 。 8 __UNDEF__ 我們 信任 機器人 但是 ， 我們 該不該 … … 我們 又 如何 將 它們 製造 得 合乎 倫理 道德 ？ 機器人 伯特 （ Bert ） 看起來 很 傷心 。 他 剛 把 一 顆 雞蛋 掉到 地 上 ， 連 幫忙 做 烘蛋 這麼 的 簡單 工作 都 做 不 好 ， 還 把 旁邊 的 廚師 嚇 了 一 跳 ， 他們 可能 認為 可以 信賴 機器人 不會 把 事情 搞砸 。 伯特 微微 翹起 的 嘴唇 現在 翻轉 向 下 ， 藍 眼睛 睜大 、 眉毛 皺 起來 。 他 說 ： 「 抱歉 呀 ！ 」 這 個 機器人 希望 有 機會 補正 ， 再 試 一 次 。 但是 ， 人類 需要 什麼 才 肯 再 給 伯特 一 次 機會 ？ 如果 機器人 犯 了 錯 ， 它 要 怎樣 恢復 我們 的 信任 ？ 這 是 倫敦 大學 學院 （ University College of London ） 和 布里斯托 大學 （ University of Bristol ） 一 組 研究 人員 在 二○一六年 想要 研究 的 問題 。 艾德莉安娜．哈馬契 （ Adriana Hamacher ） 、 克里斯汀．艾德爾 （ Kristin Eder ） 、 娜迪雅．邊奇 ─ 伯特浩茲 （ Nadia Bianchi- Berthouze ） 和 安東尼．派普 （ Anthony Pipe ） 設計 了 一 套 實驗 ， 取名 〈 相信 伯特 〉 （ Believing in BERT ） ， 以 三 個 機器人 助理 協助 一 群 參與 者 （ 真正 的 活人 ） ， 幫忙 遞 雞蛋 、 油 和 鹽 等 ， 製作 烘蛋 。 伯特 A 非常 有 效率 、 無懈可擊 ， 但是 不會 說話 。 伯特 B 也 不會 說話 ， 但是 不 完美 ， 偶爾 會 把 雞蛋 掉到 地上 。 伯特 C 最 笨手笨腳 ， 但是 他 有 臉部 表情 ， 犯 了 錯 也 會 道歉 。 烹飪 工作 告一段落 ， 伯特 C 問遍 參與 實驗 的 二十一 個 人 ， 他們 滿 不 滿意 他 的 表現 ， 肯 不肯 接受 他 擔任 廚房 助理員 。 絕大部分 參與人 被 盯 著 問 時 ， 都 不 很 舒坦 。 有些 人 模仿 伯特 悲傷 的 表情 ， 顯然 有 溫和 的 「 情緒 傳染 」 現象 。 有 一 人 說 ： 「 說 不 給 它 這 份 工作 是 對 的 ， 但是 要 我 這麼 說 ， 我 覺得 很 傷感情 。 看到 它 一 臉 悲傷 ， 我 更 感覺 不忍 。 」 其他 人 則 不 知道 怎麼 回答 ， 因為 他們 不 想 因為 不 給 他 這 份 工作 、 讓 伯特 沮喪 。 有 個 參與 人 抱怨 ， 這 個 實驗 有如 「 情緒 勒索 」 。 另 一 人 甚至 對 機器人 說謊 ， 避免 傷 他 感情 。 研究 報告 的 主要 撰稿人 艾德莉安娜 ．哈馬契 說 ： 「 我們 認為 ， 見到 雞蛋 掉地 ， 它 會 表現 像 人 一樣 的 感情 之後 ， 許多 參與人 現在 已 被 預先 制約 ， 預期 它 會 有 類似 的 反應 ， 因此 對 拒絕 它 、 相當 猶豫 。 他們 很 介意 它 很 可能 又 出現 像 人類 一樣 的 失望 。 」 伯特 會 因為 有 人 暴粗口 責罵 它 而 落淚 嗎 ？ 實驗 末尾 ， 每 位 參與人 都 被 問到 ， 由 一 到 五 分 ， 他們 對 伯特 A 、 B 、 C 各 有 多 大 的 信任度 。 然後 他們 必須 從 三 者 之中 挑選 一 個 做為 個人 的 廚房 助理 。 很 奇妙 ， 二十一 位 參與人 當中 竟 有 十五 人 挑選 伯特 C 為 助理 的 第一 人選 ， 即使 他 的 笨手笨腳 意味 必須 多 花