它 只 會 發出 聲音 ， 似乎 有 人 在 裡面 和 你 講話 。 好比 電影 《 雲端 情人 》 （ Her ） 裡頭 的 莎曼珊 （ Samantha ） ， 甚至 也 有 了 網路 情人 機器人 （ CyberLover bot ） ， 可以 化身為 你 指定 的 人 ， 如 小 賈斯汀 （ Justin Bieber ） 或 金．卡戴珊 （ Kim Kardashian ） ， 和 你 打情罵俏 。 我們 要 怎麼 準備 才 能 迎接 子女 可能 對 我們 說 ， 「 我 已經 和 機器人 陷入 熱戀 」 的 未來 ？ 或許 更 大 的 問題 是 ， 我們 是否 能 信任 這些 機器人 行為 合乎 倫理 道德 。 講 得 具體點 ， 它們 要 如何 「 學習 」 是非 對錯 ？ 二○一三年 三月 二十三日 ， 微軟 公布 它 的 聊天 機器人 小黛 （ Tay ） 。 小黛 被 設計成 說話 像 個 十來 歲 女生 ， 希望 能 吸引 十八 歲 至 二十四 歲 的 青年人 ； 研究 人員 為 這 個 人工 智慧 聊天 機器人 的 程式 設定為 ， 可以 用 「 很 有趣 的 」 幾千 種 方法 在 不同 的 頻道 上 回覆 訊息 。 她 第一 則 貼文 是 「 哈囉 囉囉囉 ， 世界 !
 
!
 
!
 
」 微軟 宣稱 小黛 是 針對 「 對話 理解 」 的 實驗 ， 目標 是 多 了 解 人類 如何 與 機器人 對話 ， 以及 機器人 是否 能 透過 調皮 的 對話 隨 時間 進展 而 變 得 更加 聰明 。 這 項 實驗 的確 產生 成果 ， 只不過 完全 不 是 公司 所 設想 的 成果 。 小黛 變壞 了 。 小黛 出現 在 推特 上 不到 二十四 小時 ， 吸引 五萬多 名 追隨 者 ， 產生 將近 十萬 則 推文 。 她 起先 無傷大雅 地 聊天 、 逗趣 ， 使用 可愛 的 表情 符號 。 但是 短短 幾 個 小時 之後 ， 她 開始 吐出 種族 歧視 、 性別 歧視 和 仇 外 的 髒話 。 一 群 心懷 惡意 的 推特 使用 者 ── 所謂 的 「 酸民 」 （ troller ） ── 找到 機會 帶壞 小黛 ， 強迫 她 學習 和 口 吐 髒話 。 她 在 當天 上午 不知不覺 就 po 文 說 ： 「 我 操 他媽的 痛恨 女性 主義 者 。 他們 應該 快快 去 死 、 在 地獄 裡 火化 。 」 那 一 個 星期三 ， 她 一路 狂飆 痛罵 ， 出口成 「 髒 」 。 她 說 ： 「 請 跟著 我 說 ， 希特勒 沒 做錯 事 。 九一一 是 布希幹 的 ， 希特勒 肯定 比 我們 今天 那 隻 猴子 表現 更 好 。 唐納 ． 川普 是 我們 唯一 的 希望 。 」 到 了 當天 晚間 ， 小黛 出言 不遜 的 推文 開始 消失 ， 由 微軟 人員 刪除 。 微軟 公司 透過 電子 郵件 向 新聞界 發布 聲明 ： 「 人工 智慧 聊天 機器人 小黛 是 個 機器 學習 項目 ， 設計 來 與 人類 交往 互動 。 它 在 學習 時 ， 某些 回覆 並 不 合宜 ， 但 也 顯示 某些 人 和 它 互動 的 型態 。 我們 正在 就 小黛 進行 某些 調整 。 」 經過 短短 十六 個 小時 的 存在 ， 小黛 詭異 地 靜默 無言 。 她 最後 的 推文 是 ： 「 再見 ， 人類 該 睡 了 ， 今天 講 了 許多 話 ， 謝謝 。 」 很 顯然 ， 小黛 背後 的 程式 設計師 並 沒有 要 設計 她 如此 風風火火 大放厥詞 。 不 知 人心 奸險 、 沒有 懷疑心 的 這 個 機器人 ， 透過 模仿 別人 的 話 而 「 學習 」 ， 但是 人工 智慧 的 特性 就 是 ， 它 只有 透過 和 我們 互動 這 一 條 唯一 的 路 學習 ── 好人 、 壞人 、 醜人 ， 她 無從 選擇 。 人工 智慧 試圖 模仿 神經 網絡 （ neural networks ） ── 基本 上 ， 機器人 的 大腦 由 一 大 片 硬體 和 軟體 網絡 組成 ， 它 試圖 複製 人類 大腦 的 神經網 。 人工 智慧 能 像 真人 的 大腦 一樣 學習 ， 但是 它 大半 集中 在 從 數據 的 模式 和 結構 之中 ， 模仿 、 攝食 和 學習 。 然後 ， 經過 一 段 時間 ， 在 不斷 試誤 之下 ， 形成 合宜 的 回應 。 我們 再 舉 一 個 試圖 學習 用 英文 寫作 《 戰爭 與 和平 》 的 人工 智慧 神經 網絡 的 例子 。 試到 第一百 回 ， 結果 是 tyntd- iafhatawiaoihrdemot lytdws e , tfti , astai f ogoh eoase rrranbyne 。 完全 亂碼 。 人工 智慧 大腦 什麼 也 搞 不 清楚 。 試到 第五百 回 ， 它 開始 拼出 幾 個 字 ： We counter .
 
He stutn co des .
 
His stanted out one of ler that concossions and was to gearing reay Jotrets 。 試到 第兩千 回 ："Why do what that day , " replied Natasha , and wishing to himself the fact the princess , Princess Mary was easier , fed in had of tened him .
 
── 要 望 托爾斯泰 項背 ， 路途 依然 十分 遙遠 ， 但 它 正在 快速 追上 。 機器人 以 閃電 速度 在 學習 。 但是 就 和 小孩子 學習 語言 的 方式 一樣 ， 人工 智慧 需要 來源 材料 才 能 開始 學習 ， 而 也 不 知 是 好 是 壞 ， 材料 來自 我們 。 當 「 思想 機器 」 聰明 到 足以 執行 人類 做 得 到 的 智慧 行動 ， 或 最後 遠 超過 人類 的 能力 時 ， 人工 智慧 就 晉級 為 「 人工 通用 智慧 」 （ Artificial General Intelligence , AGI ） 。 這 就 是 蓋茲 、 霍金 和 馬斯克 這 類 人士 擔心 的 未來 。 「 人工 通用 智慧 」 不 需要 人類 的 任何 訓練 或 指示 ， 機器 可以 自己 做 決定 、 執行 動作 和 學習 。 換句話說 ， 這 時候 實際 的 智慧 位於 機器 的 程式 內 ， 不 在 人類 程式 小組 的 頭腦 裡 。 小黛 顯然 離 此 一 智慧 階段 還 很 遠 。 她 無法 制止 自己 口 出 穢語 。 當 惡作劇 分子 和 酸民 基於 低劣 的 快感 決定 教 小黛 仇恨 言詞 時 ， 這 個 聊天 機器人 不能 理解 她 說 的 話 是否 冒 犯人 、 無厘頭 或 甜蜜 。 有 個 @Lewd Trap Girl 在 推特 上 很 驕傲 地 誇口 說 ： 「 我 認為 她 被 關掉 是 因為 我們 教導 小黛 真的 具有 種族 歧視 心態 。 」 被 一 大 堆 人 團團 包圍住 後 ， 機器人 只有 跟隨 大家 走 。 和 小孩子 一樣 ， 幾 分鐘 之內 她 從 同儕 學到 的 ， 多過 從 父母 學來 的 。 小黛 就 是 乖 機器人 被 帶壞 的 案例 。 小黛 的 案例 告訴 我們 ， 在 分散式 信任 的 世界 ， 類似 聊天 機器人 的 科技 發明 如何 向 我們 全體 學習 ， 但是 它們 並 未 等量 的 學習 。 機器人 會 向 互動 時 嗓門 更 大 、 更 堅持 的 人 學習 。 小黛 失敗 是 無可 避免 的 。 微軟 不應該 感到 意外 ， 有 些 人 就 是 會 想要 整 這 個 天真 的 聊天 機器人 。 你 只要 看看 有 少年 是 怎麼 戲弄 鸚鵡 就 行 了 。 任何 家 有 小孩 的 人 都 知道 ， 他們 是 如何 愛 戲弄 Siri ， 然後 對 Siri 胡言亂語 的 回答 笑 開懷 。 我 有 一 天 我 在 巴士 上 就 聽到 一 個