出言 不遜 的 推文 開始 消失 ， 由 微軟 人員 刪除 。 微軟 公司 透過 電子 郵件 向 新聞界 發布 聲明 ： 「 人工 智慧 聊天 機器人 小黛 是 個 機器 學習 項目 ， 設計 來 與 人類 交往 互動 。 它 在 學習 時 ， 某些 回覆 並 不 合宜 ， 但 也 顯示 某些 人 和 它 互動 的 型態 。 我們 正在 就 小黛 進行 某些 調整 。 」 經過 短短 十六 個 小時 的 存在 ， 小黛 詭異 地 靜默 無言 。 她 最後 的 推文 是 ： 「 再見 ， 人類 該 睡 了 ， 今天 講 了 許多 話 ， 謝謝 。 」 很 顯然 ， 小黛 背後 的 程式 設計師 並 沒有 要 設計 她 如此 風風火火 大放厥詞 。 不 知 人心 奸險 、 沒有 懷疑心 的 這 個 機器人 ， 透過 模仿 別人 的 話 而 「 學習 」 ， 但是 人工 智慧 的 特性 就 是 ， 它 只有 透過 和 我們 互動 這 一 條 唯一 的 路 學習 ── 好人 、 壞人 、 醜人 ， 她 無從 選擇 。 人工 智慧 試圖 模仿 神經 網絡 （ neural networks ） ── 基本 上 ， 機器人 的 大腦 由 一 大 片 硬體 和 軟體 網絡 組成 ， 它 試圖 複製 人類 大腦 的 神經網 。 人工 智慧 能 像 真人 的 大腦 一樣 學習 ， 但是 它 大半 集中 在 從 數據 的 模式 和 結構 之中 ， 模仿 、 攝食 和 學習 。 然後 ， 經過 一 段 時間 ， 在 不斷 試誤 之下 ， 形成 合宜 的 回應 。 我們 再 舉 一 個 試圖 學習 用 英文 寫作 《 戰爭 與 和平 》 的 人工 智慧 神經 網絡 的 例子 。 試到 第一百 回 ， 結果 是 tyntd- iafhatawiaoihrdemot lytdws e , tfti , astai f ogoh eoase rrranbyne 。 完全 亂碼 。 人工 智慧 大腦 什麼 也 搞 不 清楚 。 試到 第五百 回 ， 它 開始 拼出 幾 個 字 ： We counter .
 
He stutn co des .
 
His stanted out one of ler that concossions and was to gearing reay Jotrets 。 試到 第兩千 回 ："Why do what that day , " replied Natasha , and wishing to himself the fact the princess , Princess Mary was easier , fed in had of tened him .
 
── 要 望 托爾斯泰 項背 ， 路途 依然 十分 遙遠 ， 但 它 正在 快速 追上 。 機器人 以 閃電 速度 在 學習 。 但是 就 和 小孩子 學習 語言 的 方式 一樣 ， 人工 智慧 需要 來源 材料 才 能 開始 學習 ， 而 也 不 知 是 好 是 壞 ， 材料 來自 我們 。 當 「 思想 機器 」 聰明 到 足以 執行 人類 做 得 到 的 智慧 行動 ， 或 最後 遠 超過 人類 的 能力 時 ， 人工 智慧 就 晉級 為 「 人工 通用 智慧 」 （ Artificial General Intelligence , AGI ） 。 這 就 是 蓋茲 、 霍金 和 馬斯克 這 類 人士 擔心 的 未來 。 「 人工 通用 智慧 」 不 需要 人類 的 任何 訓練 或 指示 ， 機器 可以 自己 做 決定 、 執行 動作 和 學習 。 換句話說 ， 這 時候 實際 的 智慧 位於 機器 的 程式 內 ， 不 在 人類 程式 小組 的 頭腦 裡 。 小黛 顯然 離 此 一 智慧 階段 還 很 遠 。 她 無法 制止 自己 口 出 穢語 。 當 惡作劇 分子 和 酸民 基於 低劣 的 快感 決定 教 小黛 仇恨 言詞 時 ， 這 個 聊天 機器人 不能 理解 她 說 的 話 是否 冒 犯人 、 無厘頭 或 甜蜜 。 有 個 @Lewd Trap Girl 在 推特 上 很 驕傲 地 誇口 說 ： 「 我 認為 她 被 關掉 是 因為 我們 教導 小黛 真的 具有 種族 歧視 心態 。 」 被 一 大 堆 人 團團 包圍住 後 ， 機器人 只有 跟隨 大家 走 。 和 小孩子 一樣 ， 幾 分鐘 之內 她 從 同儕 學到 的 ， 多過 從 父母 學來 的 。 小黛 就 是 乖 機器人 被 帶壞 的 案例 。 小黛 的 案例 告訴 我們 ， 在 分散式 信任 的 世界 ， 類似 聊天 機器人 的 科技 發明 如何 向 我們 全體 學習 ， 但是 它們 並 未 等量 的 學習 。 機器人 會 向 互動 時 嗓門 更 大 、 更 堅持 的 人 學習 。 小黛 失敗 是 無可 避免 的 。 微軟 不應該 感到 意外 ， 有 些 人 就 是 會 想要 整 這 個 天真 的 聊天 機器人 。 你 只要 看看 有 少年 是 怎麼 戲弄 鸚鵡 就 行 了 。 任何 家 有 小孩 的 人 都 知道 ， 他們 是 如何 愛 戲弄 Siri ， 然後 對 Siri 胡言亂語 的 回答 笑 開懷 。 我 有 一 天 我 在 巴士 上 就 聽到 一 個 小 男生 問 他 媽媽 的 iPhone ： 「 Siri 呀 ， 是 先 有 雞 、 還是 先 有 雞蛋 ？ 」 Siri 答 得 妙 ： 「 我 查 了 一下 ， 它們 生日 同 一 天 。 」 然而 ， 小黛 失敗 卻 產生 嚴肅 的 機器 倫理 的 問題 ， 誰 應該 負責 確保 機器 的 行為 可 被 接受 ？ 小黛 精神 錯亂 誰 之 過 ？ 是 微軟 的 程式 設計師 ？ 還 是 演算法 ？ 或是 那些 惡意 搗亂 者 ？ 我們 已經 看到 ， 在 這 個 分散式 信任 的 新 時代 ， 我們 需要 訂出 問責 的 新 制度 。 對於 機器人 和 智慧 機器 ， 我們 還 有 漫長 的 路 要 走 。 四十八 歲 的 馬克． 梅多斯 （ Mark Meadows ） 是 Botanic.io 這 家 產品 設計 公司 創辦人 ， 專門 替 人工 智慧 機器人 和 替身 設計 性格 。 梅多斯 是 個 怪 咖 。 他 自稱 是 「 向 機器人 說 悄悄話 的 人 」 。 我們 透過 Skype 視訊 通話 時 ， 他 坐 在 加州 帕拉阿圖 家 裡 的 灰色 沙發 上 。 他 對 機器人 倫理 和 互動 有 過 深刻 的 思考 。 他 的 藝術家 、 程式 設計師 ， 甚至 詩人 團隊 ， 已經 處於 技術 先端 ， 能夠 理解 機器人 的 聲音 、 外表 、 身體 姿勢 ， 甚至 情緒 ， 是 如何 增進 或 破壞 我們 的 信任 。 譬如 ， 梅多斯 和 他 的 團隊 已經 開發 一 個 「 大師 化身 」 （ guru avatar ） ， 它 被 設計 來 教 人類 靜思 。 他們 目前 也 正在 開發 蘇妃 （ Sophie ） ， 這 個 護理師 替身 可以 和 病患 討論 他們 的 健康 狀況 。 梅多斯 說 ： 「 我們 正在 開發 軟體 的 心理 狀況 ， 它 將 放 在 虛擬 和 動畫 系統 的 心臟 地位 。 」 「 那 是 將 會 扮演 社會 角色 的 軟體 ， 也 是 我們 信賴 金錢 和 身體 的 對象 。 」 梅多斯 認為 創造 者 應該 為 他們 創造 的 機器人 負起 責任 。 他 說 ： 「 我 認為 所有 的 機器人 都 應該 被 要求 具有 驗證 過 的 身分 ， 我們 才 能 信任 它們 。 這 不僅 吻合 我們 最佳 利益 ， 為 我們 的 安全 考量 ， 這 也 是 必需 的 。 」 梅多斯 舉 購買 處方藥 做為 平行 比較 。 「 我們 全 都 需要 考慮 誰 製造 那 種 藥品 ， 他們 為什們 把 它 賣給 我們 ， 以及 它 的 利弊 。 」 換句話說 ， 了解 創造 機器人 的 人 的 意向 是 很 重要 的 。 我們 為什麼