無法 保證 機器 不會 自行 做出 別的 方法 來 篩選 而 還是 有 歧視 。 」 亞馬遜 別 無 他 法 ， 最後 把 程式 刪 了 。 AI 跟 人 一樣 ， 有時 就 是 會 使壞 。 為 了 多 了 解 一點 未來 的 領導人 該 怎麼 處理 這 類 問題 ， 我 找 伊佛瑪．阿君華 （ Ifeoma Ajunwa ） 談 了 一下 ， 她 是 IRL 的 教授 ， 研究 演算法 公平性 （ algorithmic fairness ） 的 專家 。 阿君華 一邊 迎 我 進 她 辦公室 ， 一邊 問 我 要不要 來 一 杯 熱 巧克力 （ 在 凍死 人 的 伊薩卡 是 必備 良品 ） ， 也 說 我們 不妨 邊 走 邊 談 。 我 把 錄音機 打開 後 ， 阿君華 談 了 一些 她 對 亞馬遜 還 算 不錯 的 評價 ， 這 我 倒 沒想到 。 「 他們 算是 例外 ， 」 她 說 ， 「 老實說 ， 大多數 的 公司 可是 理 都 懶得 理 。 」 阿君華 說 未來 的 領導人 一定 要 不斷 監督 他們 用 的 技術 是 不 是 有 歧視 的 狀況 。 如今 自動化 的 短期 雇用 、 計薪 、 招聘 系統 在 全球 各 地 取代 人資 的 工作 — 阿君華 舉例 塔吉特 （ Target ） 、 星巴克 、 沃爾瑪 等 幾 家 公司 — 這 件 事 就 益發 急迫 了 。 「 它們 本來 就 沒辦法 改變 歧視 、 偏見 這樣 的 問題 ， 」 阿君華 說起 這些 系統 ， 「 這些 都 是 工具 ， 可以 加重 問題 也 可以 減輕 問題 。 而且 ， 既然 只 是 工具 ， 高明 的 領導人 或是 有 責任感 的 領導人 就 不應該 把 工具 怎麼 用 的 責任 推卸掉 。 」 阿君華 跟 我 說 ， 檢查 這些 系統 有沒有 偏頗 固然 是 必要 條件 ， 不過 ， 公開 一樣 也 屬 必要 。 她 說 ： 「 大多數 的 公司 連 必要 做 的 審查 都 懶得 去 做 。 就算 真 作 了 審查 ， 而且 是 內部 作 的 ， 也 會 祕而不宣 ， 能 蓋過去 就 蓋過去 。 」 有 公司 發現 AI 有 偏頗 但 把 消息 壓 在 內部 不 讓 外流 ， 等於 是 害 其他 公司 不 知道 應該 也 要 去 檢查 自家 的 工具 是否 有 類似 的 瑕疵 — 對 大 環境 的 勞動力 簡直 是 在 幫倒忙 。 這樣子 看 ， 亞馬遜 未 能 公開 他們 AI 系統 的 問題 ， 算是 有失 職守 。 亞馬遜 的 領導 階層 是 在 路透社 找上門 來 了 ， 才 談 了 談 這 件 事 。 即使 開口 回應 ， 講 得 也 模稜兩可 。 看到 這 類 的 情況 ， 各位 是 應該 向 揭發 事情 的 記者 脫帽 致意 。 創新 也 要 深思熟慮 __UNDEF__ 我 還 在 ILR 讀書 時 ， 上 過 一 門 為時 一 整 學期 的 研討會 ， 主題 是 遣散 ， 時間 正在 二○○九年 經濟 衰退 之前 。 這 一 門 課 我 上 得 津津有味 ， 讓 我 得以 深入 探查 經濟 垮 了 以後 千百萬 人 走過 的 路 。 這 個 代號 ILR HR 268 的 課程 ， 重點 在 怎樣 把 人 掃地出門 （ 找 教室 裡 的 人 作 對象 ， 講話 要 簡短 ， 免得 自己 惹禍 上身 ） ， 以及 怎樣 不 讓 自己 被 人 掃地出門 （ 別 用 電郵 啊 ） 。 課堂 上 的 氣氛 有時 很 陰沉 、 悲傷 ， 但 也 十分 真實 — 算是 帶領 大家 先 嘗 一下 職場 也 會 有 的 苦澀 ； 這 滋味 許多 人 寧可 視而不見 。 結果 這 一 門 ILR HR 268 竟然 是 真實 生活 上 好 的 預習 。 二○一三年 ， 我 自己 被 遣散 了 。 我 永遠 忘不了 那 一 天 的 每 一 件 小 事 。 我 在 新任 經理 手下 才 做 了 幾 個 禮拜 ， 便 在 他 的 行事曆 排上 了 約見 的 時間 ， 禮拜二 下午 近 傍晚 時 。 時間 快 到 了 ， 我 走過 他 訂下 時間 的 會議室 ， 看到 公司 的 人資 團隊 有 一 個 人 在 裡面 翻 一 疊 紙 。 明顯 看得出來 等一下 有事 。 由於 還 剩 幾 分鐘 才 到 ， 我 便 走回 辦公桌 開始 打包 。 打包 得 差不多 時 ， 我 的 經理 走來 把 我 帶 了 過去 。 他 和 人資 那邊 的 經理 一起 處理 資遣 的 事 ， 做 得 毫無 瑕疵 。 我們 都 很 清楚 步驟 ， 不 到 三十 分鐘 ， 我 就 已經 出 了 公司 的 大樓 。 我 離開 後 在 紐約 市區 一連 走 了 好幾 哩 的 路 — 一月份 的 時節 呢 。 被 資遣 的 滋味 實在 難以 忍受 ， 每 踏出 一 步 就 磨掉 一點 心 裡 的 痛 。 時移 事 往 ， 痛苦 已經 消逝 ， 對 我 來說 ， 當時 資遣 的 情況 如今 卻 還 比 資遣 這 事 本身 更 有意思 。 Operative Media ， __UNDEF__ 把 我 掃地 出門 的 廣告 公司 ， 那時 開發出 軟體 供 線上 新聞 發佈商 管理 各自 的 業務 。 這 技術 協助 新聞 公司 的 業務 代表 預約 廣告 活動 、 下 訂單 、 刊登 廣告 、 開發票 。 Operative 的 報業 客戶 名單 很 可觀 ， 《 華爾街日報 》 （ Wall Street Journal ） 、 NBC 環球 集團 （ NBC Universal ） 、 全 國 公共 廣播 電台 （ National Public Media ） 都 是 Operative 的 客戶 。 那時 大家 都 正 正當當 做 事 ， Operative 也 努力 做 事 。 後來 卻 變 了 調 。 我 在 Operative 那時 ， 數位 廣告 產業 開始 轉變 。 靠 電話 跟 人 買 廣告 是 很 煩瑣 的 ， 要 做 一 堆 事情 — 下 訂單 、 傳送 合約 、 投放 廣告 、 播送 管理 — 而 Operative 的 軟體 都 可以 幫忙 簡化 。 由於 人工 的 流程 動輒 會 出錯 、 搞混 ， 所以 業界 開始 走向 自動化 。 廣告主 開始 透過 新 推出 的 「 程序化 」 （ programmatic ） 軟體 系統 在 網路 上 買 廣告 ， 進而 在 網路 上面 推廣告 、 付費 、 鎖定 廣告 目標 ， 卻 從頭到尾 不必 跟 誰 講上 一 句 話 。 自動化 的 浪潮 打過來 ， Operative 自然 要 作 抉擇 了 。 Operative 可以 協助 他們 的 發佈商 客戶 將 廣告 庫存 16 清單 掛到 自動化 的 交易 平台 去 ， 要不然 就 死守 核心 業務 ， 依舊 靠 人力 來 做生意 ， 捱過 浪頭 打擊 。 Operative 最終 沒有 決定 往 哪 一 邊 去 。 他們 拖 了 很 長 一 段 時間 ， 還是 做 了 一 款 工具 Marketplace ， 供 他們 的 發佈商 把 廣告庫 存放上 這 款 自動化 交易 平台 ， 只 是 ， 他們 這 工具 來 遲 了 ， 效能 也 比不上 競爭 對手 。 所以 ， 快 得很 ， Operative 的 執行長 麥可 ． 李奧 （ Michael Leo ） 遭到 撤換 ， 沒 多久 ， 我 也 跟著 走人 了 。 我 打電話 給 李奧 想 跟 他 聊 一下 當年 到底 出 了 什麼 差錯 ， 原本 以為 要 講 的 應該 簡單 明瞭 吧 。 那時 我 為 這 本 書 作 研究 也 很 久 了 ， 曉得 當年 他 沒 按 常規 來 走 。 我 猜 他 會 跟 我 說 Operative 應該 走向 研發 而 不 是 死守 著 老 路子 不 拐彎 ， 應該 要 早一點 進行 自動化 ， 應該 要 開闢出 好 一點 的 管道 供 創意 化作 現實 。 所以 ， 當 李奧 說出 「 我 沒 聽 董事會 的 」 （ 董事會 當時 督促 他 要 自動化 ） ， 我 以為 他 會 朝 我 想 的 方向 去 講 。 可是 ， 接下來 他 卻 把 對話 帶 往 我 想不 到 的 方向 。 「 假如 盡忠 職守 只是 針對 投資人 這邊 ， 那 我 是 應該 早一點 自動化 沒 錯 ， 」 他 說 ， 「 可是 ， 假如 盡忠 職守 是 要 忠於 自認 正確 的 事 ， 那 我們 那時 走 的 路 可能 才 是 對 的 。 」 李奧 跟 我 說 ， 推動 廣告 販售 自動化 會 讓 大 新聞 機構 的 威望 貶值 。 從 自動化 系統 買 廣告 ， 關注 的 重點 會 在 廣告 的 目標 對象 ， 而 不 是 目標 對象 看到 了 什麼 。 所以 ， 把 優秀 新聞 發佈商 的 廣告庫 存放到 這樣 的 系統 ， 等於 把 頂尖 新聞 發佈商 的 廣告 庫存 ， 跟 沒 作 多少 （ 甚至 沒有 ） 報導 的 垃圾 網站 並排 ， 放 在 同等 重要 的 位置 — 對 頂尖 報業 未必 真 是 好事 。 所以 ， 李奧 這 是 在 跟 我 說 ， 隨著 邁向 創新力 前所未見 的 新時代 ， 我們 對 自己 到底 創造出 了 什麼 ， 一定 要 深思熟慮 。 這樣 的 觀念 是 和 人性 背道而馳 的 ， 人性 向來 只 顧 著 發明 而 不計 後果 。 「 大家 一 看到 有 什麼 科技 的 甜頭 ， 就 蜂擁而上 搶 著 做 ， 」 羅伯 ． 歐本海默 （ J . Robert Oppenheimer ） 說 過 ， 「 直到 你 做出 了 很 厲害 的 科技 ， 這 才 開始 來 吵 該 怎麼 用 。 」 歐本海默 這裡 說 的 是 原子彈 ， 原子彈 問世 有 他 一 份 大 功勞 。 我們 的 發明 若是 冒進 未 作 深思 ， 成品 可能 反噬 ， 新聞 發佈商 後來 終究 逃不了 自食 苦果 （ 倒 還 不 像 歐本海默 的 例子 那麼 極端 ） 。 Operative 雖然 努力 做 事 ， 不過 ， 跟 真人 買 廣告 還是 事倍功半 的