： 「 亞馬遜 的 系統 自行 學會 求職 人選 以 男性 較 好 。 掃到 履歷 有 『 女 』 這 個 字眼 ， 例如 『 女子 棋社 社長 』 ， 就 會 扣分 。 它 還 會 降低 兩 所 女子 學院 畢業生 的 分數 。 」 亞馬遜 回應 路透社 ， 說 這 夾帶 偏見 的 工具 ， 「 從未 被 亞馬遜 的 招聘官 用來 評估 求職 人選 。 」 不過 ， 路透社 說 招聘 人員 會 看 該 工具 給 的 評分 ， 對 這 一 點 亞馬遜 倒 未 否認 。 亞馬遜 也 未 多 作 說明 ， 所以 無從 得知 這 軟體 為何 會 有 歧視 的 狀況 。 不過 ， 亞馬遜 的 赫布里希 不 是 說 了 嘛 ： 要 看 輸入 。 亞馬遜 的 全球 員工 總數 ， 依 路透社 報導 引述 的 數字 ， 男性 占 百分之六十 ， 女性 占 百分之四十 。 所以 ， 亞馬遜 的 AI 在 蒐尋 最 適合 公司 的 人選 時 ， 依 系統 叫出來 的 資料 ， 是 有 可能 判定 男性 比較 合適 ， 而 據 此 去 搜尋 人選 。 亞馬遜 是 想要 修正 。 不過 ， 就算 他們 抓到 了 問題 所在 ， 也 解決不了 。 「 亞馬遜 將 程式 作 了 編輯 ， 要 程式 對 這 類 特定 的 字詞 不 設 立場 ， 」 路透社 的 報導 寫道 ， 「 但 這 無法 保證 機器 不會 自行 做出 別的 方法 來 篩選 而 還是 有 歧視 。 」 亞馬遜 別 無 他 法 ， 最後 把 程式 刪 了 。 AI 跟 人 一樣 ， 有時 就 是 會 使壞 。 為 了 多 了 解 一點 未來 的 領導人 該 怎麼 處理 這 類 問題 ， 我 找 伊佛瑪．阿君華 （ Ifeoma Ajunwa ） 談 了 一下 ， 她 是 IRL 的 教授 ， 研究 演算法 公平性 （ algorithmic fairness ） 的 專家 。 阿君華 一邊 迎 我 進 她 辦公室 ， 一邊 問 我 要不要 來 一 杯 熱 巧克力 （ 在 凍死 人 的 伊薩卡 是 必備 良品 ） ， 也 說 我們 不妨 邊 走 邊 談 。 我 把 錄音機 打開 後 ， 阿君華 談 了 一些 她 對 亞馬遜 還 算 不錯 的 評價 ， 這 我 倒 沒想到 。 「 他們 算是 例外 ， 」 她 說 ， 「 老實說 ， 大多數 的 公司 可是 理 都 懶得 理 。 」 阿君華 說 未來 的 領導人 一定 要 不斷 監督 他們 用 的 技術 是 不 是 有 歧視 的 狀況 。 如今 自動化 的 短期 雇用 、 計薪 、 招聘 系統 在 全球 各 地 取代 人資 的 工作 — 阿君華 舉例 塔吉特 （ Target ） 、 星巴克 、 沃爾瑪 等 幾 家 公司 — 這 件 事 就 益發 急迫 了 。 「 它們 本來 就 沒辦法 改變 歧視 、 偏見 這樣 的 問題 ， 」 阿君華 說起 這些 系統 ， 「 這些 都 是 工具 ， 可以 加重 問題 也 可以 減輕 問題 。 而且 ， 既然 只 是 工具 ， 高明 的 領導人 或是 有 責任感 的 領導人 就 不應該 把 工具 怎麼 用 的 責任 推卸掉 。 」 阿君華 跟 我 說 ， 檢查 這些 系統 有沒有 偏頗 固然 是 必要 條件 ， 不過 ， 公開 一樣 也 屬 必要 。 她 說 ： 「 大多數 的 公司 連 必要 做 的 審查 都 懶得 去 做 。 就算 真 作 了 審查 ， 而且 是 內部 作 的 ， 也 會 祕而不宣 ， 能 蓋過去 就 蓋過去 。 」 有 公司 發現 AI 有 偏頗 但 把 消息 壓 在 內部 不 讓 外流 ， 等於 是 害 其他 公司 不 知道 應該 也 要 去 檢查 自家 的 工具 是否 有 類似 的 瑕疵 — 對 大 環境 的 勞動力 簡直 是 在 幫倒忙 。 這樣子 看 ， 亞馬遜 未 能 公開 他們 AI 系統 的 問題 ， 算是 有失 職守 。 亞馬遜 的 領導 階層 是 在 路透社 找上門 來 了 ， 才 談 了 談 這 件 事 。 即使 開口 回應 ， 講 得 也 模稜兩可 。 看到 這 類 的 情況 ， 各位 是 應該 向 揭發 事情 的 記者 脫帽 致意 。 創新 也 要 深思熟慮 __UNDEF__ 我 還 在 ILR 讀書 時 ， 上 過 一 門 為時 一 整 學期 的 研討會 ， 主題 是 遣散 ， 時間 正在 二○○九年 經濟 衰退 之前 。 這 一 門 課 我 上 得 津津有味 ， 讓 我 得以 深入 探查 經濟 垮 了 以後 千百萬 人 走過 的 路 。 這 個 代號 ILR HR 268 的 課程 ， 重點 在 怎樣 把 人 掃地出門 （ 找 教室 裡 的 人 作 對象 ， 講話 要 簡短 ， 免得 自己 惹禍 上身 ） ， 以及 怎樣 不 讓 自己 被 人 掃地出門 （ 別 用 電郵 啊 ） 。 課堂 上 的 氣氛 有時 很 陰沉 、 悲傷 ， 但 也 十分 真實 — 算是 帶領 大家 先 嘗 一下 職場 也 會 有 的 苦澀 ； 這 滋味 許多 人 寧可 視而不見 。 結果 這 一 門 ILR HR 268 竟然 是 真實 生活 上 好 的 預習 。 二○一三年 ， 我 自己 被 遣散 了 。 我 永遠 忘不了 那 一 天 的 每 一 件 小 事 。 我 在 新任 經理 手下 才 做 了 幾 個 禮拜 ， 便 在 他 的 行事曆 排上 了 約見 的 時間 ， 禮拜二 下午 近 傍晚 時 。 時間 快 到 了 ， 我 走過 他 訂下 時間 的 會議室 ， 看到 公司 的 人資 團隊 有 一 個 人 在 裡面 翻 一 疊 紙 。 明顯 看得出來 等一下 有事 。 由於 還 剩 幾 分鐘 才 到 ， 我 便 走回 辦公桌 開始 打包 。 打包 得 差不多 時 ， 我 的 經理 走來 把 我 帶 了 過去 。 他 和 人資 那邊 的 經理 一起 處理 資遣 的 事 ， 做 得 毫無 瑕疵 。 我們 都 很 清楚 步驟 ， 不 到 三十 分鐘 ， 我 就 已經 出 了 公司 的 大樓 。 我 離開 後 在 紐約 市區 一連 走 了 好幾 哩 的 路 — 一月份 的 時節 呢 。 被 資遣 的 滋味 實在 難以 忍受 ， 每 踏出 一 步 就 磨掉 一點 心 裡 的 痛 。 時移 事 往 ， 痛苦 已經 消逝 ， 對 我 來說 ， 當時 資遣 的 情況 如今 卻 還 比 資遣 這 事 本身 更 有意思 。 Operative Media ， __UNDEF__ 把 我 掃地 出門 的 廣告 公司 ， 那時 開發出 軟體 供 線上 新聞 發佈商 管理 各自 的 業務 。 這 技術 協助 新聞 公司 的 業務 代表 預約 廣告 活動 、 下 訂單 、 刊登 廣告 、 開發票 。 Operative 的 報業 客戶 名單 很 可觀 ， 《 華爾街日報 》 （ Wall Street Journal ） 、 NBC 環球 集團 （ NBC Universal ） 、 全 國 公共 廣播 電台 （ National Public Media ） 都 是 Operative 的 客戶 。 那時 大家 都 正 正當當 做 事 ， Operative 也 努力 做 事 。 後來 卻 變 了 調 。 我 在 Operative 那時 ， 數位 廣告 產業 開始 轉變 。 靠 電話 跟 人 買 廣告 是 很 煩瑣 的 ， 要 做 一 堆 事情 — 下 訂單 、 傳送 合約 、 投放 廣告 、 播送 管理 — 而 Operative 的 軟體 都 可以 幫忙 簡化 。 由於 人工 的 流程 動輒 會 出錯 、 搞混 ， 所以 業界 開始 走向 自動化 。 廣告主 開始 透過 新 推出 的 「 程序化 」 （ programmatic ） 軟體 系統 在 網路 上 買 廣告 ， 進而 在 網路 上面 推廣告 、 付費 、 鎖定 廣告 目標 ， 卻 從頭到尾 不必 跟 誰 講上 一 句 話 。 自動化 的 浪潮 打過來 ， Operative 自然 要 作 抉擇 了 。 Operative 可以 協助 他們 的 發佈商 客戶 將 廣告 庫存 16 清單 掛到 自動化 的 交易 平台 去 ， 要不然 就 死守 核心 業務 ， 依舊 靠 人力 來 做生意 ， 捱過 浪頭 打擊 。 Operative 最終 沒有 決定 往 哪 一 邊 去 。 他們 拖 了 很 長 一 段 時間 ， 還是 做 了 一 款 工具 Marketplace ， 供 他們 的 發佈商 把 廣告庫 存放上 這 款 自動化 交易 平台 ， 只 是 ， 他們 這 工具 來 遲 了 ， 效能 也 比不上 競爭 對手 。 所以 ， 快 得很 ， Operative 的 執行長 麥可 ． 李奧 （ Michael Leo ） 遭到 撤換 ， 沒 多久 ， 我 也 跟著 走人 了 。 我 打電話 給 李奧 想 跟 他 聊 一下 當年 到底 出 了 什麼 差錯 ， 原本 以為 要 講 的 應該 簡單 明瞭 吧 。 那時 我 為 這 本 書 作 研究 也 很 久 了 ， 曉得 當年 他 沒 按 常規 來 走 。 我 猜 他 會 跟 我 說 Operative 應該 走向 研發 而 不 是 死守 著 老 路子 不 拐彎 ， 應該 要 早一點 進行 自動化 ， 應該 要 開闢出 好 一點 的 管道 供 創意 化作 現實 。 所以 ， 當 李奧 說出 「 我 沒 聽 董事會 的 」 （ 董事會 當時 督促 他 要 自動化 ） ， 我 以為 他 會 朝 我 想 的 方向 去 講 。 可是 ， 接下來 他 卻 把 對話 帶 往 我 想不 到 的 方向 。 「 假如 盡忠 職守 只是 針對 投資人 這邊 ， 那 我 是 應該 早一點 自動化 沒 錯 ， 」 他 說 ， 「 可是 ， 假如 盡忠 職守 是 要 忠於 自認 正確 的 事 ， 那 我們 那時 走 的 路 可能 才 是 對 的 。 」 李奧 跟 我 說 ， 推動 廣告 販售 自動化 會 讓 大 新聞 機構 的 威望 貶值 。 從 自動化 系統 買