當你在線上購物時，要是看到不中意的價格，請不要視為商家把你當成大肥羊，衝著你來的：我們看到的許多線上價格都是演算法設定的金額，定價根據來自呼應個別消費者的需求，同時也可能是嘗試猜測對方可能願意支付這筆費用。

AI學會囚徒理論，合作抬價

若此，下一步會是什麼？若是合乎邏輯的推敲，恐怕將是電腦要開始密謀與我們作對。這套推論聽起來似乎太偏執，不過最近四位義大利波隆納大學（University of Bologna）經濟學家發表的最新研究顯示，上述情形或許不是異想天開。

研究人員設定兩套簡易的人工智慧演算法，在同一處環境中同步互相競爭價格，並據此獲取利潤。在這道過程中，兩套演算法會先廝殺一番，但在割喉式流血競爭後，改成共謀提高價格，最終導出一個市場壟斷者會選擇的定價。價格戰方酣之際，金額會下殺，但之後就會回歸互相串通的階段。就算你對價格有一定偏執，不代表電腦就不會想盡辦法逮到你。

對於像我這一類打從年輕時代就窮盡畢生之力研究產業競爭理論的人來說，上述結果其實不算太出人意料之外。一九八四年，密西根大學（University of Michigan）教授艾瑟羅德（Robert Axelrod）出版的著作《合作的競化》（The Evolution of Cooperation）就描述一場電腦扮演競爭賣家的「囚徒困境」比賽。實驗結果證明，最好的做法就是採用懲罰威脅，好讓合作得以持續運作；同時它們也很容易理解，不是機器學習系統非得苦思良久才能發現的道理。

有一道顯而易見的問題是，當機器人處於未經告知的情況下就自行訂定價格，甚至也略過溝通以達成共識的步驟，誰該是被依法起訴的對象？

當機器人自行訂定價格，甚至也略過溝通以達成共識的步驟，誰該是被依法起訴的對象？

機器人串通，不算違法

在美國，聯邦交易委員會（Federal Trade Commission）已經在思考未來可能性，但答案似乎是誰也不該成為眾矢之的，因為法規明定，共謀協議非得要夠明確、具體才算是非法行徑。因此，機器人唯有在開始採取共同串通的行動，才算是唆使犯罪。顯然，心照不宣的共謀行為不成問題。

這項推論是一記警鐘，因為演算法可能採取五花八門、讓人嘖嘖稱奇的方式胡搞瞎搞。

我們沒有人可以撼動人工智慧網路「天網」（Skynet）的形象，這是著名科幻電影《魔鬼終結者》系列中的邪惡力量，它過度發展，以至於失控觸發核武戰爭，甚至還派遣動作明星阿諾．史瓦辛格（Arnold Schwarzenegger）飾演的機器人，銜命穿越時空鎮壓人類抵抗。至少那套策略還有點耳目一新，但演算法造成危害的真實範圍卻更微妙、更寬泛。

我們會從意外發生或刻意設計的方式自然關注到，演算法會做出種族或性別歧視舉動，帶有種族歧視意味的演算法這麼快就從小說元素變成老哏，我個人十分震驚，因為故事可能會被淡忘，但爭議永遠不會消失。

就目前而言，輕易就能放大人為疏失的演算法，看起來幾乎可說是離奇有趣。二○一二年，英國《金融時報》曾下過一個標題：騎士資本設備故障，重損四億六千一百萬美元，這起事件發生在非關本意的年代；隨後幾年全球電商龍頭亞馬遜販售的T恤開始出現攻擊性印字，好比「保持冷靜揍扁她」（Keep Calm and Hit Her），或是莫名其妙的「保持冷靜撇開我」（Keep Calm and Skim Me）。演算法集結成千上萬句口號，如果有任何消費者想買，供應商就隨時打印生產。

「又不是我們做的，都是演算法的錯。」這是二○一三年軟弱無力的自保說法，但至少還算新鮮。往後，這句話再也不成立了。

我們也漸漸明白，這些演算法會放大其他各種人類弱點，看看各個串流平台、社群網站的推薦引擎就知道，它們會放大故意針對大眾散布的虛假信息，或是誤導用戶進入陰謀思維或自我傷害的暗黑隧道。

所有的惡意程式都不是意外，有些是帶著招惹禍事的壞心眼設計而成，像是機器人可用來產生或傳播錯誤信息。《黑暗網路：匿名地下社會的第一手臥底調查》（Dark Net: Inside the Digital Underworld）作者巴特利特（Jamie Bartlett）警告，未來會出現超級客製化的文宣。

你家裡的連網冰箱知道你餓了，所以幫你訂購優格，這是一回事；但如果它趁著你脾氣暴躁、血糖低落時，開始對著你播放強迫推銷的廣告，因為這個時間點的成效最高，那就是另一回事了。除非我們從根本上改進選舉法規和數位系統，否則沒有人需要知道，當你在搜尋識別用戶身分的暫存紀錄檔時，耳邊已經響起特定的訊息提示。

連網冰箱幫你訂優格，這是一回事；但如果它趁你血糖低落時，播放強迫推銷廣告，就是另一回事了。

未來擬法重點：出包誰負責？

顯然，法律和監管機關都必須靈活應對，但同時也應該思考企業公關部門、社會責任部門所面臨的挑戰。第二項考量關乎成為良好企業公民，所以公關作用看似如此。不過，當演算法做出有害或無禮的決策時，誰來承擔企業責任？

這不是一道全新議題。各派演算法之間早已出現心照不宣的共謀行為，各家業務部門總監亦然。以前，企業還不能怪罪流氓演算法，搞出讓人尷尬的烏龍事件時，就會全推到流氓員工或它們的供應商身上。就像我們真能責怪銀行的清理承包商，支付低薪給清理員工嗎？或運動品牌反對的血汗工廠，竟然聘雇領取微薄薪酬童工的生產條件嗎？

答案自然是：我們可以這麼做，而且我們也真的做了。但業務發包其實是高官搪塞推諉、複雜問題的來源，所以把業務發包給演算法也會讓事情變得錯綜複雜。所幸，我們正打算開始釐清始末。