Beware the Power of Prediction | Carissa Véliz | TED

00:00譯者: 麗玲 辛 審譯者: Zoe Walmsley 讓我來談談未來。 預言，是各方爭奪未來時 交鋒的拳擊擂臺。 相傳， 法王路易十一世的宮廷 供養了一位占星師。 某天，占星師預言 宮廷的某位女子將在一週內去世。 預言成真時，路易大受震撼。 要嘛占星師為了證明 自己的準確性將之謀殺， 要嘛就是他真有驚人的預知能力， 足以威脅到路易本人， 總之，這位占星師非死不可。 （笑聲） 國王命令僕人，只要他一給暗號， 就把占星師丟出窗外，讓他必死無疑。 順帶一提，你大概會很驚訝， 歷史上有多少先知都落得這種下場。

00:50奉勸占星師們： 遠離國王與高處。 （笑聲） 當占星師被帶來見路易時， 國王問了他最後一個問題： 「要不要用你的預言能力， 說說你還能活多久？」 占星師毫不遲疑地回答： 「我會比陛下早三天死去。」 （笑聲） 路易最終沒有發出暗號。 （笑聲） 那位占星師的答案是觀星得來的嗎？ 我認為不是。 （笑聲） 我認為他深諳預言的力量， 用它取得自己性命的「保險」。 聰明的占星師。 雖然我們常把預言和知識聯想在一起， 但我想請各位思考一下： 我們日常生活中聽到的預言， 絕大多數可能更傾向權力，而非知識。

01:51那個仰賴占星師或占卜者 預言未來的時代似乎早已遠去， 但我們時常把 AI 當成新的德爾菲神諭， 而科技業高管們在領袖的耳邊低語， 就像昔日的宮廷占星師一樣。 沒錯，現在科技不同， 然而政治角色卻未曾改變。 預言常常是披著羊皮的權力操作。 它們假借事實之名， 替充滿價值判斷的決策背書。 如今，深入理解預言比以往更為重要， 因為隨著 AI 的應用， 我們比以往任何時候更依賴預測。 而從我們談論預測的態度來看， 我們其實太過天真了。 你可能會想：「 AI 是科學啊， 是尖端的科技，對吧？」

02:36其實，這取決於哪一種 AI 以及我們怎麼使用它。 AI 用來預測分子是很棒的技術， 也能用來尋找新的抗生素； 但是，關於人的預測與關於事物的預測 在本質上是截然不同的。 天氣預報不會影響天氣； 但對人的預測，卻會影響人。 關於社會的預測往往像磁鐵一樣， 將現實往自身方向拉扯、扭曲， 影響原來所預測的現實。 比如，演算法對未來疾病的預測 可讓某些人的保險費上漲， 隨之而來的壓力就能導致健康惡化。 預測聽起來像是 在描述世界、陳述事實， 但其實不是。 若把它們當成陳述仔細分析， 它們其實是哲學家所說的 「言語行為」—— 也就是說，除了用來描述， 語言對世界還有其他作用。

03:42當你對孩子說「去把房間整理乾淨」， 你不是在描述房間的狀態， 而是在下命令。 同樣地， 關於社會的預測其實是隱晦的指令， 暗示我們該如何行動。 例如， 當某位科技業執行長說， 未來我們對 AI 的使用 將涵蓋所有領域、無所不在， 他其實是在試圖影響你的行為， 好讓他的未來願景成真—— 沒錯，就是那個讓他荷包滿滿的願景。 而當你相信他的預言， 好像那是對未來的陳述， 因為恐懼落於人後， 你也去買 AI， 貢獻給那個自我實現的預言， 你所做的其實是「聽命」。 你有沒有注意到， 那些針對科技做預測的人 常常將他們所描述的未來 說得好像是必然的結果。

04:42這是一個警訊。 這類預測就是設計成讓對話到此為止， 它們在告訴你：「不要質疑我， 把我說的當成事實接受就好。」 我希望這場演講能開啟對話， 我希望它能促使大家提出更多問題。 預測會引來操弄。 它所具有的塑造未來的能力 讓人們會想利用它、 從中獲利。 以預測市場為例。 支持預測市場的理由是： 它們可以成為知識的來源。 理論上，市場不會說謊。 如果人們下注， 押錯就會賠錢， 因此他們會努力押對。 而透過讓許多人下注， 我們就能運用群體智慧。 但把預測視為對知識的追求 —— 這也未免過於天真。

05:36若將預測視為對權力的追求， 那情況就完全不同了。 如果你有足夠的錢， 就能透過重金押注， 來影響大眾對某些事的認知。 甚至有政治人物押注在自己身上。 今年二月， 六個匿名帳號賺進了 120 萬美元， 靠的是押注伊朗會遭攻擊。 而其中幾個帳號的錢 才存入不到幾個小時。 最後，預測會製造不公， 然後掩蓋不公。 演算法預測正在打造 一個卡夫卡式的世界， 在那裡，我們不再能質疑 那些缺乏明確標準的決策。 如果我拒絕你的貸款申請， 是因為你不符合某項特定條件， 那是一個可以驗證的事實； 如果我錯了，你可以申訴。

06:32但如果我是基於「預測」 拒絕你的貸款申請， 那你就沒有辯駁的餘地。 預測從來不是事實。 事實是已經發生的「過去式」； 預測無法驗證，也無法證偽， 因為「預測」是未來式， 不會因為「錯了」而受到質疑， 因此，它成了掩蓋不公的完美工具。 預測往往不公平， 因為它們不是基於人們的現況， 而是基於我們對他們未來樣貌的想像。 當我們像預測天氣一樣 預測一個人的未來， 其實很不尊重—— 把他們當成物件， 而非有權決定自己未來的一份子， 人應可，也應有突破自身侷限的機會。 如今，一些最具影響力的預言者 提出了相當嚴峻的預測。

07:24賴瑞．艾利森── 某預測軟體公司的董事長， 公司名字也很貼切，叫做甲骨文， 他曾預言，現代監控國家即將出現， 無時無刻被監視的人民 會表現得規規矩矩。 但這樣一個看似沒有犯罪的世界， 卻充斥著另一種完全不同的罪行： 威權統治。 那是我們想要的世界嗎？ （掌聲） 我們能做什麼，去避免 不知不覺踏入那個世界？ 可以做的很多。 預言者的力量，來自人們相信他們。 如果我們選擇違抗， 而不是順應這些預測， 我們可以從選擇 更尊重隱私的產品開始。 哲學家漢娜・鄂蘭寫道： 跟殺人犯爭論下一個受害者 是死是活，是沒有意義的。

08:22正確的做法是去拯救 那個被預言將死的人。 是的，已經有先知預言民主即將消亡， 而我們唯一該做的就是去拯救民主。 （掌聲） 在古羅馬， 預言皇帝之死是違法的， 原因很簡單—— 皇帝往往真如預言般遭人刺殺。 我不是主張我們放棄預測， 我自己每天還是會用氣象 App， 可是，人民需要探討， 討論哪些預測該用，哪些不該用， 目前還沒這種公開探討。 與此同時，數十個演算法 正在幫你的人生做出決定。 以保險為例， 我們或許可以針對大眾群體做預測， 但不該針對個人， 因為那只會是不公平的自我實現預言。

09:23而且，如果保費是 根據個人化預測去計算， 這表示我們其實是在各自承擔風險， 保險作為「風險共擔」的 互助意義也就消失了。 或許在公平原則至上的情境中， 我們或許應該選用透明、 可容質疑的標準， 而非依賴預測性的統計模式比對。 讓我整合一下。 雖然自我實現的預言並非新鮮事， 但 AI 正在讓它們威力倍增， 也讓我們比以往更迫切地需要 對預測進行更深入的思考。 第一，預測從來不是事實， 而是一種言語行為。 第二，它會引來操弄。 第三，它會製造並掩蓋不公。 今天我最希望各位能記住的一點是： 預測「可能」成為權力的武器， 前提是我們相信它。

10:22如果伊底帕斯當初聽到 自己會弒父娶母的預言時一笑置之， 而不是整個嚇到失控， （笑聲） 他就不會動身前往底比斯， 讓那個預言成真。 在對未知感到焦慮時，人們求助先知， 但未知其實是好事—— 它代表未來尚未寫就，仍待我們書寫。 我們可以帶著創造力、好奇心 與探險的興奮，填滿那個空白。 企圖預測未來， 往往伴隨著控制未來的企圖。 因此，請小心預言者與預言。 只有當我們承認 沒有人知道未來會如何， 且看且走， 才能確保我們生活在 一個自由的社會中。 別把別人的預測當成事實，俯首聽命。

11:12要向喬・弗雷澤看齊。 重量級拳王穆罕默德・阿里在 1971 年賽前預測自己會獲勝時， 佛雷澤將之視為挑釁， 並在這場「世紀之戰」中擊敗 先前保持不敗紀錄的拳王阿里。 所以，下次當你聽到 對社會的悲觀預測時， 不要氣餒。 找到你內心的喬·佛雷澤， 反抗那些專橫的預測。 讓我們勇於想像及爭取 一個更好的世界。 或許這樣一來， 我們終將能共創美好的未來。 謝謝。 （掌聲與歡呼）