本世紀人類滅絕的幾率真的有1/6嗎？。信用:uux.cn/Shutterstock
（神秘的紀人絕地球uux.cn）據對話（史蒂文·斯特恩）：2020年，牛津大學的類滅率哲學家托比·Ord出版了一本名為《人類滅絕危險的懸崖》的書。他認為下一個世紀人類“生存大災難”的本世可能性為六分之一。
這是紀人絕一個相當具體的數字，也是類滅率一個令人擔憂的數字。這一說法當時成為頭條新聞，本世并一直具有影響力——最近一次是紀人絕由澳大利亞政治家安德魯·利在墨爾本的一次演講中提出的。
很難不同意我們在未來幾十年面臨令人不安的類滅率前景的觀點，從氣候變化、本世核武器和生物工程病原體(在我看來都是紀人絕大問題)，到流氓人工智能和大型小行星(我認為不太令人擔憂)。類滅率
但是本世那個數字呢？它從哪里來？這到底意味著什么？
拋硬幣和天氣預報
要回答這些問題，我們必須先回答另一個問題:什么是紀人絕概率？
最傳統的概率觀點被稱為頻率主義，它的類滅率名字來源于骰子和紙牌游戲。根據這一觀點，我們通過觀察大量擲骰子中3的頻率，知道公平骰子有1/6的機會擲出3。
或者考慮更復雜的天氣預報。當天氣預報員告訴我們明天有六分之一(或17%)的機會下雨，這意味著什么？
很難相信天氣預報員的意思是讓我們想象一大堆“明天”，其中有一部分會經歷降水。相反，我們需要觀察大量這樣的預測，看看它們之后發生了什么。
如果天氣預報員工作出色，我們應該看到當他們說“明天有六分之一的機會下雨”時，實際上第二天每六分之一的時間會下雨。
因此，傳統的概率依賴于觀察和程序。為了計算它，我們需要有一個重復事件的集合作為我們估計的基礎。
我們能向月球學習嗎？
那么這對人類滅絕的概率意味著什么呢？嗯，這樣的事件將是一次性的:在它發生后，沒有重復的余地。
相反，我們可能會發現一些可以借鑒的平行事件。事實上，在Ord的書中，他討論了許多潛在的滅絕事件，其中一些可以根據歷史進行研究。
例如，我們可以通過檢查月球歷史上有多少這樣的太空巖石撞擊過月球來估計滅絕大小的小行星撞擊地球的幾率。一位名叫讓-馬克·薩羅蒂的法國科學家在2022年做了這項研究，他計算出下個世紀物種滅絕的幾率約為1/3億。
當然，這樣的估計充滿了不確定性，但它得到了某種接近適當頻率計算的東西的支持。相比之下，Ord估計小行星滅絕的風險為百萬分之一，盡管他也注意到了相當程度的不確定性。
結果排名系統
還有另一種思考概率的方式，以英國統計學家托馬斯·貝葉斯的名字命名為貝葉斯主義。它不太關注事件本身，而更關注我們對它們的了解、期望和信念。
簡單來說，我們可以說貝葉斯主義者將概率視為一種排名系統。根據這種觀點，與概率相關的具體數字不應該直接采用，而應該與其他概率進行比較，以了解哪些結果可能性更大，哪些可能性更小。
例如，Ord的書包含了潛在滅絕事件的表格和他個人對其概率的估計。從貝葉斯的角度來看，我們可以將這些值視為相對等級。Ord認為，小行星撞擊導致的滅絕(百萬分之一)比氣候變化導致的滅絕(千分之一)的可能性小得多，而且兩者都比他所謂的“非對齊人工智能”導致的滅絕(十分之一)的可能性小得多。
這里的困難在于貝葉斯概率(通常稱為“先驗”)的初始估計相當主觀(例如，我會將基于人工智能的滅絕的可能性排得更低)。傳統的貝葉斯推理通過再次結合相關結果的觀察證據來“更新”概率值，從“先驗”轉移到“后驗”。
同樣，與人類滅絕概率相關的結果也很少。
主觀估計
有兩種方法可以考慮概率計算的準確性和有用性:校準和區分。
校準是概率實際值的正確性。沒有適當的觀察信息，我們無法確定這一點。另一方面，歧視只是指相對排名。
我們沒有理由認為Ord的價值觀得到了恰當的校準。當然，這不太可能是他的意圖。他自己表示，它們主要是為了給出“數量級”指示。
即便如此，在沒有任何相關的觀察證實的情況下，這些估計大多只是停留在先驗概率的主觀領域。
沒有很好地校準——但也許仍然有用
那么，我們如何看待“六分之一”呢？經驗表明，大多數人對概率的理解并不完美(除其他外，不斷增長的彩票銷售量就是證明)。在這種環境下，如果你在公共場合進行辯論，對“可能性”的估計不一定需要很好的校準——它只需要有正確的心理影響。
從這個角度來看，我認為“六分之一”非常符合這個要求。“100分之一”可能會被忽略，而“3分之一”可能會引起恐慌或被視為世界末日的胡言亂語。
作為一個關心未來的人，我希望像氣候變化和核擴散這樣的風險得到應有的關注。但作為一名數據科學家，我希望對概率的粗心使用被拋在一邊，并被對其真正意義和適當用法的廣泛教育所取代。