整理：智源社區(qū) 龔鶴揚(yáng) 高亦斌
2020年6月21日，在第二屆北京智源大會(huì)開(kāi)幕式及全體會(huì)議上，圖靈獎(jiǎng)得主、貝葉斯網(wǎng)絡(luò)奠基人Judea Pearl 做了名為《The New Science of Cause and Effect with reflections on data science and artificial intelligence》的主題演講。在演講中，Judea Pearl 站在整個(gè)數(shù)據(jù)科學(xué)的視角，簡(jiǎn)單回顧了過(guò)去的“大數(shù)據(jù)革命”，指出數(shù)據(jù)科學(xué)正在從當(dāng)前以數(shù)據(jù)為中心的范式向以科學(xué)為中心的范式偏移，現(xiàn)在正在發(fā)生一場(chǎng)席卷各個(gè)研究領(lǐng)域的“因果革命”。Pearl 解釋了什么是因果科學(xué)以及相關(guān)新邏輯和推理引擎的思想脈絡(luò)，包括介紹了被稱之為“Double-Helix”的兩個(gè)因果推理的基本定理，并以其作為出發(fā)點(diǎn)推演出因果圖模型框架，最后概述了該框架下因果推理的七大工具。另外，為了幫助讀者們更加透徹地理解Pearl 的因果推理思想，我們結(jié)合 Judea Pearl 近年來(lái)的論文、訪談和報(bào)告，以及其學(xué)生 Elias Bareinbion、馬普智能所 Bernhard Scholkopf 團(tuán)隊(duì)等的相關(guān)研究工作，對(duì)本報(bào)告進(jìn)行了一定的補(bǔ)充說(shuō)明。Judea Pearl 個(gè)人簡(jiǎn)介朱迪亞·珀?duì)枺↗udea Pearl）是加州大學(xué)洛杉磯分校（UCLA）教授，圖靈獎(jiǎng)（Turing Award）得主。他在 20 世紀(jì) 80 年代開(kāi)發(fā)并倡導(dǎo)了AI 的概率方法，被稱為貝葉斯網(wǎng)絡(luò)之父。然而為了強(qiáng)人工智能的愿景，Pearl 脫離主流 AI 研究社區(qū)，提出了一套因果的數(shù)學(xué)語(yǔ)言和理論，引領(lǐng)了正在席卷各個(gè)學(xué)科的”因果革命“。他自己最引以為傲的工作是 “The fundamental law of counterfactuals?！盵4] To Build Truly Intelligent Machines, Teach Them Cause and Effect。 因果革命：改變數(shù)據(jù)科學(xué)的新革命在報(bào)告中 ，Pearl 首先介紹了一場(chǎng)正在改變數(shù)據(jù)科學(xué)的新革命 --- ”因果革命“。因果革命和以數(shù)據(jù)為中心的第一次數(shù)據(jù)科學(xué)革命，也就是大數(shù)據(jù)革命（涉及機(jī)器學(xué)習(xí)，深度學(xué)習(xí)機(jī)器應(yīng)用，例如Alpha-Go、語(yǔ)音識(shí)別、機(jī)器翻譯、自動(dòng)駕駛等等 ）的不同之處在于，它以科學(xué)為中心，涉及從數(shù)據(jù)到政策、可解釋性、機(jī)制的泛化，再到一些社會(huì)科學(xué)中的基礎(chǔ)概念信用、責(zé)備和公平性， 甚至哲學(xué)中的創(chuàng)造性和自由意志 ?？梢哉f(shuō)， 因果革命徹底改變了科學(xué)家處理因果問(wèn)題的方式。圖1：Pearl 關(guān)于數(shù)據(jù)科學(xué)本質(zhì)的洞見(jiàn)，見(jiàn)文獻(xiàn)[3]因果革命中，數(shù)據(jù)科學(xué)的任務(wù)被重新分成了三類：預(yù)測(cè), 描述和反事實(shí)預(yù)測(cè)[6]。關(guān)于它具體如何席卷各個(gè)學(xué)科，詳情可參見(jiàn)：- Bernhard Scholkopf 最引以為傲的論文之一《Causality for Machine Learning》，它概述了信息革命時(shí)代下因果和機(jī)器學(xué)習(xí)的融合的基本原理和深刻思考[5]；
- 《Causal Inference and Data-Fusion in Econometrics》是 Elias Eareinboim(Pearl 學(xué)生) 關(guān)于因果結(jié)合經(jīng)濟(jì)學(xué)領(lǐng)域的最新綜述[7]；
- 因果也影響了社會(huì)科學(xué), 醫(yī)療健康科學(xué), 計(jì)算機(jī)和統(tǒng)計(jì)學(xué)等，見(jiàn)資料[1, 8]。
哈佛大學(xué)教授 Gary King(2014) 盛贊了這場(chǎng)因果革命，它指出“過(guò)去三十年關(guān)于因果理論的進(jìn)展超過(guò)了人類前面積累的總和。” Pearl 繼續(xù)解釋說(shuō)，成百上千過(guò)去認(rèn)為不可能解決的問(wèn)題，現(xiàn)在可以通過(guò)簡(jiǎn)單的數(shù)學(xué)和可計(jì)算的算法解決。在介紹完“因果革命”之后，Pearl接著介紹了本次報(bào)告的大綱：- 什么是因果科學(xué)，為什么它需要新的邏輯和推斷引擎
- 如何讓機(jī)器獲得因果推理的能力(因果推理引擎的結(jié)構(gòu))
當(dāng)前曲線擬合的機(jī)器學(xué)習(xí)和深度學(xué)習(xí)取得了巨大的成功，為什么需要研究因果[8]？Pearl 在去年接受 Lex Fridman 訪談[4]時(shí)提到 “Everything starts with the question: What is the research question? ”。而Pearl 在這次報(bào)告中，則用了幾個(gè)統(tǒng)計(jì)學(xué)中的經(jīng)典例子。第一個(gè)問(wèn)題是：“鍛煉身體是否能夠有利于健康？”見(jiàn)下圖，x軸表示運(yùn)動(dòng)時(shí)間，y軸表示膽固醇水平。
一方面，在圖2（左）中，可以看大每個(gè)年齡組中都出現(xiàn)了向下的趨勢(shì)，表明運(yùn)動(dòng)可能的確有降低人體膽固醇水平的效果；另一方面，在圖2（右）中，同樣的散點(diǎn)圖并不依據(jù)年齡對(duì)數(shù)據(jù)進(jìn)行分層，那么我們就會(huì)看到一個(gè)明顯向上的趨勢(shì)，這表明運(yùn)動(dòng)得越多，人體膽固醇水平就越高，這種矛盾在統(tǒng)計(jì)學(xué)中被成為辛普森悖論。Pearl 介紹的另外兩個(gè)例子，一個(gè)是關(guān)于“藥物”、“性別”、“死亡率”的研究問(wèn)題：“藥物有效果嗎？” 另外一個(gè)是關(guān)于“疫苗”、“天花”、“死亡率”的研究問(wèn)題：“疫苗有效果嗎？”這幾個(gè)例子共同說(shuō)明了數(shù)據(jù)可能對(duì)你講出兩個(gè)不同的故事。如果信息發(fā)生了一些變化，得到的結(jié)論就可能是不一樣的。更加準(zhǔn)確地來(lái)說(shuō)，這幾個(gè)例子本質(zhì)上是要回答因果問(wèn)題，僅有數(shù)據(jù)信息而沒(méi)有先驗(yàn)因果關(guān)系信息的時(shí)候，就可能得出與關(guān)注研究的問(wèn)題相互矛盾的答案?；卮鹨蚬麊?wèn)題需要因果信息。Pearl 在這次報(bào)告中指出，因果科學(xué)始于因果問(wèn)題，因果科學(xué)研究如何回答因果問(wèn)題。什么是因果問(wèn)題呢？他舉了幾個(gè)簡(jiǎn)單的例子：1. 給定的治療方法在預(yù)防疾病方面效果如何？2. 是新的減稅政策導(dǎo)致銷售額上升嗎？還是我們的營(yíng)銷活動(dòng)？3. 肥胖引起的年度醫(yī)療保健費(fèi)用是多少？他解釋到，上面這五個(gè)因果問(wèn)題，因?yàn)檫@些問(wèn)題都包含著不對(duì)稱信息，所以無(wú)法用現(xiàn)在標(biāo)準(zhǔn)的科學(xué)語(yǔ)言，也就是具備對(duì)稱性的數(shù)學(xué)公式來(lái)描述。相對(duì)于“=”表示對(duì)稱信息，他用箭頭 → 表示非對(duì)稱信息，見(jiàn)下圖：在過(guò)去的30年中，Pearl 和他的同事找到了非對(duì)稱性的表達(dá)工具。他認(rèn)為因果科學(xué)是回答因果問(wèn)題的邏輯和工具，也就是推理引擎。通俗來(lái)說(shuō)它有三個(gè)輸入，包括我們想知道什么、我們已經(jīng)知道什么和可用數(shù)據(jù)，以及作為輸出的兩類關(guān)注問(wèn)題的答案：a) 現(xiàn)在某個(gè)行動(dòng)會(huì)有什么結(jié)果？b) 過(guò)去換個(gè)選擇會(huì)有什么不同的結(jié)果？因果推理是人類思想中不可或缺的組成部分，應(yīng)該對(duì)其進(jìn)行形式化和算法化處理，以實(shí)現(xiàn)人類水平的機(jī)器智能[3]。Pearl 描述了一個(gè)因果推理的三級(jí)結(jié)構(gòu)，把因果信息按其能夠回答的類型進(jìn)行分類。該分類形成了一個(gè)三層的層級(jí)結(jié)構(gòu)，某層的問(wèn)題，只有在獲取不低于該層信息時(shí)，才能夠被回答。  圖4：三個(gè)因果層級(jí)，參見(jiàn)書籍[2]第一層是關(guān)聯(lián)（Association），它涉及由數(shù)據(jù)定義的統(tǒng)計(jì)相關(guān)性。大多數(shù)機(jī)器學(xué)習(xí)系統(tǒng)圍繞這一層運(yùn)行。第二層是干預(yù)（Intervention），不僅涉及到能看到什么，還涉及一個(gè)干預(yù)或行動(dòng)將會(huì)導(dǎo)致什么結(jié)果。作為例子，Pearl 提了一個(gè)問(wèn)題：“如果我們把價(jià)格翻倍，將會(huì)發(fā)生什么？”第三層是反事實(shí)（Counterfactual），是對(duì)以前發(fā)生的事情的反思和溯因，解決的是“如果過(guò)去作出不一樣的行為，現(xiàn)在的結(jié)果會(huì)有何不同？”的問(wèn)題。頂層也就是反事實(shí)層是功能最強(qiáng)大的層次，如果我們有一個(gè)可以回答反事實(shí)問(wèn)題的模型，那么我們也可以回答有關(guān)干預(yù)和觀察的問(wèn)題。例如，干預(yù)問(wèn)題：What will happen if we double the price? 可以通過(guò)反事實(shí)問(wèn)題來(lái)回答：What would happen had the price been twice its current value? 同樣，一旦我們回答了干預(yù)問(wèn)題，就可以回答關(guān)聯(lián)問(wèn)題。我們只是忽略了干預(yù)動(dòng)作部分，而是讓觀測(cè)取代了。但是在相反的方向上，干預(yù)問(wèn)題不能僅憑觀測(cè)信息（也就是統(tǒng)計(jì)相關(guān)性）回答，涉及反思和溯因的反事實(shí)問(wèn)題也不能僅用從隨機(jī)對(duì)照實(shí)驗(yàn)中獲得的干預(yù)信息來(lái)回答。反事實(shí)是科學(xué)思維以及法律和道德推理的基礎(chǔ)。舉個(gè)例子，在法庭判定被告是否應(yīng)該負(fù)法律責(zé)任的時(shí)候，判定有罪的一個(gè)依據(jù)是 ——“若非”被告的行為，損失就很可能不會(huì)發(fā)生(For example, in civil court, a defendant is considered responsible for an injury if, but for the defendant's action, it is more likely than not the injury would not have occurred)。'若非' 的計(jì)算含義要求將現(xiàn)實(shí)世界與被告未發(fā)生某行為反事實(shí)世界進(jìn)行比較。用個(gè)更通俗的例子來(lái)講，已知的事實(shí)是'一個(gè)人吃了藥死了'，對(duì)應(yīng)的一個(gè)反事實(shí)問(wèn)題是“如果此人沒(méi)有吃藥，不死的概率是多少？”Pearl 在報(bào)告中指出，理解因果推理需要抓住一個(gè)竅門，那就是區(qū)分 seeing 和 doing 的不同，一個(gè)簡(jiǎn)單例子就是某個(gè)便利店中”觀測(cè)到某商品的價(jià)格翻倍“和“店主強(qiáng)制讓某商品價(jià)格翻倍”存在區(qū)別。Pearl 發(fā)明了 do 算子來(lái)數(shù)學(xué)化表示干預(yù)或行為，有了它我們能用數(shù)學(xué)公式區(qū)分 seeing 和 doing：??(??|??)≠??(??|????(??))這里我們借用文獻(xiàn)[5]中一個(gè)表格補(bǔ)充說(shuō)明，表格的行是不同類型的問(wèn)題，而列是不同類型模型：  表1：從統(tǒng)計(jì)模型到因果模型，再到物理模型[5]可以看到統(tǒng)計(jì)模型只有關(guān)聯(lián)層的信息，所以只能回答相關(guān)性問(wèn)題，而不能回答干預(yù)問(wèn)題和反事實(shí)問(wèn)題?；趫D的因果貝葉斯網(wǎng)絡(luò)因果只有干預(yù)層的信息，所以只能回答干預(yù)和關(guān)聯(lián)層的問(wèn)題，而不能回答反事實(shí)問(wèn)題。最后基于結(jié)構(gòu)的因果模型，它的能力最接近物理模型，三個(gè)層級(jí)的問(wèn)題都能夠回答。事實(shí)上，朱松純教授[10]在報(bào)告的最后向 Pearl 提出了因果建模的定位問(wèn)題， 他說(shuō)他喜歡因果建模的思想 “From data to science”，從上面的表格中可以看到因果模型是從統(tǒng)計(jì)模型走向物理模型的過(guò)渡。Pearl 提出了一套基于結(jié)構(gòu)的關(guān)于因果的數(shù)學(xué)語(yǔ)言和理論，作為因果科學(xué)是回答因果問(wèn)題的推理引擎，該引擎的特點(diǎn)是 “Knowledge in, Knowledge out, Data in between”， 而基本出點(diǎn)是因果推理的兩大基本定律： 他指出第一個(gè)定律是關(guān)于反事實(shí)的信息，可以推演出需要使用函數(shù)來(lái)刻畫變量之間的因果關(guān)系，而第二個(gè)定律刻畫了因果圖結(jié)構(gòu)，因果圖上每個(gè)每條缺失的邊都意味著在給定某些變量下的條件獨(dú)立性，可用它做模型檢驗(yàn)，結(jié)構(gòu)學(xué)習(xí)和因果問(wèn)題的符號(hào)演算。他以這兩大基本定律為出發(fā)點(diǎn)，發(fā)展出了被稱為結(jié)構(gòu)因果模型(SCM)的數(shù)學(xué)框架，該框架能夠回答三個(gè)層級(jí)的因果問(wèn)題。在如下的例子中，模型用函數(shù)關(guān)系表示，而因果圖上的缺失的邊 CW 和 SR 都意味著給定某些變量之下的條件獨(dú)立性。  圖6：一個(gè)簡(jiǎn)單結(jié)構(gòu)因果模型現(xiàn)代因果建模工具的發(fā)展已對(duì)所有數(shù)據(jù)密集型科學(xué)（尤其是社會(huì)科學(xué)和流行病學(xué)）產(chǎn)生了變革性的影響，其中因果圖已成為它們的第二語(yǔ)言。在這些學(xué)科中，因果圖模型幫助科學(xué)家從觀測(cè)數(shù)據(jù)中提取因果關(guān)系，并解構(gòu)了困擾研究人員數(shù)十年的悖論。我們根據(jù) Pearl 的論文[3]補(bǔ)充說(shuō)明因果科學(xué)的推理引擎，它由三個(gè)部分組成：圖模型，結(jié)構(gòu)方程以及反事實(shí)和干預(yù)邏輯。圖模型是一種語(yǔ)言，用于表示 Agent 對(duì)世界的了解。反事實(shí)幫助他們闡明他們想知道的事情。結(jié)構(gòu)方程將兩者以扎實(shí)的語(yǔ)義聯(lián)系在一起。該推理引擎將假設(shè)（以圖模型的形式）、數(shù)據(jù)和 Query 作為輸入。圖7：SCM推理引擎如何結(jié)合數(shù)據(jù)和因果模型回答因果問(wèn)題，見(jiàn)文獻(xiàn)[3]- 估計(jì)式(Estimand) 是關(guān)注的查詢(Query)的某個(gè)概率表達(dá)式，表示在已有模型假定下計(jì)算 Query 的一種方法；
- Estimate 是用某種統(tǒng)計(jì)方法和已有數(shù)據(jù)對(duì) Estimand 概率表達(dá)式的估計(jì)；
- 一組擬合指標(biāo)（Fit Indices）用于衡量數(shù)據(jù)與假設(shè)的兼容程度。
第一個(gè)輸出是較難理解的，如果已有模型假定下某 Query 無(wú)法回答，也就是沒(méi)有對(duì)應(yīng)的 Estimand，則稱該 Query 為“不可識(shí)別”，Pearl 的 do-calculus 就是判斷 Query 是否可識(shí)別的一個(gè)完備的演算工具。Pearl 僅用抽象的方式描述了這個(gè)推理引擎，關(guān)于該引擎如何回答因果問(wèn)題，如何解決數(shù)據(jù)科學(xué)中的混雜偏差，選擇偏差和遷移學(xué)習(xí)問(wèn)題的細(xì)節(jié)可以參考 Elia Bareinboim 的論文[7]。接著 Pearl 概述了通過(guò)因果科學(xué)的推理引擎完成七個(gè)任務(wù)以及每個(gè)任務(wù)中使用的工具，并討論了每個(gè)工具對(duì)自動(dòng)推理技術(shù)的獨(dú)特貢獻(xiàn)。下面是因果智慧的七大工具：Tool 1. Encoding causal assumptions in transparent and testable way. Tool 2. Predicting the effects of actions and policies. Tool 3. Computing counterfactuals and finding causes of effects (attribution, explanation, susceptibility). Tool 4. Computing direct and indirect effects (Mediation) (discrimination, inequities, fairness)Tool 5. Integrating data from diverse sources (external validity and selection bias). Tool 6. Recovering from missing data. Tool 7. Discovering causal relations from data第一個(gè)工具就是使用因果圖透明的編碼了因果知識(shí)，使用 d-分離圖準(zhǔn)則下的條件獨(dú)立性來(lái)檢驗(yàn)因果結(jié)構(gòu)先驗(yàn)假設(shè)。Pearl 給出了 Shrier 和 Platt 于 2008 年提出的運(yùn)動(dòng)醫(yī)學(xué)領(lǐng)域的簡(jiǎn)單例子（熱身對(duì)于運(yùn)動(dòng)損傷的影響），在這個(gè)例子中變量之間相互如何相互影響被透明的表示了出來(lái)，變量之間因果關(guān)系的確定可以基于合理的事實(shí)，它能用 d-分離圖準(zhǔn)則下的條件獨(dú)立性來(lái)檢驗(yàn)。第二個(gè)工具就是使用 Do-Calculus 定義和回答干預(yù)層的因果問(wèn)題，這些問(wèn)題包括計(jì)算某個(gè)行為，干預(yù)或策略產(chǎn)生的因果效應(yīng)。繼續(xù)看熱身對(duì)于運(yùn)動(dòng)損傷的因果效應(yīng)例子，我們需要選擇哪些變量作為控制變量呢？是不是控制變量越多越好呢？Pearl的回答是，一定不要控制變量 Z3(也就是Previous Injury), 否則下圖的因果路徑（加粗）會(huì)被聯(lián)通，造成混雜偏差，不能正確估計(jì)回答該因果效應(yīng)的問(wèn)題，正確的做法是控制變量 Z1, Z2 。具體 Do-Calculus 解決混雜偏差建議參考文獻(xiàn)[7]。  圖9：Do-Calculus 確定控制變量第三個(gè)工具是計(jì)算反事實(shí)，找出某個(gè)結(jié)果的原因。我們要去找到事件結(jié)果的原因，我們要進(jìn)行歸因，進(jìn)行解釋。反事實(shí)是科學(xué)思維以及法律和道德推理的基礎(chǔ)，例如，反事實(shí)問(wèn)題 “一個(gè)人吃了藥死了，如果此人沒(méi)有吃藥，不死的概率是多少？”的答案是法律責(zé)任判定中的重要依據(jù)。圖10：反事實(shí)概率回答歸因問(wèn)題第四個(gè)工具是中介分析。直接（間接）因果效應(yīng)是指一個(gè)變量對(duì)另一變量的既定影響在多大程度上是直接的（間接的），這是許多不同學(xué)科都關(guān)注的一類重要因果問(wèn)題，它們可用 Pearl 的推理引擎解決。這一工具現(xiàn)在也被用于判斷「歧視」、「不公正的做法」、「不公平現(xiàn)象」，我們要討論人工智能和機(jī)器學(xué)習(xí)領(lǐng)域中的公平性問(wèn)題時(shí)，我們必須考慮中介效應(yīng)，Pearl 給出了一個(gè)雇主是否有性別歧視的例子，也就是回答如何用數(shù)據(jù)判斷雇主是否用性別決定錄用員工與否的問(wèn)題。第五個(gè)工具是泛化和數(shù)據(jù)融合。它的基本問(wèn)題關(guān)于如何融合分布不同的實(shí)驗(yàn)性研究或觀測(cè)性研究，Pearl 及其學(xué)生 Elias Bareinboim 提出一個(gè)解決此任務(wù)的框架，這是 Pearl 在文獻(xiàn)[1]中稱因果建模工具能夠幫助解決 AI 應(yīng)用中魯棒性或適應(yīng)性的原因。Pearl 在報(bào)告中用一個(gè)例子簡(jiǎn)單的講解了一下基本思路，首先把數(shù)據(jù)源的數(shù)據(jù)類型(觀測(cè)/RCT)和其他特點(diǎn)用圖表(上)列出來(lái)，然后轉(zhuǎn)化稱對(duì)應(yīng)的因果圖(下)，其中圖中 S 節(jié)點(diǎn)標(biāo)記了數(shù)據(jù)源的 S 指向變量有差異。這樣就可以用因果建模工具綜合不同數(shù)據(jù)源，回答關(guān)注總體的感興趣因果問(wèn)題，其詳情見(jiàn)文獻(xiàn)[7] 圖12：因果推理解決多源數(shù)據(jù)集融合問(wèn)題實(shí)例第六個(gè)工具是從缺失數(shù)據(jù)恢復(fù)。由于缺少數(shù)據(jù)而導(dǎo)致的問(wèn)題困擾著實(shí)驗(yàn)科學(xué)的每個(gè)分支，所有的數(shù)據(jù)都會(huì)有一個(gè)缺失值的問(wèn)題，它本質(zhì)是一個(gè)因果問(wèn)題。實(shí)際上建立一個(gè)缺失數(shù)據(jù)因果模型之后，可以用因果推理引擎判斷和實(shí)現(xiàn)從缺失數(shù)據(jù)下的所關(guān)注問(wèn)題的推斷。圖13：缺失數(shù)據(jù)問(wèn)題本質(zhì)是因果問(wèn)題第七個(gè)工具是因果發(fā)現(xiàn)。因果發(fā)現(xiàn)就是要去尋找一系列的模式或者圖結(jié)構(gòu)，能夠與數(shù)據(jù)相兼容的，同時(shí)能夠進(jìn)行簡(jiǎn)潔的表示。當(dāng)前從數(shù)據(jù)中得到因果結(jié)構(gòu)的因果結(jié)構(gòu)學(xué)習(xí)，不僅要學(xué)習(xí)因果結(jié)構(gòu)，還要學(xué)習(xí)從數(shù)據(jù)中直接得出哪些變量是因果變量的因果表示學(xué)習(xí)，這已經(jīng)成為了當(dāng)前一個(gè)熱點(diǎn)研究課題，Pearl 在文獻(xiàn)[2]中提出了為 AI 提出小圖靈測(cè)試作：How can machines represent causal knowledge in a way that would enable them to access the necessary information swiftly, answer questions correctly, and do it with ease, as a human can?因此因果表示學(xué)習(xí)是一個(gè)十分重要課題，向更多了解相關(guān)內(nèi)容建議參考資料[1, 2, 5, 9]。最后，Pearl 指出，因果革命不僅僅席卷了各個(gè)研究領(lǐng)域，也開(kāi)始影響教育和實(shí)際應(yīng)用，將數(shù)據(jù)科學(xué)從當(dāng)前以數(shù)據(jù)為中心的范式往科學(xué)為中心的范式偏移。這個(gè)革命的高潮還沒(méi)有到來(lái)，但我們將會(huì)看到一個(gè)非常聲勢(shì)浩大的革命，尤其是從社會(huì)智能的角度來(lái)觀察。我們將能夠與機(jī)器智能進(jìn)行緊密的交流和互動(dòng)，無(wú)論用戶是誰(shuí)，其可能是另外一個(gè)機(jī)器或者電力服務(wù)系統(tǒng)，這在社會(huì)智能領(lǐng)域未來(lái)的十年中就會(huì)發(fā)生。另外一個(gè)，是與倫理學(xué)相關(guān)的，即同理心，最終機(jī)器甚至?xí)幸庾R(shí)和自由意志、同情心以及倫理道德。所以，我們每一個(gè)人都應(yīng)更多地關(guān)注因果科學(xué)。For me, consciousness is having a blueprint of your software. 如果您有適當(dāng)?shù)臄?shù)學(xué)基礎(chǔ)和人工智能研究經(jīng)驗(yàn)，既有科學(xué)家的好奇心也有工程師思維，希望參與到”因果革命“中，教會(huì)機(jī)器因果思維，為因果科學(xué)作出貢獻(xiàn)，請(qǐng)加入我們微信群?? 特別注意，我們?cè)谖恼轮幸谜撐牡姆绞讲⒉粐?yán)格，應(yīng)該把當(dāng)成一個(gè)參考資料來(lái)理解。事實(shí)上，這一部分給出了筆者認(rèn)為對(duì)參與這場(chǎng)“因果革命”至關(guān)重要，精心挑選之后的資料。希望在教會(huì)讀者機(jī)器因果思維，構(gòu)建能夠通過(guò)小圖靈測(cè)試的 Causal AI 之路上，這些資料可以幫助讀者快速理解和把握因果科學(xué)全局。[1] “Foundations and new horizons for causal inference” 研討會(huì), 2019，https://opc./show_workshop?id=3271因果推斷始于經(jīng)濟(jì)和生物統(tǒng)計(jì)等學(xué)科，它剛剛才開(kāi)始成為人工智能的一個(gè)重要工具，數(shù)學(xué)基礎(chǔ)依舊很零碎，該研討會(huì)聚集了來(lái)自人工智能，生物統(tǒng)計(jì)學(xué)，計(jì)算機(jī)科學(xué)，經(jīng)濟(jì)學(xué)，流行病學(xué)，機(jī)器學(xué)習(xí)，數(shù)學(xué)和統(tǒng)計(jì)學(xué)的頂尖研究人員，研討會(huì)上的報(bào)告和討論將有助于在未來(lái)幾年內(nèi)塑造和改變這一領(lǐng)域的發(fā)展。[2] 'The Book of Why: the new science of cause and effect,' Judea Pearl and Dana MacKenzie, (Basic Books, 2018). http://bayes.cs./WHY/[3] J. Pearl, “The Seven Tools of Causal Inference with Reflections on Machine Learning,” Communications of ACM, 62(3): 54-60, March 2019[4] Judea Pearl: Causal Reasoning, Counterfactuals, Bayesian Networks, and the Path to AGI | AI Podcast https:///pEBI0vF45ic這三個(gè)材料是 Pearl 的因果理論的最新綜述，較為通俗易懂介紹了因果關(guān)系的新科學(xué)，描繪了一條教會(huì)機(jī)器因果思維的強(qiáng)人工智能之路。[5] Causality for Machine Learning, Bernhard Sch?lkopf, 2019這是一篇?jiǎng)倓倰?arxiv 就被 Pearl 親自 twitter 點(diǎn)贊的論文，是馬普智能所所長(zhǎng) Bernhard Scholkopf 最引以為傲的論文之一，他將被 Pearl 點(diǎn)贊這事情寫在其個(gè)人主頁(yè)自我介紹的第一段中。Scholkopf 及其團(tuán)隊(duì)在因果結(jié)合機(jī)器學(xué)習(xí)方面做了最多的工作，此文總結(jié)和升華了提出了信息革命時(shí)代下因果結(jié)合機(jī)器學(xué)習(xí)的一般理論和深刻思考。[6] A Second Chance to Get Causal Inference Right: A Classification of Data Science Tasks, Miguel A. Hernán, John Hsu &Brian Healy, 2019來(lái)自哈佛教授 Migual A. Hernan 對(duì)當(dāng)前數(shù)據(jù)科學(xué)的深刻反思，澄清了數(shù)據(jù)科學(xué)任務(wù)如何分類的基本問(wèn)題：prediction, description and counterfactual prediction.[7] Causal Inference and Data-Fusion in Econometrics, P. Hünermund, E. Bareinboim.Dec, 2019. 該論文是因果革命，Pearl 的因果圖模型框架如何影響某一個(gè)特定領(lǐng)域--計(jì)量經(jīng)濟(jì)學(xué)的范例。 [8] Beyond Curve Fitting: Causation, Counterfactuals, and Imagination-based AI, AAAI Spring Symposium, March 25-27, 2019 https://why19./ 這是 Judea Pearl 和其學(xué)生 Elias Eareinboim 組織的一次研討會(huì)，探索了 Causality + X: X 代表了某個(gè)學(xué)科。[9] NeurIPS’2019, From System 1 Deep Learning to System 2 Deep Learning, Yoshua Bengio. Video with synchoronized slides https:///38921750/from-system-1-deep-learning-to-system-2-deep-learning.Bengio 描繪了一個(gè)具備因果推理能力和 AI 系統(tǒng) [10] 加州大學(xué)洛杉磯分校UCLA朱松純教授，淺談人工智能：現(xiàn)狀、任務(wù)、構(gòu)架與統(tǒng)一 | 正本清源 
|
