專題：OpenAI稱奧特曼將回歸擔(dān)任CEO 并組建新的董事會

　　財聯(lián)社

　　在過去幾年里，被稱為 “有效利他主義 ”的社會思潮運動，在硅谷各人工智能公司的員工和高管產(chǎn)生了激烈的分歧。

　　而這股思潮的信奉者與非信奉者間的針鋒相對，似乎也正成為OpenAI過去一周震驚世界的“宮斗事件”背后，真正的“無形之手”。

　　有效利他主義是如何影響AI領(lǐng)域的？

　　有效利他主義（Effective Altruism）于21世紀(jì)初萌芽，這套哲學(xué)理念希望用證據(jù)和推理來選擇最有效的方式以造福他人，即最大或更好地行善。對有效利他主義者而言，一個很重要的目標(biāo)就是改善這個世界，而且做到愈有效率愈好。這意味著：他們會透過理性分析、衡量狀況，確保手中的資源能夠發(fā)揮最大的作用，以最終達(dá)到改善世界的目的！

　　這個理念被那些致力于動物權(quán)利和氣候變化的人所接受，他們從哲學(xué)家、數(shù)學(xué)家和未來預(yù)測家那里汲取思想，影響著硅谷和其他地方的人工智能研究界。

　　按照這一理念推演，在互聯(lián)網(wǎng)科技領(lǐng)域，“開源”“免費”“去中心化”等均有利于最大程度地行善，而以營利為基本目標(biāo)的公司組織形態(tài)則與之背道而馳。而在AI領(lǐng)域，有效利他主義者相信，精心打造的人工智能系統(tǒng)在注入正確的人類價值觀后，將帶來一個黃金時間，但如果做不到這一點，可能會帶來世界末日般的后果。

　　OpenAI于一年前發(fā)布了ChatGPT，它的問世其實就部分基于有效利他主義的原則。

　　奧特曼和馬斯克于2015年開始組建OpenAI，兩人當(dāng)時的愿景便旨在實現(xiàn)通用人工智能（AGI），這是一種推理能力達(dá)到或超過人類水平的系統(tǒng)。他們當(dāng)時表示，希望以一種造福人類的方式實現(xiàn)這一目標(biāo)，而不僅僅是為企業(yè)牟利。

　　而在某種程度上，OpenAI過去一周的動蕩，本身也是一場由此產(chǎn)生的理念之爭：一方是相信市場規(guī)律的群體，而另一方是相信賦予道德、理性、數(shù)學(xué)和精確調(diào)整的機(jī)器，才能更為安全地指引人類未來的有效利他主義者。

　　四位董事中有三位有效利他主義者？

　　有效利他主義者認(rèn)為，一味追求人工智能可能會毀滅人類。對于人工智能的發(fā)展，他們更傾向于安全而非速度。而不少這場運動的參與者，本身便是過往一年幫助形成人工智能熱潮的引領(lǐng)者。

　　據(jù)熟悉OpenAI內(nèi)部爭議的人士表示，上周五被OpenAI董事會解雇的奧特曼，與公司首席科學(xué)家兼董事會成員Ilya Sutskever在人工智能安全問題上，就曾發(fā)生過激烈沖突。而Sutskever過往的一系列立場，其實就反映了有效利他主義者對當(dāng)前AI高速發(fā)展的擔(dān)憂。

　　如同許多人在這場OpenAI“宮斗大戲”后了解到的那樣，Ilya Sutskever是“深度學(xué)習(xí)之父”Geoffrey Hinton的學(xué)生。Geoffrey Hinton今年早些時候從谷歌辭職，就是為了能更好地對人工智能安全提出警告，而作為Hinton的學(xué)生，Sutskever對AI的擔(dān)心很早就存在。

　　在今年7月，OpenAI正式宣布成立一個新的研究團(tuán)隊“超級對齊”（Superalignment）團(tuán)隊，這恰恰便是由Sutskever領(lǐng)導(dǎo)的一項工作——計劃未來4年投入20%算力，用AI監(jiān)督AI的方式，解決超智能“AI對齊”問題?！癆I對齊”的意思是，要求AI系統(tǒng)的目標(biāo)要和人類的價值觀與利益相一致。

　　而與Sutskever存有類似觀點的，還有最初投票驅(qū)逐奧特曼的另兩位董事——Tasha McCauley和Helen Toner。

　　Tasha McCauley是一位技術(shù)高管，也是有效利他主義慈善機(jī)構(gòu)——有效風(fēng)險投資公司（Effective Ventures）的董事會成員，而Helen Toner則是喬治城大學(xué)安全與新興技術(shù)中心的高管，該中心得到了一個致力于有效利他主義事業(yè)的慈善機(jī)構(gòu)的支持。熟悉內(nèi)情的人士說，他們在董事會中占到了推翻奧特曼所需四票中的三票。

　　OpenAI周三宣布，奧特曼將重新?lián)卧摴臼紫瘓?zhí)行官，而上述三人——Ilya Sutskever、Tasha McCauley和Helen Toner，則均已不在最新的董事會成員名單之上。

　　可以說，有效利他主義陣營雖然在這場“宮斗大戲”的前半段，閃電般地驅(qū)逐了奧特曼，但最終仍在這場博弈中“一敗涂地”。然而，眼下發(fā)生在OpenAI身上的一切，就真的已經(jīng)是這場故事的最終大結(jié)局了嗎？

　　顯然，未必！

　　理念之爭料將伴隨AI發(fā)展

　　事實上，從2014年左右開始，有效利他主義者就已經(jīng)開始意識到先進(jìn)人工智能系統(tǒng)存在導(dǎo)致人類滅絕的風(fēng)險——這被他們視作一種與氣候危機(jī)程度相當(dāng)?shù)奈ｋU。這一啟示恰逢瑞典哲學(xué)家尼克·博斯特羅姆出版了《超級智能》一書，該書將“回形針”作為人工智能危險的象征。

　　這個設(shè)想的概念很簡單，但卻又很可怕——如果一臺機(jī)器的唯一目標(biāo)就是最大化的量產(chǎn)回形針，那它有可能會發(fā)明些匪夷所思的技術(shù)，只為了把宇宙中能用的資源都轉(zhuǎn)化成回形針，最終毀滅人類。

　　去年秋天的一天，數(shù)千個OpenAI徽標(biāo)形狀的回形針，被寄到了該公司位于舊金山的辦公室。似乎沒有人知道他們來自哪里，但每個人都知道他們的含義……

　　這個惡作劇據(jù)說是由OpenAI同城競爭對手Anthropic的一名員工干的，該公司本身就是由一群OpenAI出走的前員工創(chuàng)建，單飛的原因據(jù)說也是基于人工智能安全問題的分歧。

　　而很有意思的是，在Ilya Sutskever等人上周末最初逼走奧特曼后，第一時間爆出的消息——居然便是想要讓OpenAI和Anthropic合并。

　　在許多并非有效利他主義的信奉者眼中，他們的思想似乎很難被認(rèn)同。風(fēng)險投資家、OpenAI投資人Vinod Khosla在《The Information》的一篇評論文章中就寫道：“OpenAI董事會成員對‘有效利他主義’的信仰及其錯誤應(yīng)用，可能會阻礙世界通往人工智能的巨大利益之路。”

　　奧特曼今年春天在全球巡回演講時，雖然警告人工智能可能造成嚴(yán)重危害，但他同樣認(rèn)為有效利他主義是一種“漏洞百出的運動”，表現(xiàn)出“非常奇怪的突發(fā)行為”。

　　風(fēng)險投資公司Andreessen Horowitz的聯(lián)合創(chuàng)始人Marc Andreessen和初創(chuàng)企業(yè)孵化器Y Combinator的首席執(zhí)行官Garry Tan也對這一運動提出了批評。Tan稱這是一種沒有實質(zhì)意義的“美德信號哲學(xué)”，應(yīng)予以摒棄，以解決真正的問題，創(chuàng)造人類的富足。

　　普林斯頓大學(xué)一個研究該運動的團(tuán)隊研究員Shazeda Ahmed則指出，有效利他主義者對人工智能將毀滅人類的迫切恐懼，“遮蔽了他們接受對該文化外部批評的能力。這對任何試圖解決任何棘手問題的群體來說都不是好事。”

　　不過，人們?nèi)缃耧@然將無法忽視有效利他主義在硅谷乃至AI領(lǐng)域的影響力。這場運動的支持者包括Facebook的聯(lián)合創(chuàng)始人Dustin Moskovitz和Skype聯(lián)合創(chuàng)始人Jann Tallinn，他們已承諾為有效利他主義研究提供數(shù)十億美元。在去年FTX爆雷之前，F(xiàn)TX創(chuàng)始人Sam Bankman-Fried也曾認(rèn)捐了數(shù)十億美元。

　　最后，還有一個舉足輕重的名字顯然更為不容人們忽視——特斯拉CEO馬斯克。

　　馬斯克曾表示，有效利他主義運動的創(chuàng)始人、英國哲學(xué)教授威廉·麥克阿斯基爾（William MacAskill）“與我的哲學(xué)非常吻合”。而在過去一年，馬斯克已多次表達(dá)了對AI可能毀滅人類的擔(dān)憂。