曝奧特曼被解僱原因 路透：董事會收警告「新AI進展」對人類有威脅

何沁蓉

2023-11-23 05:51:18

分享：

有「ChatGPT之父」稱號的奧特曼近日重回OpenAI執行長崗位，數日的紛擾在此畫下句點。然而外界對於董事會最初解雇的理由仍舊是議論紛紛。對此，23日有知情人士向外媒透露，指開除事件發生前數名研究者曾寫信給董事會，提及一項強大的AI發現可能對人類造成威脅，而這也成為董事會對奧特曼不滿的原因之一。

OpenAI 17日無預警宣布執行長奧特曼（Sam Altman）遭解職，原因是與董事會溝通時「不總是坦承以告」，對此消息人士23日向《路透社》透露，奧特曼遭解雇與一封先前未公開的信件有關。信中內容主提及在了解實際可能後果以前，就將「先進技術」商業化可能存在的隱憂。

其他知情人士則指出，OpenAI在給員工的內部信件中．承認有一個名為「Q*」（發音為 Q-Star）的項目，部分OpenAI員工認為，Q*可能與公司探索通用人工智慧（AGI, 又稱強AI）的突破有關。

據了解，OpenAI認為AGI是能在最具經濟價值的任務中超越人類的自主系統．透過龐大的運算資源，新模型能夠解決某些數學問題，儘管以目前來說，Q*的數學成績仍停留在小學生程度，但在多項測驗中展現的好成績，也讓研究者對Q*的成功非常樂觀。

現在常見的生成式AI模型能透過統計預測下個單字來寫作和翻譯，但這是因為同一問題的答案存在多樣性，相較之下，數學能力只有一個正確答案，獲得這種能力代表AI將有類似人類智慧的推理能力，能概括、學習並理解，因此許多研究者認為，數學將是生成式AI發展的未來。

消息人士表示，出於對AI能力突破的擔憂，數名研究人員寄給董事會一封信提及潛在風險。儘管仍未知消息的真實性，但有其他知情者也向《路透》透露，指稱內部確實有研究團隊正在探索如何優化現有AI模型，提高推理能力並希望能最終開展科學工作。

在11月的公布展示中，OpenAI除了宣布一系列新工具，奧特曼也在亞太經濟合作組織（APEC）峰會上笑稱在 OpenAI 的歷史上，掀開無知面紗並推進發現的經驗有4次，而過去一次就在過去幾週，他相信「重大進展即將到來」。據悉，在發言的隔日，董事會就宣布解雇了奧特曼。

（首圖來源：擷取自 Sam Altman X）