雷遞網 樂天 4月15日

人工智能企業(yè)OpenAI CEO Sam Altman日前就呼吁暫停AI開發(fā)的公開信做出回應，稱安全對OpenAI很重要，而這封信缺乏技術上的細微差別，說明哪些OpenAI需要暫停的地方（lacked technical nuance about where we need the pause）。

此前，外界一直傳聞OpenAI正在GPT-5。

(資料圖片僅供參考)

生命未來研究所（Future of Life Institute）還公布一封公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統(tǒng)至少6個月，稱這種暫停應該是公開的和可驗證的，并且包括所有關鍵參與者。

公開信稱，如果不能迅速實施這種暫停，政府應介入并實行暫停。人工智能實驗室和獨立專家應該利用這次暫停，共同開發(fā)和實施一套用于高級人工智能設計和開發(fā)的共享安全協議，并由獨立的外部專家進行嚴格審計和監(jiān)督。

“這些協議應確保遵守它們的系統(tǒng)安全，且無可置疑。這不意味著總體上暫停AI開發(fā)，只是緊急從奔向不可預測的大型黑盒模型的危險競賽中收回腳步?！?/p>

這封信最后寫道，“人類可以享受人工智能帶來的繁榮未來。成功創(chuàng)建強大的AI系統(tǒng)后，我們現在可以享受‘AI之夏’，收獲回報，設計這些系統(tǒng)以造福所有人，并為社會提供適應的機會。社會已經暫停其他可能對社會造成災難性影響的技術。我們可以在這個領域也這樣做。讓我們享受一個漫長的AI之夏，而不是毫無準備地陷入秋天?！?/p>

圖靈獎得主約書亞·本希奧（Yoshua Bengio）、《人工智能：現代方法》作者斯圖爾特·羅素（Stuart Russell）、 蘋果公司聯合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak）、Stability AI首席執(zhí)行官埃馬德·莫斯塔克（Emad Mostaque）等科技界領袖人物均簽名，馬斯克也是簽名的名人之一。

Sam Altman說，“我非常同意其中的部分內容。在我們完成對GPT-4訓練后，我們花了六個多月的時間，真正研究模型的安全性......真正嘗試了解正在發(fā)生的事情并盡可能地減輕影響是很重要的。“

Sam Altman還澄清說，這封信的早期版本聲稱OpenAI正在訓練 GPT-5，“我們不會，一段時間內不會，所以從這個意義上說，這有點愚蠢。（we are not, won"t for some time, so in that sense it was sort of silly）”

OpenAI正在開發(fā)GPT-4的附加功能，這些功能存在安全問題，需要解決。一般來說，“隨著能力變得越來越重要，安全標準必須提高。

”我們將繼續(xù)盡可能誠實地對待AI的發(fā)展。相信它們會影響每個人，因此應該讓盡可能多的人參與測試和了解它們。了解優(yōu)點和缺點，這是值得的，即使我們確實傾向于在公共場合讓自己難堪，并且不得不經常根據新數據改變主意，也要權衡取舍?！?/p>

此前，那封公開信被部分人視為是馬斯克及一眾被OpenAI 生態(tài)伙伴們甩在身后的科技巨頭們的緩兵之計。

有觀點認為，馬斯克參與簽名，主要是OpenAI的迭代速度太快了。Google的搜索比對手好 20%就占據了 90%的搜索市場份額。OpenAI 的影響會更廣泛，所有的上層應用都希望使用優(yōu)更強大 AI 賦能的云服務。只能寄希望于 OpenAI 會像自動駕駛那樣發(fā)展到某個階段會遇到難以克服的瓶頸。

LinkedIn聯合創(chuàng)始人里德霍夫曼就聲稱，馬斯克在這封信上的簽名只是出于嫉妒?；舴蚵硎?，馬斯克和其他人希望暫停，以便他們能夠趕上并提供自己的AI產品。

馬斯克的確看起來就像一個"心機Boy"，轉頭就投入AI浪潮，根據內華達州的一份文件，馬斯克已經成立一家名為X.AI Corp的新人工智能公司，還被曝出購買了大約1萬個GPU，并從DeepMind處招募到AI人才，打算開發(fā)自己的大語言模型（LLM）項目。

目前，馬斯克旗下的Twitter已從Alphabet子公司 DeepMind 處招募工程師 Igor Babuschkin和Manuel Kroiss?？梢钥闯?，馬斯克一直在積極物色 AI 領域的人才，希望與OpenAI展開競爭。

———————————————

雷遞由媒體人雷建平創(chuàng)辦，若轉載請寫明來源。

關鍵詞：