第309章 開個價吧（補昨天的一章6837，今天還會寫一章）
“現在全世界除了古狗外，其餘所有ai研究機構都已經把主要研究方向轉向了柚子架構和你開源的橘子大模型。”
“我認為，推開ai大門的柚子科技，有義務在ai安全領域承擔更大的責任。”
聽到馬斯克這麼說，方豫頗為詫異的看了看一臉憂色的馬斯克，再看看他的精神力和靈光的狀態。
這貨認真的？
去年倒是聽說他在什麼座談裡表達過對ai的擔心，但你一個億萬富翁資本家，能擔心成這樣，也是有點奇葩。
這是典型的災難性思維引發的焦慮症。
沒去看看心理醫生嗎？
不過倒是也容易理解，自己不擔心，是因為可以完全掌控大模型的底層法則。
別說橘子大模型還沒成為超級人工智能，就算成了超級人工智能，它的規模越龐大，底層法則也會越完善，自己隨時都能通過埃瑟朗之核控制和消除任何一個基於柚子框架的大模型。
要是模型仍然是小規模，法則也會相應孱弱，自己的控制力反而沒有那麼強。
但若自己不知道這一點的話，估計也會悲觀得天天及時行樂了吧？
咦？好像和現在也沒差多少。
方豫摸了摸下巴：“你是在指責柚子科技不應該開發出人工智能嗎？”
“事實上，我們的預算接近三分之一花在對齊上。而且，即使柚子科技沒有推開這扇門，也會有其他人推開。”
“就像你說的，墨菲定律，門就在那裡，總會有人把它推開。”
馬斯克搖搖頭：“不，方，我並不是秉承著對抗性思維來和你探討這件事情，而是希望我們能夠找到一條解決ai安全發展的路徑，避免最壞結果的發生。”
“那你的方案是什麼？聽起來，似乎你已經有了可行的方案？”方豫喝了口水，不由得有些好奇。
坦白說，如果不是因為有法則在手和柚子的輔助，他也沒有絕對的把握能夠確保ai的安全性問題。
這些日子對“神之模型”的研究倒是讓他有了一些新想法，但這些想法究竟能不能成功，能不能夠確保ai成為人類社會向前發展的助推器而不是大炸彈，還要看實際落地後的效果如何。
現在說起來還是有些太早了。
馬斯克猶豫了一下：“我希望，作為目前在ai領域走的最快的企業，柚子科技能夠站出來，和我一起呼籲全世界的開發者，暫停所有神經網絡訓練六個月到一年。”
“利用這個時間，各個企業和國家重新審視目前大模型的安全隱患。並且成立一個由各大公司和國家組成的ai安全委員會，制定出ai發展的安全標準，並將全球ai都納入安全委員會的管轄範圍。”
“只有這樣，才能確保人類不會毀在ai手中。”
方豫一聽，差點沒噴出來。
老大，你做夢呢？
不過想一想，馬斯克接觸大模型才僅僅兩個月的時間，又不像自己一樣，有柚子的輔助和“神之模型”能直接提供參考，也只能從限制ai發展的角度來考慮問題。
“你應該和古狗也談過吧？他們怎麼看？”方豫揚了揚眉。
馬斯克沉吟：“我和拉里此前曾經是很好的朋友的，但在這方面我們的觀點並不相同，他不同意對人工智能加以限制，更不同意放慢研發進度。”
方豫笑了笑：“所以，你說的不具備任何可操作性。即使我同意了你的意見，古狗不同意，其他公司不同意。”
“不提你剛剛說的那個全球性的ai安全組織，只說你前面提到的暫停研發，都是做不到的。”
“畢竟誰也不知道停止研發半年，會不會就被其他不遵守這個共識的企業所超越。”
“古狗不會同意，fb不會同意，那麼多的ai研究者都不會同意。”
“而且，就算這些公司都同意了，那些沒有絲毫名氣，甚至剛剛註冊和還沒註冊的ai初創企業呢？”
“大模型誰都可以訓練，誰都可以堆參數，你的想法並沒有從根本上降低ai發展帶來的風險。”
“在大模型領域，我的預測是，每一年，大模型都會以十倍以上的參數量增長，直到達到人類電力所能提供的極限。”
“沒有人會接受，自己一年時間，就落後對手十倍以上的性能差距。”
“我相信遲早會有你說的這樣的組織出現，也相信其中會有
所有的ai大企業。”
“但絕不會是現在，而是在第一次ai軍備競賽告一段落的時候才會出現。”
“並且，我也不認為這種組織的出現會真正對ai的安全起到多大的作用。”
“這種組織的出現，我認為反而會擴大ai風險。”
“這個所謂的安全組織看似接管了所有的ai風險，但它卻不可能有真正降低ai風險的能力，反而約束了組織之外真正有效的ai風險管控措施。”
“組織建立在規則之上，組織規則一旦形成，就很難改變，更難以響應ai的發展速度所帶來的新機遇和新風險。”
“沒有任何組織的進化速度能趕上ai的進化速度。”
“就像icann，建立之初，所有人都認為需要有一個機構來管理互聯網的域名分發。但實質上，目前icann的存在，已經構成了互聯網最大的風險，並且嚴重阻礙了全球互聯網的健康發展。”
“最有意思的是，icann甚至完全沒有解決成立之初認為它們應當解決的問題，否則也不會有.sucks這種勒索域名的存在了。”
馬斯克眉頭緊皺，打斷道：“我始終認為，做點什麼總比什麼都不做要好。你對icann的抨擊我能夠理解，我也贊同在風險人類可承受的前提下，給與新技術最大程度的自由度。”
“但ai不同，ai如果失控帶來的破壞力，已經超越了人類可承受風險的極限。過去一百年間，唯一能和其相提並論的，只有核武器。試想一下，如果六十年前沒有締結核不擴散條約，可能我們人類社會在五十年前就已經滅亡了。”
方豫點點頭：“你說的很對埃隆，我很贊同。但是，請注意，核不擴散條約當時只牽涉五個國家，僅僅只是這五個國家，從提出到達成協議，就用了四年時間，而生效，又用了兩年。”