新聞 
50封往來郵件揭秘OpenAI的緣起、發展與矛盾
50封往來郵件揭秘OpenAI的緣起、發展與矛盾50封往來郵件揭秘OpenAI的緣起、發展與矛盾
-他們的本能是壹開始就籌集超過 1 億美元的資金。他們認為，僅他們所需的數據中心就需要這麼多資金，因此他們更願意籌集更多資金。
要點：
不確定這些是否可行，但僅從聽取他們拋出的所有數據點來看，以下內容可以滿足他們當前的棘手問題：
-每周花費 5-10 小時，幾乎完全掌控，或者花費更少的時間，更少的控制。
- 針對極端情況（不僅僅是 Greg / Sam / Ilya）具有創造性的短期覆蓋。
-無論 Greg / Sam / Ilya 的命運如何，壹份嚴格的 2-3 年少數股權控制協議。
- 初始融資 2 億至 10 億美元。
-Greg 和 Ilya 的股份最終比 Elon 的股份高出 1/10，但差別並不大（這仍然是最模糊的）。
-增加員工隊伍。
Elon Musk致Shivon Zilis，（抄送：Sam Teller）- 2017年8月28日
這太煩人了。請鼓勵他們去創業。我受夠了。
Ilya Sutskever致Elon Musk、Sam Altman（抄送：Greg Brockman、Sam Teller、Shivon Zilis）- 2017年9月20日
埃隆、薩姆、
這個過程是我和格雷格參與過的最高風險對話，如果項目成功，它將成為世界上最高的風險對話。對我們所有人來說，這也是壹次非常私人的對話。
昨天，當我們在考慮根據非招攬協議做出最終承諾時，我們意識到我們犯了壹個錯誤。我們有幾個重要的擔憂，但我們還沒有向你們提出。我們沒有提出這些擔憂，因為我們害怕：我們害怕損害我們的關系，害怕你們看不起我們，或者失去你們這個合作伙伴。
我們的擔憂有可能無法解決。我們真心希望情況不會如此，但我們知道，如果我們現在不討論這些問題，我們肯定會失敗。我們希望我們能夠解決這些問題，並繼續共同努力。
馬斯克：
我們真的想和你們壹起工作。我們相信，如果我們聯手，我們完成任務的成功率就會最大。我們的優勢最大。這是毫無疑問的。我們非常渴望和你們壹起工作，我們很樂意放棄股權、個人控制權，讓自己容易被解雇——無論需要付出什麼代價來和你們壹起工作。
但我們意識到，我們在思考控制對世界的影響時過於粗心。由於這看起來過於傲慢，我們並沒有認真考慮成功的影響。
當前的結構為您提供了壹條道路，最終您將單方面絕對控制 AGI。您表示您不想控制最終的 AGI，但在這次談判中，您向我們表明絕對控制對您來說非常重要。
舉個例子，你說你需要成為新公司的首席執行官，這樣每個人都會知道你才是負責人，盡管你也說過你討厭擔任首席執行官並且寧願不擔任首席執行官。
因此，我們擔心，隨著公司真正朝著 AGI 邁進，你會選擇保留對公司的絕對控制權，盡管你目前的意圖並非如此。我們不同意你的說法，即我們離開的能力是我們最大的力量，因為壹旦公司真正走上 AGI 的軌道，公司將比任何個人都重要得多。
OpenAI 的目標是讓未來更美好，避免 AGI 獨裁。你擔心 Demis 會創造壹個 AGI 獨裁。我們也是。因此，創建壹個你可以選擇成為獨裁者的結構是壹個壞主意，尤其是考慮到我們可以創建其他壹些可以避免這種可能性的結構。
我們還有壹些較小的擔憂，但我們認為在這裡提壹下是有用的：
如果我們決定收購 Cerebras，我強烈認為這將通過特斯拉來完成。但如果我們也可以在 OpenAI 內部完成，為什麼要這樣做呢？具體來說，令人擔憂的是，特斯拉有責任為股東實現股東回報最大化，這與 OpenAI 的使命不壹致。因此，總體結果可能對 OpenAI 來說並不是最佳的。
我們認為，非營利組織 OpenAI 之所以成功，是因為你和 Sam 都參與其中。Sam 真正起到了平衡你們的作用，這非常有成效。至少到目前為止，Greg 和我都不太能平衡你們。我們覺得，即使是這次談判也證明了這壹點，我們准備將長期 AGI 控制問題掩蓋起來，而 Sam 則堅持自己的立場。
薩姆：
當 Greg 和我陷入困境時，你總能給出深刻而正確的答案。你壹直在非常深入和徹底地思考如何解決這個問題。Greg 和我了解技術執行，但我們不知道結構決策在未來壹個月、壹年或伍年內會如何發揮作用。
[加西網正招聘多名全職sales 待遇優]
還沒人說話啊，我想來說幾句
要點：
不確定這些是否可行，但僅從聽取他們拋出的所有數據點來看，以下內容可以滿足他們當前的棘手問題：
-每周花費 5-10 小時，幾乎完全掌控，或者花費更少的時間，更少的控制。
- 針對極端情況（不僅僅是 Greg / Sam / Ilya）具有創造性的短期覆蓋。
-無論 Greg / Sam / Ilya 的命運如何，壹份嚴格的 2-3 年少數股權控制協議。
- 初始融資 2 億至 10 億美元。
-Greg 和 Ilya 的股份最終比 Elon 的股份高出 1/10，但差別並不大（這仍然是最模糊的）。
-增加員工隊伍。
Elon Musk致Shivon Zilis，（抄送：Sam Teller）- 2017年8月28日
這太煩人了。請鼓勵他們去創業。我受夠了。
Ilya Sutskever致Elon Musk、Sam Altman（抄送：Greg Brockman、Sam Teller、Shivon Zilis）- 2017年9月20日
埃隆、薩姆、
這個過程是我和格雷格參與過的最高風險對話，如果項目成功，它將成為世界上最高的風險對話。對我們所有人來說，這也是壹次非常私人的對話。
昨天，當我們在考慮根據非招攬協議做出最終承諾時，我們意識到我們犯了壹個錯誤。我們有幾個重要的擔憂，但我們還沒有向你們提出。我們沒有提出這些擔憂，因為我們害怕：我們害怕損害我們的關系，害怕你們看不起我們，或者失去你們這個合作伙伴。
我們的擔憂有可能無法解決。我們真心希望情況不會如此，但我們知道，如果我們現在不討論這些問題，我們肯定會失敗。我們希望我們能夠解決這些問題，並繼續共同努力。
馬斯克：
我們真的想和你們壹起工作。我們相信，如果我們聯手，我們完成任務的成功率就會最大。我們的優勢最大。這是毫無疑問的。我們非常渴望和你們壹起工作，我們很樂意放棄股權、個人控制權，讓自己容易被解雇——無論需要付出什麼代價來和你們壹起工作。
但我們意識到，我們在思考控制對世界的影響時過於粗心。由於這看起來過於傲慢，我們並沒有認真考慮成功的影響。
當前的結構為您提供了壹條道路，最終您將單方面絕對控制 AGI。您表示您不想控制最終的 AGI，但在這次談判中，您向我們表明絕對控制對您來說非常重要。
舉個例子，你說你需要成為新公司的首席執行官，這樣每個人都會知道你才是負責人，盡管你也說過你討厭擔任首席執行官並且寧願不擔任首席執行官。
因此，我們擔心，隨著公司真正朝著 AGI 邁進，你會選擇保留對公司的絕對控制權，盡管你目前的意圖並非如此。我們不同意你的說法，即我們離開的能力是我們最大的力量，因為壹旦公司真正走上 AGI 的軌道，公司將比任何個人都重要得多。
OpenAI 的目標是讓未來更美好，避免 AGI 獨裁。你擔心 Demis 會創造壹個 AGI 獨裁。我們也是。因此，創建壹個你可以選擇成為獨裁者的結構是壹個壞主意，尤其是考慮到我們可以創建其他壹些可以避免這種可能性的結構。
我們還有壹些較小的擔憂，但我們認為在這裡提壹下是有用的：
如果我們決定收購 Cerebras，我強烈認為這將通過特斯拉來完成。但如果我們也可以在 OpenAI 內部完成，為什麼要這樣做呢？具體來說，令人擔憂的是，特斯拉有責任為股東實現股東回報最大化，這與 OpenAI 的使命不壹致。因此，總體結果可能對 OpenAI 來說並不是最佳的。
我們認為，非營利組織 OpenAI 之所以成功，是因為你和 Sam 都參與其中。Sam 真正起到了平衡你們的作用，這非常有成效。至少到目前為止，Greg 和我都不太能平衡你們。我們覺得，即使是這次談判也證明了這壹點，我們准備將長期 AGI 控制問題掩蓋起來，而 Sam 則堅持自己的立場。
薩姆：
當 Greg 和我陷入困境時，你總能給出深刻而正確的答案。你壹直在非常深入和徹底地思考如何解決這個問題。Greg 和我了解技術執行，但我們不知道結構決策在未來壹個月、壹年或伍年內會如何發揮作用。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
推薦: