Capital, AGI, and human ambition：
https://nosetgauge.substack.com/p/capital-agi-and-human-ambition
文中寫到，
在工作力被 AI 取代後的世界將會是這樣：
- 金錢將比以往任何時候都更能有效地在現實世界中購買到想要的結果
- 人們的勞動所能產生的影響力將比以往任何時候都更加微弱
- 在大多數甚至所有領域，通過個人努力取得非凡成就的可能性將不復存在
- 無論是國家內部還是國家之間，資本的分配都不會發生根本性的改變，變得更加平衡
這意味著，在勞動力被人工智慧取代的時代開始時，那些擁有大量資本的人將擁有永久的優勢。 他們所擁有的權力將超越當今的富人——這種權力不一定是對他人的直接統治（只要自由制度仍然健全），但至少體現在對物質和知識成就的支配上。 後起之秀將無法戰勝他們，因為在任何領域，資本都可以輕而易舉地轉化為超人的勞動能力。
此外，在這個世界中，任何掌握權力的機構都將不再有動力為了維護或擴大自身權力而去關心普通民眾，因為真正的權力將完全掌握在人工智慧手中。 然而，自由人文主義的價值觀可能會通過政治機構得到某種程度的保留。 如果每個人都能獲得有意義的普遍基本收入 （UBI 或類似的保障），並且經濟中仍然存在以人為本的部分，那麼人們的購買力也可能會得到某種程度的保障。
在最好的情況下：
這個世界就像一個更加不平等、空前停滯、但更加富裕的挪威：大量的非人力勞動資源（如石油之於挪威，人工智慧之於未來）帶來的收益會惠及每個人。 誠然，有些人會比其他人更富有，但每個人的生活水平都會很高（理想情況下，還能實現永生）。 人類唯一可行的抱負將是在你的社交圈和階層內進行一些社交和政治遊戲。 如果你沒有大量的資本（甚至可能即使有），你將不再有機會對更廣闊的世界產生影響。
在更糟糕的情況下：
人工智慧的億萬富翁將擁有近乎無限且不受約束的權力，並且會形成一個基於他們在勞動力被人工智慧取代時所擁有資本量的永久性貴族階層。 階級之間巨大的權力差距可能會讓現代人感到不寒而慄，就像現代人認為封建等級制度令人厭惡一樣。 但是，別擔心——就像封建社會的底層人民在沒有超級智慧的人工智慧的情況下，也因為文化的原因而接受了他們所處的社會秩序一樣，未來的底層人民也將接受這種秩序。
在最壞的情況下：
人類可能會滅絕，這可能是因為為了追求人工智慧的力量而非人類的福祉，經過長期的優化而緩慢造成的。 因為這就是權力和金錢的激勵機制所指向的方向。
一種被簡化和曲解的觀點是：先解決道德問題，再解決人工智慧問題，然後找出最佳的宇宙結構方案並付諸實施，一切就都搞定了。
我們不應該把 AGI 的到來視為一道冰冷無情、不可阻擋的牆壁，認為它會以相同的方式徹底吞噬一切，讓人類變得毫無價值。 這堵牆上會出現裂縫，至少在一段時間內是這樣。 一旦我們真正靠近它，或者我們從更遠的地方足夠仔細地觀察，會發現這些裂縫遠比從宇宙的視角看起來要大得多。
然而，隨著 AI 越來越接近在所有人類表現上實現帕累托改進，預計我們最終需要通過自我增強來跟上它們的步伐。
羅賓·漢森 （Robin Hanson） 將現在稱為「夢幻時光」：
一個世界秩序和價值觀都尚未確定的未來，這就是一個絕佳的可塑期！
以往的重大變革 —— 例如工業化的浪潮、互聯網的興起等等 —— 都極大地激發了人類的雄心壯志。 在 AI 時代，我們可能會迎來人類雄心壯志的最後一次，也是最偉大的一次機會 —— 緊接著，這種雄心壯志將永遠地走向消亡。 面對這樣的前景，我們的反應難道不應該是 「把握當下」 嗎？
在 AI 時代，激發人類最優秀的兩個品質「野心」與「好奇心」尤為重要，
這是讓社會保持活力的最大動力！