Yampolskiy 對上 Mostaque｜那場沒有發生的辯論｜AI 安全完整重點整理

7 Просмотры

Спасибо! Поделитесь с друзьями!

Вам не понравилось видео. Спасибо за то что поделились своим мнением!

Издатель Sep 2, 2026

一支影片看完 Roman Yampolskiy 與 Emad Mostaque 在 Brian Keating《Into the Impossible》上的對談（原片 52 分 50 秒）。提出「AI safety」一詞的電腦科學家，對上把 Stable Diffusion 權重公開給全世界的 Stability AI 共同創辦人——主持人原本要辦一場辯論，結果沒打起來。

內容涵蓋：圖靈測試與 AGI 的定義之爭、開源到底幫了誰、那顆「永久凍結前沿訓練」的按鈕、p(doom) 為什麼是把無知參數化、核武類比的三種讀法、被「輕微切除」的模型、為什麼「聰明 30%」不等於「聰明三百萬 %」、擱置十年的數學問題現在每週被解掉、「我們要嘛做，要嘛死」、停訓練還是停金主、那場沒打起來的架、愛因斯坦最快樂的念頭、沒有論文也沒有專利的控制方案，以及什麼才能真正改變兩個人的判斷。

勘誤與提醒（依實際影片內容）：
1. 主持人說兩人談了「大約 90 分鐘」，但發布的影片只有 52 分 50 秒，觀眾聽到的是剪過的版本；「按鈕」那一題也是從對話尾聲被提前剪到開頭的。
2. 開場那句「50% 滅絕機率」是 Yampolskiy 在轉述別人的立場，不是他自己的數字——整場對話他沒有給過任何 p(doom) 數值。
3. 「我們要嘛做，要嘛死」裡的「做」指的是全球監管，不是把 AI 造出來；網路上流傳的金句把兩句話焊在一起了。
4. Mostaque 自己的 50% 被他當場作廢（「就是擲銅板」）；Musk 的 15 到 20%、「大多數人超過 10%」、LeCun 約 1%，全部都是轉述。
5. 關於中國模型會對維吾爾使用者植入程式漏洞的說法，是 Mostaque 的指控，他沒有提出任何來源；Qwen 等同 Claude Opus 4.6、蒸餾會傳遞偏誤的論文、OpenAI 的證明、GPT-4.5 的價格、以及那個用 1911 年以前資料重建廣義相對論場方程式的小模型，同樣都沒有可查證的出處。
6. 原片說明欄的章節時間軸，在 33:34 到 39:42 之間與實際內容有數分鐘落差；本影片的章節依實際內容重新編排。
7. 片尾「同一個未來的兩種視角」是主持人事後錄製的旁白結論，兩位來賓都沒有在節目上背書。