趨勢與新科技

萬維鋼看DeepSeek(附Robin評論)

分享這篇文章
LINEFacebook

萬維鋼文章(貼文標題標示)+Robin評論

儲存說明

收藏與閱讀位置保存在目前瀏覽器,可在 我的閱讀 查看及備份。

收錄於 沈立平 Robin Shen 的創投思考筆記 · 文章性質與歸屬依上方標示

導讀

萬維鋼談DeepSeek R1(2025年1月):接近o1水平、價格極低、權重公開,並說明它對OpenAI封閉路線的對比與意義。文末附Robin對開源與封閉路線的評論。這是2025年1月的時間點觀點。

重點

  • R1的重點是性能接近o1、成本低、權重公開
  • 開放與封閉路線的對比
  • 文末Robin:開放、創新與格局,勝過一味防堵
放大鏡檢視層疊的訊號線與資料紋理,象徵科技探索與判斷。
趨勢與新科技主題插畫 · AI 生成示意圖

原貼文全文

查核補註(2026-10-28): 1. R1於2025-01-20發布、採MIT授權、允許蒸餾;API輸出價格每百萬tokens 2.19美元,約為o1的4%(o1為60美元)。 來源:https://www.deepseek.com/en/news/deepseek-r1/ https://venturebeat.com/business/deepseek-r1-is-a-boon-for-enterprises-making-ai-apps-cheaper-easier-to-build-and-more-innovative 2. Jim Fan的評論(非美國公司延續OpenAI最初使命):2025-01-20 Jim Fan本人貼文,大意相符。 來源:https://www.linkedin.com/posts/drjimfan_we-are-living-in-a-timeline-where-a-non-us-activity-7287125475280265217-dUT3 3. Stargate計畫於2025-01-21發布。 來源:https://openai.com/index/announcing-the-stargate-project/ 4. R1以MIT授權公開模型權重(open-weight)並發表論文,訓練資料與完整程式碼未公開;總參數671B、每次啟用37B(官方模型卡),與文中「6710億」「370億」一致。R1發布當天(2025-01-20)Kimi k1.5也發表並稱達到o1水平,因此「唯一」「第一篇」不成立,本文已據此修正用語。本文為2025年1月的時間點觀點。 來源:https://github.com/deepseek-ai/DeepSeek-R1 https://www.iss.europa.eu/publications/briefs/challenging-us-dominance-chinas-deepseek-model-and-pluralisation-ai-development https://www.deeplearning.ai/the-batch/how-deepseek-r1-and-kimi-k1-5-use-reinforcement-learning-to-improve-reasoning https://arxiv.org/html/2501.12948v1 5. 「GPT-4b mini…有望增加10年壽命」不符:OpenAI與Retro Biosciences的模型是GPT-4b micro,用於蛋白質工程,報告的是改造山中因子變體在實驗室中多標記提高約50倍,沒有「增加10年壽命」的說法。 來源:https://openai.com/index/accelerating-life-sciences-research-with-retro-biosciences/ https://www.technologyreview.com/2025/01/17/1110086/openai-has-created-an-ai-model-for-longevity-science/ ---- 萬維鋼看DeepSeek 1月20日,DeepSeek釋出了有推理功能的最新大模型,DeepSeek R1。現在可以到DeepSeek官網免費使用這個模型 —— http://chat.deepseek.com DeepSeek R1 —— - 達到了跟o1相當、或者至少接近的推理能力(據DeepSeek公布的基準測試); - 它做到這個水平只用到少得多的資源,所以價格十分便宜; - 它的模型權重以MIT授權公開; - DeepSeek釋出論文,詳細介紹了訓練中所有的步驟和竅門 —— 而你要知道OpenAI至今對o1的演算法和訓練方式保密;(評論者可以上網找相關論文的漏洞) - DeepSeek公司是一家中國公司。 接近o1水平、超低價格、權重與論文公開,做到任何一條都是AI界的新聞,而R1全做到了。你就是寫小說鼓吹中國AI有多強都不敢這麼暢想,但這就是事實!X上的美國AI圈被震撼,感到不可思議,可是上手各種測試發現的確超級厲害,所以現在是好評如潮。 ------ Nvidia資深研究員Jim Fan,對每一次AI進展都有深刻的洞見,這一次對R1,他的評論是 —— 「我們生活的這個時間線上,是一家非美國公司,在延續OpenAI最初的 —— 真正開放的前沿研究,賦能所有人。這簡直不可思議。這是最有趣的結局竟然成真了。」 他不但讚美了DeepSeek的開放,而且嘲諷了OpenAI今天一個暗示明天一個代號的不透明風格。 這是非常鮮明的對比。我們一直說開源是矽谷精神。 OpenAI最初的願景就是開放,Meta也是堅決開源,只不過技術目前沒OpenAI強……而現在是一家中國公司,不但逐漸接近OpenAI技術水平,而且公開模型權重與論文,連技術細節都公開了! ---- R1在生成洞見、創造性發揮和說理論證方面距離 o1 pro 還有相當的差距。 但你要知道這是一個比較小的模型,它總共只有6710億個參數,而且是由一系列混合專家模型(Mixture of Experts)組成的,它一次推理呼叫的參數只有370億個。 R1思考速度快而且非常省錢。官網直接用,它是免費的。如果是在自己的應用中呼叫API,它的輸出價格是一百萬tokens 2.19美元,相當於o1 60美元的4%!這意味著你可以用R1做很多很多日常的事情。 而且R1還支援上網搜尋和PDF閱讀 —— 這是o1目前所沒有的功能。我自己試用的體感不是說那麼驚豔,但非常可用,而有的美國使用者則表示感覺水平比ChatGPT搜尋和Perplexity都高 —— ---- DeepSeek 開放有多徹底呢?它不但公開權重、免費可下載和公開了訓練方法,而且允許任何人用R1做資料蒸餾,去訓練自家的模型,而且你可以商業化。 DeepSeek 甚至已經用市面上的兩個開源模型,阿里的Qwen和Meta的Llama,蒸餾出來六個小模型供你隨便用。它們的跑分都相當高 —— 這些蒸餾出來的小模型很不簡單。其中一個有320億參數的小模型,數學和程式設計效能直接超越了o1-mini。 還有一個只有15億參數迷你小模型,數學和程式設計效能已經超過了當今最主流的兩個非推理模型,也就是GPT-4o和Claude 3.5 Sonnet —— 而它小到可以執行在你的個人電腦,甚至是手機上!有人已經用上了 —— 這是不可思議的事情!你要知道,僅僅半年前,這兩個模型還是神一樣的存在……而你現在不用上網,自家手機就可以擁有它們至少是數學和程式設計方面的能力。 還有個前Deepmind的研究員,直接用R1蒸餾出一個自己的模型,數學和程式設計效能超過了o1-preview —— 什麼叫賦能,這就叫賦能。 ---- DeepSeek介紹R1的論文,這篇論文公開了訓練推理模型的方法與細節。OpenAI對o1怎麼推理實行保密,外界只能猜測…… 所以有人說,現在所有AI實驗室都在閱讀DeepSeek這篇論文 —— ---- DeepSeek祕密是什麼呢?是沒有人為干預的強化學習。就如同當年的AlphaZero不看任何棋譜,自己跟自己下圍棋一樣,工程師並沒有告訴模型如何推理,只是你做對了我給獎勵 —— 它完全靠自己摸索,就掌握了推理方法。研究者首先訓練了一個叫DeepSeek-R1-Zero的基礎模型,它在訓練過程中自行湧現出來了幾個解題方法 —— - 解數學題會寫下步驟,自動檢查每一步是否正確; - 解題中間如果意識到錯誤,會中斷思考,重新推導; - 解完一道題會反思回顧自己的解題步驟,嘗試不同的方法,尋找最優解; - 能自動生成非常詳細的解題步驟; - 如果感覺題目比較難,會自動延長推理步驟,增加推理時間…… 簡單說,它就像是人一樣在做題。訓練者並沒有告訴模型你應該這麼解題,這些都是模型自己摸索出來的能力! 更有甚者,模型在推理過程中還湧現出一個「aha 時刻」,也就是解決關鍵一步,恍然大悟的時刻 —— 在場研究者第一次目睹這個現象都震驚了。模型就好像活了一樣,它有像人一樣的思想爆發火花,你甚至可以說它的智慧自行升級了。 R1-Zero有時候喜歡中英文混合輸出,介面不太友好,所以研究者又把它進一步人性化,才得到R1。 最近OpenAI研究者也出來講話,說是用的是強化學習自動湧現,聽起來跟DeepSeek論文裡的路數一致。但OpenAI從未提供過任何細節,DeepSeek等於是不但自己探索,而且還公之於眾了。 還有個有意思之處是R1每一次輸出的時候,都提供了自己的思考過程 —— 這也是OpenAI不願意全給的。很多人表示單純閱讀那些思考過程也很有收穫。比如華頓商學院教授Ethan Mollick感慨說,目睹R1第一人稱的思考過程,你不能不強烈感覺它是一個人…… 所有這些,都是R1之前我們不知道的,現在是一家來自中國的小公司,給人類貢獻了決定性的AI新知。 ---- 主流程式設計軟體Cursor中已經可以直接呼叫R1,大量的程式設計師會每天用它。中國沒有對美國使用者施加任何限制,甚至Google賬號可以直接登入DeepSeek官網。再對比一下OpenAI的種種限制,到底誰更open? ----- DeepSeek用這麼少的算力就能做到這麼好,對所有人都是重大啟發,我相信OpenAI也會琢磨這到底是為什麼。如果DeepSeek找到了低算力高效率的大門,對整個人類都是好訊息。 但是,OpenAI投入那麼大算力不是白費的。R1是專門在數學和程式設計這兩項上做的優化,它完成別的任務的水平還不夠強。比如用來搞清楚一個什麼科學問題,它能力不如o1-pro。 這裡面可能有個二八定律。你用比較少的算力資源,就能應對比如說工作中80%的問題 —— 但是要想覆蓋剩下的20%,你需要投入多的多的資源。而後者恰恰是OpenAI要做的事情。 這兩天另一個大新聞是OpenAI和軟銀等公司聯手,要搞個5000億美元的大項目,叫「星際之門計劃(The Stargate Project)」,對標當年美國搞原子彈的曼哈頓計劃和後來的登月計劃。這個項目要做的事情不是程式設計和解數學題,甚至不是AGI —— 而是ASI,是用於加速各個領域的科研,是探索未知世界。 所以我們不能低估算力的作用,更不能低估美國的野心。這是一場國運之爭。OpenAI仍然大幅度領先。 但是中國現在至少有個DeepSeek,美中AI大戰才剛要展開序幕! ------ 羅賓小弟:「除了美中AI大戰外,完全開源和封閉系統的AI競爭,羅賓小弟個人相信創意、創新、開放、格局會產生最後的贏家,就看是美國/美國公司比較開放還是中國/中國公司比較開放,把資源和精力放在一昧防堵別人追上,不如自己想辦法加快腳步往前創新突破。」 【編註:此處「完全開源」指開放程度。R1實際公開的是模型權重(MIT授權)與論文,訓練資料與完整程式碼未公開。】

本站文章為個人筆記與書摘整理,引述數字與事件均為原文發表時點,非即時資訊,不構成任何投資建議。

分享這篇文章
LINEFacebook

DISCUSSION

讀者留言

這篇讓你想到什麼?歡迎分享不同觀點、實務經驗與具體建議。

留言送出後即公開。請勿填寫私人聯絡資料或外部連結。系統會攔截可疑招攬、違規交易及洗版;自動判斷仍可能有誤。

0 / 2000

接近此區時載入留言。

    網站管理者登入

    我的閱讀筆記

    只有目前瀏覽器能讀取這份筆記,不會公開。填寫會同時加入收藏;可在「我的閱讀」備份與搬移。

    我的閱讀 →

    STAY CURIOUS

    把下一次閱讀,留給好問題。

    收藏這篇,或透過粉絲專頁與 RSS 留意新收錄;歷史文章仍保留原貼文日期。

    瀏覽全部文章搜尋文章與全文 →