| 研究了一下deepseek這次提升的關(guān)鍵，用業(yè)內(nèi)人士的話說就是，一開始就用只用強(qiáng)化學(xué)習(xí)，而沒有像之前業(yè)界主流那樣，先用監(jiān)督學(xué)習(xí)微調(diào)，再用強(qiáng)化學(xué)習(xí)，而且這次強(qiáng)化學(xué)習(xí)的方式也很簡(jiǎn)單粗暴，沒有使用復(fù)雜的獎(jiǎng)勵(lì)模型或MCTS類技術(shù)，而是直接使用PPO算法，采用基于規(guī)則的獎(jiǎng)勵(lì)函數(shù)，結(jié)果高效的結(jié)果就這么涌現(xiàn)粗來了。其實(shí)這事兒看上去很復(fù)雜，但國(guó)內(nèi)的家長(zhǎng)和學(xué)生都懂，就是如果你孩子智商中上，要想考上清華北大，一開始就狠心直接把他扔到黃岡或者衡水，做黃岡密卷搞題海戰(zhàn)術(shù)，比在家里給請(qǐng)人大附特級(jí)教師一對(duì)一監(jiān)督私教，效果要強(qiáng)悍的多，而且花錢也要省很多。所以這種方式老歪想不出來也很正常，但在國(guó)內(nèi)是常識(shí)[吐舌][憨笑][摳鼻] |
|
|
