智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
中航鼎力
10月14日消息，今天凌晨，螞蟻集團(tuán)正式推出萬億參數(shù)思考模型Ring-1T，并全面開源模型權(quán)重、訓(xùn)練配方。
Ring-1T在9月30日開源的預(yù)覽版Ring-1T-preview基礎(chǔ)上，持續(xù)擴(kuò)展大規(guī)?？沈?yàn)證獎勵(lì)強(qiáng)化學(xué)習(xí)(RLVR)訓(xùn)練，進(jìn)一步激發(fā)萬億基座的自然語言推理能力，并通過 RLHF 訓(xùn)練完善模型通用能力，在各項(xiàng)任務(wù)榜單上表現(xiàn)更加均衡。
為了持續(xù)激發(fā)Ring-1T的數(shù)學(xué)等復(fù)雜推理能力，此次百靈團(tuán)隊(duì)挑戰(zhàn)了難度更高的IMO2025(國際數(shù)學(xué)奧利匹克)賽題，將Ring-1T接入多智能體框架AWorld，使用純自然語言推理進(jìn)行解題。實(shí)驗(yàn)結(jié)果顯示，Ring-1T僅用一次解出了第1、3、4、5題，相當(dāng)于IMO銀牌水平，成為首個(gè)能拿IMO國際奧數(shù)獎的開源系統(tǒng)。Ring-1T在第三次嘗試IMO時(shí)對第2題幾何證明也給出了接近滿分的證明過程，在頂流大模型幾乎全軍覆沒的第六題中將答案收斂到與Gemini 2.5 Pro 相同的“4048”(正確答案為2112)。
作為一款思考模型，Ring-1T也表現(xiàn)出了很好的通用能力，在“人類偏好對齊”測試Arena-Hard V2中，Ring-1T以81.59的成功率居于開源模型榜首，逼近GPT-5-Thinking(High)82.91的成績。在面向嚴(yán)謹(jǐn)領(lǐng)域的醫(yī)療問答HealthBench測評中，Ring-1T也以最高分取得開源領(lǐng)域最佳。
萬億參數(shù)思考模型訓(xùn)練最大難題是訓(xùn)推精度差異，即訓(xùn)練階段與推理階段因?qū)崿F(xiàn)細(xì)節(jié)差異導(dǎo)致的訓(xùn)練和推理精度不一致，進(jìn)而導(dǎo)致訓(xùn)練崩潰。據(jù)介紹，在Ring-1T模型中，螞蟻采用了自研的“棒冰(icepop)”算法來應(yīng)對這項(xiàng)行業(yè)難題，即用帶掩碼的雙向截?cái)嗉夹g(shù)把訓(xùn)練-推理分布差異凍結(jié)在低水位，確保長序列、長周期訓(xùn)練不崩。
此外，應(yīng)對萬億參數(shù)模型強(qiáng)化學(xué)習(xí)訓(xùn)練，螞蟻還自研了高性能強(qiáng)化學(xué)習(xí)系統(tǒng)ASystem(其中包含已開源的高性能強(qiáng)化學(xué)習(xí)框架AReaL)，特別針對萬億參數(shù)模型的顯存管理和訓(xùn)推權(quán)重交換問題做了精細(xì)的優(yōu)化，實(shí)現(xiàn)了單機(jī)顯存碎片秒級回收、權(quán)重零冗余交換，把大規(guī)模RL訓(xùn)練穩(wěn)定跑成日常。
據(jù)百靈團(tuán)隊(duì)透露，Ring-1T模型是其在萬億思考模型上的首次嘗試，螞蟻百靈團(tuán)隊(duì)會在后續(xù)的版本中繼續(xù)完善模型性能。目前，用戶可通過HuggingFace、魔搭社區(qū)下載模型，并通過螞蟻百寶箱等平臺在線體驗(yàn)。
最近，百靈團(tuán)隊(duì)動作頻頻，先是9月30日發(fā)布了Ring-1T的預(yù)覽版Ring-1T-preview，二者都是思考模型，也就是推理模型。10月9日，螞蟻集團(tuán)發(fā)布了萬億參數(shù)通用大語言模型Ling-1T，這個(gè)是非思考模型。
截至目前，螞蟻百靈大模型已經(jīng)發(fā)布18款模型，形成從160億總參數(shù)到1萬億總參數(shù)的大語言模型產(chǎn)品矩陣，其中包括兩款萬億參數(shù)模型：通用大語言模型Ling-1T、思考模型Ring-1T。
浙公網(wǎng)安備 33010602000006號
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號
