近日來，國產開源大模型 DeepSeek 在自然語言處理和多任務推理方面展現了強大的技術實力，但在面對越獄攻擊等安全性挑戰時仍存在一定局限性。為此，清華團隊提出了基于模型自我提升的安全對齊方式，將安全對齊與內省推理相結合，使大語言模型能夠通過具有安全意識的思維鏈分析來檢查潛在風險，實現基礎模型自身能力的自主進化。
基于該方法，團隊對 DeepSeek-R1 系列模型進行后訓練，正式推出 RealSafe-R1 系列大模型。實驗數據表明，RealSafe-R1 安全性提升顯著，在多個基準測試中有效增強了對各種越獄攻擊的抵抗力，并減輕了安全與性能之間的“蹺蹺板”現象。
據悉，RealSafe-R1 各尺寸模型及數據集將于近期向全球開發者開源。
來源丨人民網