上海人工智能實驗室開源書生·浦語20B模型,消費級GPU即可運行
來源:上觀新聞2023.9.21
書生·浦語(InternLM)大語言模型由上海人工智能實驗室聯合多家機構共同推出。今年6月,InternLM千億參數(104B)語言大模型首次發布,現已經歷多輪升級。7月,上海人工智能實驗室開源書生·浦語70億參數的輕量級版本InternLM-7B,且在業內率先開源貫穿數據、預訓練、微調、部署和評測的全鏈條工具體系。本次發布的InternLM-20B是一款中量級大模型,相較于InternLM-7B,其理解能力、推理能力、數學能力、編程能力等都有顯著提升。
相比于此前國內陸續開源的7B和13B規格模型,20B量級模型具備更強大的綜合能力,復雜推理和反思能力尤為突出,能為實際應用場景提供更有力的性能支持;同時,20B量級模型可在單卡上進行推理,經過低比特量化后,可運行在單塊消費級GPU上,因而在實際應用中更為便捷。
相比于此前的開源模型,InternLM-20B能以不足1/3的參數量,測評成績達到了Llama2-70B的水平,同時支持數十類插件,上萬個API接口功能,還具備代碼解釋和反思修正能力。另外,InternLM-20B在研發訓練的過程中,研究團隊進行了基于SFT和RLHF兩階段價值對齊,并通過專家紅隊的對抗訓練大幅提高其安全性。
更多資訊
-
筑牢“微網格” ,打造“學聯體” !蘇州河畔特大社區以學促治聚民意2023.10.20
宜川路街道中遠兩灣城作為上海內環內最大的社區,共有11599戶近5萬居民,針對特大社區“人多樓密、主體多元、矛盾復雜”等特點,居民區黨總支持續織密治理網絡,實現“學習在網格中深化、民意在網格中丈量、訴… 查看詳情 >
-
打造商務樓宇產業園區,服務普陀經濟高質量發展2023.10.20
編者按 調查研究是獲得真知灼見的源頭活水,是做好各項工作的基本功。今年以來,普陀區始終將大興調查研究擺在第一要位,全力保障調研工作扎實開展、取得實效。 即日起,區委宣傳部、區融媒體中心推出“書記調研手… 查看詳情 >
-
松江20個項目尋求技術支持,交大、復旦、同濟等高校的博導都來了2023.10.20
10月16日下午,松江區博士后創新實踐基地項目評審暨企校項目對接會舉行,12家企業申報的20個項目以路演的形式,尋求高校技術支持并申請入駐松江區博士后創新實踐基地,來自上海交通大學、復旦大學、同濟大學… 查看詳情 >
-
上海再添一座印象城,將帶動區域商業升級,引入更多首店潮店2023.10.20
10月19日,商業地產投資開發運營商印力集團“官宣”簽約合作,與上海寶地不動產資產有限公司攜手共創商業綜合體“寶樂匯印象城”項目。 寶樂匯印象城原為寶樂匯商場,位于牡丹江路寶楊路交界處,地處寶山城區中… 查看詳情 >