0
| 本文作者： nebula | 2023-09-20 17:11 |
9月20日，上海人工智能實驗室等機構發(fā)布書生·浦語大模型（InternLM）200億參數(shù)版本InternLM-20B，并在阿里云魔搭社區(qū)（ModelScope）開源首發(fā)、免費商用。書生·浦語大模型體系與魔搭社區(qū)建立重磅生態(tài)合作，共同推動中國大模型生態(tài)建設。
書生·浦語（InternLM）大語言模型由上海人工智能實驗室聯(lián)合多家機構共同推出。今年6月，InternLM千億參數(shù)（104B）語言大模型首次發(fā)布，現(xiàn)已經(jīng)歷多輪升級；7月，上海人工智能實驗室開源書生·浦語70億參數(shù)的輕量級版本InternLM-7B，且在業(yè)內(nèi)率先開源貫穿數(shù)據(jù)、預訓練、微調(diào)、部署和評測的全鏈條工具體系。InternLM-7B也已上線魔搭社區(qū)。
本次發(fā)布的InternLM-20B是一款中量級大模型，性能先進且應用便捷，模型基于2.3T Tokens預訓練語料從頭訓練，相較于InternLM-7B，其理解能力、推理能力、數(shù)學能力、編程能力等都有顯著提升。
相比于此前國內(nèi)陸續(xù)開源的7B和13B規(guī)格模型，20B量級模型具備更強大的綜合能力，復雜推理和反思能力尤為突出，能為實際應用場景提供更有力的性能支持；同時，20B量級模型可在單卡上進行推理，經(jīng)過低比特量化后，可運行在單塊消費級GPU上，因而在實際應用中更為便捷。
相比于此前的開源模型，InternLM-20B擁有幾大優(yōu)勢：一、優(yōu)異的綜合性能。不僅全面領先相近量級的開源模型，且以不足1/3的參數(shù)量，測評成績達到了Llama2-70B的水平。二、強大的工具調(diào)用能力。支持數(shù)十類插件，上萬個API功能，還具備代碼解釋和反思修正能力，為智能體（Agent）的構建提供了良好的技術基礎。三、更長的語境。實現(xiàn)了對長文理解、長文生成和超長對話的有效支持，同時支持 16K 語境長度。四、更安全的價值對齊。在研發(fā)訓練的過程中，研究團隊進行了基于SFT和RLHF兩階段價值對齊，并通過專家紅隊的對抗訓練大幅提高其安全性。
書生·浦語開源工具鏈也已全新升級，形成更完善的體系，包括預訓練框架InternLM-Train、低成本微調(diào)框架XTuner、部署推理框架 LMDeploy、評測框架OpenCompass 以及面向場景應用的智能體框架Lagent。書生·浦語工具鏈將和開源數(shù)據(jù)平臺OpenDataLab構成強大的開源工具及數(shù)據(jù)體系，為業(yè)界提供全鏈條研發(fā)與應用支持。
書生·浦語-20B：
https://modelscope.cn/models/Shanghai_AI_Laboratory/internlm-20b
書生·浦語-對話-20B：
https://modelscope.cn/models/Shanghai_AI_Laboratory/internlm-20b-chat
魔搭社區(qū)最佳實踐：
魔搭社區(qū)開設了書生·浦語“模型品牌館”專頁，聚合書生·浦語系列所有模型及體驗接口，便于開發(fā)者一站式查詢、下載、使用書生模型；魔搭公眾號則推出了最佳實踐教程，提前跑通模型的部署、推理和微調(diào)流程，供開發(fā)者參考。
阿里云魔搭社區(qū)是國內(nèi)規(guī)模最大、開發(fā)者最活躍的AI模型社區(qū)，擁有200多萬開發(fā)者，聚集了20多家頭部人工智能機構貢獻的1000多款優(yōu)質(zhì)AI模型，為開發(fā)者提供一站式的模型體驗、下載、推理、調(diào)優(yōu)、定制等服務，社區(qū)模型累計下載量已突破7500萬次。
“以開源開放促進中國大模型生態(tài)繁榮”是書生·浦語大模型體系與魔搭社區(qū)攜手共建的初衷。上海人工智能實驗室堅持通過開源開放，全面賦能AI社區(qū)生態(tài)的繁榮發(fā)展，支撐學術研究與產(chǎn)業(yè)發(fā)展。阿里云則把促進中國大模型生態(tài)的繁榮作為首要目標，牽頭建設中國最大的AI模型開源社區(qū)魔搭，并為大模型企業(yè)和開發(fā)者提供全方位云服務。
雷峰網(wǎng)(公眾號：雷峰網(wǎng))
