(資料圖片僅供參考)

IT之家 4 月 21 日消息，復(fù)旦大學(xué)自然語言處理實驗室開發(fā)的新版 MOSS 模型今日正式上線，成為國內(nèi)首個插件增強(qiáng)的開源對話語言模型。

目前，MOSS 模型已上線開源，相關(guān)代碼、數(shù)據(jù)、模型參數(shù)已在 Github 和 Hugging Face 等平臺開放，供科研人員下載。

據(jù)介紹，MOSS 是一個支持中英雙語和多種插件的開源對話語言模型，moss-moon 系列模型具有 160 億參數(shù)，在 FP16 精度下可在單張 A100 / A800 或兩張 3090 顯卡運(yùn)行，在 INT4/8 精度下可在單張 3090 顯卡運(yùn)行。MOSS 基座語言模型在約七千億中英文以及代碼單詞上預(yù)訓(xùn)練得到，后續(xù)經(jīng)過對話指令微調(diào)、插件增強(qiáng)學(xué)習(xí)和人類偏好訓(xùn)練具備多輪對話能力及使用多種插件的能力。

IT之家查看 MOSS 的 GitHub 頁面發(fā)現(xiàn)，該項目所含代碼采用 Apache 2.0 協(xié)議，數(shù)據(jù)采用 CC BY-NC 4.0 協(xié)議，模型權(quán)重采用 GNU AGPL 3.0 協(xié)議。如需將該項目所含模型用于商業(yè)用途或公開部署，需要簽署文件并發(fā)送至 robot@fudan.edu.cn 取得授權(quán)，商用情況僅用于記錄，不會收取任何費(fèi)用。

MOSS 用例： ▲ 解方程

▲ 生成圖片

▲ 無害性測試模型

標(biāo)簽：