得益于神經(jīng)網(wǎng)絡(luò)規(guī)模的擴(kuò)大以及海量數(shù)據(jù)的訓(xùn)練，人工智能（AI）在過去10年間突飛猛進(jìn)。“做大做強(qiáng)”的策略，在構(gòu)建大型語言模型（LLM）上取得了顯著成果，ChatGPT就是一個(gè)典型的例子。

然而，《自然》《麻省理工科技評(píng)論》等多家雜志網(wǎng)站指出，AI擴(kuò)展正逼近極限。一方面，AI“吞噬”著越來越多的能源；另一方面，滋養(yǎng)無數(shù)模型成長(zhǎng)的傳統(tǒng)數(shù)據(jù)集，正被LLM開發(fā)人員過度開墾。

AI幾乎讀取了互聯(lián)網(wǎng)上的所有內(nèi)容，但仍渴望獲得更多數(shù)據(jù)。為此，開發(fā)人員必須尋找變通之道。

圖片來源：twistedsifter.com

訓(xùn)練數(shù)據(jù)即將遭遇的瓶頸已悄然浮現(xiàn)。有研究機(jī)構(gòu)預(yù)測(cè)，到2028年左右，用于訓(xùn)練AI模型的數(shù)據(jù)集典型規(guī)模將達(dá)到公共在線文本總估計(jì)量的規(guī)模。換句話說，AI可能會(huì)在大約4年內(nèi)耗盡訓(xùn)練數(shù)據(jù)。與此同時(shí)，數(shù)據(jù)所有者（如報(bào)紙出版商）開始打擊對(duì)其內(nèi)容的濫用行為，進(jìn)一步收緊了訪問權(quán)限，這將引發(fā)“數(shù)據(jù)共享”規(guī)模上的危機(jī)。為此，開發(fā)人員必須尋找變通之道。

　數(shù)據(jù)集供需失衡

過去10年間，LLM的發(fā)展顯示出了對(duì)數(shù)據(jù)的巨大需求。自2020年以來，用于訓(xùn)練LLM的“標(biāo)記”（或單詞）數(shù)量已增長(zhǎng)100倍，從數(shù)百億增加到數(shù)萬億。一個(gè)常見的數(shù)據(jù)集RedPajama，包含數(shù)萬億個(gè)單詞。這些數(shù)據(jù)會(huì)被一些公司或研究人員抓取和清洗，成為訓(xùn)練LLM的定制數(shù)據(jù)集。

然而，可用互聯(lián)網(wǎng)內(nèi)容的增長(zhǎng)速度出乎意料的緩慢。據(jù)估計(jì)，其年增長(zhǎng)率不到10%，而AI訓(xùn)練數(shù)據(jù)集的大小每年增長(zhǎng)超過一倍。預(yù)測(cè)顯示，這兩條曲線將在2028年左右交匯。

與此同時(shí)，內(nèi)容供應(yīng)商越來越多地加入軟件代碼或修改條款，阻止爬蟲及AI抓取其數(shù)據(jù)。在這些內(nèi)容中，被明確標(biāo)記為限制爬蟲訪問的數(shù)量，從2023年的不足3%猛增到了2024年的20%至33%之間。

當(dāng)前，圍繞AI訓(xùn)練中數(shù)據(jù)使用的合法性，試圖為數(shù)據(jù)提供商爭(zhēng)取應(yīng)有賠償?shù)亩嗥鹪V訟正在進(jìn)行。2023年12月，《紐約時(shí)報(bào)》向OpenAI及其合作伙伴微軟提起了訴訟，指控其侵犯了版權(quán)；今年4月，紐約市Alden全球資本旗下的8家報(bào)紙聯(lián)合發(fā)起了一起類似的訴訟。對(duì)此，OpenAI表示，《紐約時(shí)報(bào)》的訴訟“毫無根據(jù)”。

若法院最終站在內(nèi)容提供商一方，支持其獲得經(jīng)濟(jì)賠償，那么對(duì)于AI開發(fā)人員，尤其是那些資金緊張的學(xué)者而言，獲取所需數(shù)據(jù)無疑將變得更加艱難。

新方法有待印證

數(shù)據(jù)匱乏對(duì)AI的傳統(tǒng)擴(kuò)展策略構(gòu)成了潛在挑戰(zhàn)。

尋找更多數(shù)據(jù)的一個(gè)途徑是收集非公開數(shù)據(jù)，如社交媒體消息或視頻文字記錄。然而，這種做法的合法性尚存爭(zhēng)議。

一些公司選擇使用自己的數(shù)據(jù)來訓(xùn)練AI模型，如Meta利用虛擬現(xiàn)實(shí)頭顯收集的音頻和圖像進(jìn)行訓(xùn)練。但各公司政策不同，包括Zoom在內(nèi)的一些公司則明確表示不會(huì)使用客戶內(nèi)容訓(xùn)練AI。

另一種選擇可能是專注于快速增長(zhǎng)的專業(yè)數(shù)據(jù)集，如天文學(xué)或基因組學(xué)數(shù)據(jù)，但其對(duì)訓(xùn)練LLM的可用性和實(shí)用性尚不清楚。

如果AI接受除文本之外的多種類型的數(shù)據(jù)訓(xùn)練，可能會(huì)為豐富數(shù)據(jù)的涌入打開閘門。Meta首席AI科學(xué)家勒丘恩強(qiáng)調(diào)，人類通過觀察物體而“吸收”的數(shù)據(jù)遠(yuǎn)超用于訓(xùn)練LLM的數(shù)據(jù)量，機(jī)器人形態(tài)的AI系統(tǒng)或許能從中獲取經(jīng)驗(yàn)。

此外，制造數(shù)據(jù)也是解決之道。一些AI公司付費(fèi)讓人們生成訓(xùn)練內(nèi)容，或使用AI生成的合成數(shù)據(jù)來訓(xùn)練AI。這已成為一個(gè)潛在的巨大數(shù)據(jù)源。然而，合成數(shù)據(jù)也存在問題，如遞歸循環(huán)可能鞏固錯(cuò)誤、放大誤解，并降低學(xué)習(xí)質(zhì)量。

小模型更專更精

另一種策略是摒棄模型“越大越好”的開發(fā)觀念。一些開發(fā)者已在追求更高效、專注于單一任務(wù)的小型語言模型。這些模型需要更精細(xì)、更專業(yè)的數(shù)據(jù)以及更好的訓(xùn)練技術(shù)。

12月5日，OpenAI發(fā)布了新的OpenAI o1模型。盡管該公司未透露模型的規(guī)模或訓(xùn)練數(shù)據(jù)集大小，但o1采用了新方法：在強(qiáng)化學(xué)習(xí)上投入更多時(shí)間，讓模型對(duì)每個(gè)回答進(jìn)行更深入的思考。這標(biāo)志著一種轉(zhuǎn)變，即從依賴大規(guī)模數(shù)據(jù)集進(jìn)行預(yù)訓(xùn)練，轉(zhuǎn)向更注重訓(xùn)練和推理。

當(dāng)前，LLM可能已飽覽互聯(lián)網(wǎng)大部分內(nèi)容，或許無需更多數(shù)據(jù)即可變得更智能。美國(guó)斯坦福大學(xué)一項(xiàng)研究表明，模型從多次讀取給定數(shù)據(jù)集中學(xué)到的內(nèi)容，與從相同數(shù)量的唯一數(shù)據(jù)中學(xué)習(xí)到的內(nèi)容一樣豐富。

合成數(shù)據(jù)、專門數(shù)據(jù)集、多次讀取和自我反思等因素的結(jié)合，或?qū)⒐餐苿?dòng)AI的進(jìn)一步飛躍。

標(biāo)簽：