通用人工智能時代，我們對大模型應(yīng)該有怎樣的思考？9月5日，在2024Inclusion·外灘大會上，提到人工智能、大模型如何深入產(chǎn)業(yè)時，香港科技大學(xué)校董會主席、美國國家工程院外籍院士沈向洋拋出了這個問題，探討未來人工智能、大模型如何才能深入產(chǎn)業(yè)。

在這個問題上，沈向洋認為，最重要的是三件事情：算力、算法、數(shù)據(jù)。

“講卡傷感情，沒卡沒感情”，沈向洋分享了一組數(shù)據(jù)，從2012年開始，每年大模型需要的算力都在增長，一開始幾年是六七倍的增長，最近幾年穩(wěn)定下來，每年是四倍左右的增長。而隨著大模型的參數(shù)越來越大，大模型對算力的要求已經(jīng)由線性增長進化到平方向的增長。如今，算力已經(jīng)是大模型落地的門檻，“真正做大模型的公司，如果你一萬張卡都沒有，你就根本不要講自己是在干大模型的公司。”

講起“卡”，沈向洋表示，目前整個計算機芯片行業(yè)的發(fā)展，從原來的摩爾定律變成了黃氏定律。以前是CPU的增長，摩爾定律是指每18-24個月，計算能力翻倍。現(xiàn)在是GPU的算力一年漲4倍。人類社會的計算能力呈現(xiàn)了一種超級躍進趨勢。

這也突出了數(shù)據(jù)的重要性。“GPT3剛出來的時候是2個T的token，GPT4剛出來的時候是12個T左右的數(shù)據(jù)，后來還在不斷地加數(shù)據(jù)訓(xùn)練，現(xiàn)在我們猜GPT4是20T的數(shù)據(jù)。大家在望穿秋水等GPT5出來，到底要用多少的數(shù)據(jù)？”沈向洋給出的猜測是200個T的數(shù)據(jù)，但如今的互聯(lián)網(wǎng)要挖出200T的數(shù)據(jù)已經(jīng)不容易了。沈向洋感慨，互聯(lián)網(wǎng)40年積累的數(shù)據(jù)，似乎就是為了一個AI時刻。

沈向洋認為，大模型的下一章要從語言模型到多模態(tài)發(fā)展。盡管Sora已經(jīng)做得不錯，但多模態(tài)大模型仍不夠強大。他強調(diào)，大模型未來一定要往具身智能走，往機器人走，自動駕駛就是一種機器人的特別形態(tài)。

隨著大模型的發(fā)展，沈向洋提出，未來大模型將橫掃所有垂直行業(yè)。大模型可分為通用大模型、行業(yè)大模型、企業(yè)大模型和個人大模型。通用大模型大致是萬億參數(shù)，萬卡訓(xùn)練。行業(yè)大模型大致上是千億參數(shù)、千億卡的訓(xùn)練規(guī)模。企業(yè)大模型可能只需要100張卡、百億參數(shù)。而個人大模型最被沈向洋期待，比如聯(lián)想、微軟推出的AIPC，蘋果號稱的Apple Intelligence,利用個性化參數(shù)，結(jié)合云和端，都被沈向洋視作有意思的嘗試。

同時，沈向洋也強調(diào)了AI治理的重要性。他表示，目前AI可能對民眾、公司、政府監(jiān)管乃至社會發(fā)展的沖擊都在引發(fā)大眾的擔(dān)憂，接下來全球各個國家一定要做主權(quán)人工智能，主權(quán)人工智能背后一定要有一個主權(quán)云來支持其發(fā)展，通過國家支持人工智能基礎(chǔ)設(shè)施建設(shè)，用符合本國文化和思維方式的數(shù)據(jù)訓(xùn)練大模型，支持本地產(chǎn)品形成生態(tài)系統(tǒng)。

而對于業(yè)內(nèi)備受關(guān)注的AI agent（智能體），沈向洋的觀點是，agent從愿景到落地的過程中，需要始終以需求為圓點，深刻理解模型的能力，并構(gòu)建一個AI深度參與的工作流程。他判斷，AI agent時代的到來，不會是一個神奇而強大的模型突然代替了原有的工作流，它涉及技術(shù)、工程與市場的不斷磨合，最終以超預(yù)期的服務(wù)呈現(xiàn)給人類。