每日經濟新聞 2024-04-19 16:20:07
“大模界”是每日經濟新聞推出一檔專注生成式AI與大模型技術的前沿科技報道欄目。
在這里，我們將聚焦生成式AI技術浪潮，展現從文字、圖像、音頻、視頻的大模型如何編織數字化世界。
在這里，我們將解碼、評測國內外各類大模型，探究它們如何成為變革各行各業的重要力量。
在這里，我們將關注AIGC行業發展，聯手行業領軍人物和頂尖專家，共同揭示最新產品創新和技術突破，前瞻未來發展趨勢。
歡迎關注“大模界”，您將見證AIGC如何重塑內容生態，如何以前沿之力推動社會進步。讓我們共同開啟一場關于AI新紀元的無限旅程！
每經記者 蘭素英 每經編輯 譚玉涵
當地時間4月18日，Meta正式發布了外界期待已久的大語言模型Llama 3，共有80億和700億參數兩種版本，號稱是最強大的開源大語言模型。
Meta表示，Llama 3在多個關鍵的基準測試中性能優于業界先進同類模型，其在代碼生成等任務上實現了全面領先，能夠進行復雜的推理，可以更遵循指令，能夠可視化想法并解決很多微妙的問題。
在同日Youtube平臺公布的一段長達1個多小時、2萬字的深度訪談中，Meta公司首席執行官扎克伯格分享了有關Llama 3的更多信息，以及Meta在人工智能（AI）領域的深入思考，包括AI助手Meta.ai的演變、未來AI技術的發展方向和開源AI的潛在風險等。
圖片來源：訪談視頻截圖
Meta的Llama 3大模型不僅將作為開源軟件提供給開發者社區，還將為AI助手Meta.ai提供支持。扎克伯格在訪談中表示，“我們正在做的最重要的事情是升級模型。有了Llama 3，我們現在認為Meta.ai是人們可以免費使用的最智能的AI助手。我們還整合了Google和Bing以獲取實時知識。”
談及Llama 3，扎克伯格稱，“我們實際上訓練了三個版本，分別是80億、700億和4050億的密集模型，其中4050億的模型仍在訓練中。然而，對于80億和700億的模型，我對其結果感到非常興奮。它們在規模方面處于領先地位。”
據他介紹，這些新版本將為現有版本帶來多模態性、更多語言性和更大的上下文窗口。Meta希望今年晚些時候推出4050億的模型，盡管仍在訓練中，但就目前的訓練水平而言，它已經達到約85 MMLU（注：MMLU意為“多語言理解均值”，是一項用于衡量大語言模型性能的指標），預計其將在許多基準測試中擁有領先的基準。700億的模型大約是82 MMLU，在數學和推理方面擁有領先的分數。
談及AI大模型的訓練，此前有報道稱，Meta計劃在今年年底前采購35萬個英偉達Nvidia GPU。
對此，扎克伯格在訪談中透露，“那是我們的整個艦隊。我們建立了24000個集群，這些集群是我們用于訓練大型模型的單個集群。由于我們服務的社區規模龐大，我們所需的推理計算與訓練的比率可能比大多數其他做這些事情的公司高得多。”
他同時指出，大型AI模型的訓練可能會面臨資本和能源限制等問題。“我認為在我們達到這一點（指的是資本投入不再值得）之前，你會遇到能源限制。因為我認為還沒有人建造過千兆瓦的單一訓練集群。”未來，也許獲得能源許可就像一個受到嚴格監管的政府職能。
圖片來源：訪談視頻截圖
當被問及Llama版本如Llama 10最終是否會強大到取代程序員時，扎克伯格說：“我不確定我們是在取代人，還是在為人們提供工具來做更多的事情。但是，我并不認為人類存在一個單一的智力門檻，因為人們擁有不同的技能。在某種程度上，我認為人工智能可能會在大多數方面超越人類，這取決于模型的強大程度。但我認為這是一個漸進的過程。我并不認為AGI（通用人工智能）是一蹴而就的。我認為你基本上是在添加不同的功能。”
他還特別提到了多模態性的重要性。“最初是照片、圖像和文本，但最終是視頻。”他同時稱，“我還沒有看到業內其他人關注的一點就是情感理解。”Meta正在努力提升AI的推理能力和記憶能力，以應對更復雜的用戶需求。
至于未來幾十年AI的發展，扎克伯格認為，人工智能的出現與人類進化的重要性相當。AI將改變我們的工作方式，并為人們提供所有創造性的工具來做不同的事情，將真正使人們能夠做他們更想做的事情。
談及廣泛使用AI可能帶來的問題時，扎克伯格說：“我想到的一個安全類比是，并不只是人工智能，很多不同的東西都有安全漏洞。”
那社會應該如何應對這個問題呢？他認為，開源軟件是解決此問題的一個重要部分，它使得當對軟件進行改進時，它不會僅僅局限于一家公司的產品，而是可以廣泛部署到許多不同的系統中。而且這些東西的工作原理是有標準的，世界有可能在短時間內共同升級。在他看來，這種情況比一個人工智能更集中的世界要健康得多。
在訪談中，他也坦承，AI也可能帶來風險。“我認為緩解這種情況的最佳方法可能是擁有優秀的開源人工智能，使其成為標準。在很多方面，它可以成為領導者。這樣一來，它就確保了這是一個更加公平和平衡的競爭環境。”
他強調，“基本上，我通常非常傾向于認為開源對社區和我們都有好處，因為我們會從創新中受益。但如果在某個時候，某樣東西的能力發生了一些質的變化，我們覺得開源是不負責任的，那么我們就不會開源。”
在被問及是否會開源100億美元的模型時，他表示，只要對他們有幫助，就會開源。然而，他同時也提到，“我們在開源軟件方面有著悠久的歷史，但我們不傾向于開源我們的產品，我們不會將Instagram的代碼開源。我們采用了大量的基礎設施，并將其開源。在我們的歷史上，最大的項目可能就是開放計算項目，我們將所有的服務器、網絡交換機和數據中心的設計開源。這個項目最終證明非常有價值，因為雖然很多人都可以設計服務器，但現在行業已經對我們的設計進行了標準化。這意味著供應鏈基本上都是圍繞我們的設計建立的。隨著數量的增加，對每個人來說都更便宜了，為我們節省了數十億美元。”
封面圖片來源：Youtube訪談視頻截圖
如需轉載請與《每日經濟新聞》報社聯系。
未經《每日經濟新聞》報社授權，嚴禁轉載或鏡像，違者必究。
讀者熱線：4008890008
特別提醒：如果我們使用了您的圖片，請作者與本站聯系索取稿酬。如您不希望作品出現在本站，可聯系我們要求撤下您的作品。
歡迎關注每日經濟新聞APP
