展會信息港展會大全

“生成式AI帶來了安全風險,但我們不應該因噎廢食”
來源:互聯(lián)網(wǎng)   發(fā)布日期:2023-07-09 07:59:11   瀏覽:41396次  

導讀:【文/觀察者網(wǎng) 陳思佳】近年來,ChatGPT掀起了一股人工智能(AI)浪潮,生成式人工智能和人工智能生成內(nèi)容(AIGC)的概念迅速進入社會各界的視野。在AI技術高速發(fā)展的當下,AIGC似乎已在不知不覺間滲透進人們的日常生活的方方面面。 7月6日至8日,以智聯(lián)世界...

【文/觀察者網(wǎng) 陳思佳】近年來,ChatGPT掀起了一股人工智能(AI)浪潮,生成式人工智能和人工智能生成內(nèi)容(AIGC)的概念迅速進入社會各界的視野。在AI技術高速發(fā)展的當下,AIGC似乎已在不知不覺間滲透進人們的日常生活的方方面面。

7月6日至8日,以“智聯(lián)世界 生成未來”為主題的第六屆世界人工智能大會(WAIC)在上海舉行,展覽涵蓋核心技術、智能終端、應用賦能、前沿技術四大板塊,包括大模型、芯片、機器人、智能駕駛等領域,參展企業(yè)超400家,優(yōu)秀初創(chuàng)企業(yè)超50家,首發(fā)首展新品達30余款。

大模型和AIGC無疑是本次大會的焦點,華為、阿里、百度、科大訊飛等多家廠商的30余款大模型亮相世博展覽館,涵蓋圖片生成、視頻生成、數(shù)字人等諸多AIGC項目的展臺更是吸引大批觀眾。

但AI技術的迅猛發(fā)展也促使人們開始思考,大模型和AIGC具有什么樣的前景?它們會給日常生活帶來怎樣的變革?生成式AI技術又有什么樣的潛在發(fā)展門檻和風險?對此,在7月7日舉行的“聚焦大模型時代AIGC新浪潮論壇”上,來自多家機構(gòu)、企業(yè)和高校的專家分享了他們的看法。

2023世界人工智能大會

30余款大模型同臺競技

本屆WAIC聚焦大模型和AIGC,華為云盤古大模型、科大訊飛星火認知大模型、商湯商量中文語言大模型、阿里云通義千問、百度文心一言等30余款大模型亮相現(xiàn)場,各大廠商推出的產(chǎn)品涵蓋算力底座、模型即服務(MaaS)、通用大模型、垂直應用大模型等方方面面。

作為本次大會的“鎮(zhèn)館之寶”之一,華為帶來的騰AI“大模型超級工廠”覆蓋大模型的數(shù)據(jù)&模型準備、算力準備&模型訓練、模型部署上線&集成等階段全流程。

目前基于騰AI原生孵化了業(yè)界首個兩千億參數(shù)的中文NLP大模型鵬城.盤古、業(yè)界首個多模態(tài)大模型紫東.太初以及華為云盤古系列在內(nèi)的20多個國產(chǎn)大模型。同時,騰AI也已適配支持了ChatGLM、LLaMA、GPT-3、BLOOM等數(shù)十個業(yè)界主流開源開放的大模型。

7月7日,華為云CEO張平安還在華為開發(fā)者大會2023上宣布,盤古大模型3.0正式發(fā)布。據(jù)他介紹,該模型是一個完全面向行業(yè)的大模型系列,“盤古大模型不作詩,也沒有時間作詩,因為它要深入到各行各業(yè)中去,讓AI賦予各行各業(yè)價值。”

商湯科技“日日新SenseNova”大模型體系則覆蓋文本生成、圖像生成、數(shù)字人等多個領域。其中“商量SenseChat”是該體系下的千億級參數(shù)語言大模型,具備領先的語義理解、多輪對話、知識掌握、邏輯推理的綜合能力。目前,“商量SenseChat 2.0”已在醫(yī)療、金融、移動終端、代碼開發(fā)等領域為客戶提供服務。

作為“模型即服務”的倡導者,阿里云展出的通義大模型允許企業(yè)微調(diào)、訓練模型,打造模型開放平臺,提供一站式模型服務。阿里云還展示了其云計算技術體系的三層架構(gòu),從下到上分別包括基礎設施即服務(IaaS)、平臺即服務(PaaS)和模型即服務(MaaS)。

此外,多款應用于垂直領域的大模型也亮相本屆WAIC。例如,達觀數(shù)據(jù)發(fā)布的“曹植”大模型主要面向金融、政務等行業(yè),具備長文本、垂直化和多語言等特點。蜜度發(fā)布的“蜜度文修”大模型則專為校對這一垂直領域打造,在中文拼寫勘誤、語法糾正等方面的表現(xiàn)優(yōu)于通用大模型ChatGPT。

圖片生成、音樂創(chuàng)作、數(shù)字人……AIGC觸及生活方方面面

在迅猛發(fā)展的大模型的支持下,AIGC技術成為本屆WAIC的一大亮點,圖像生成、數(shù)字人直播、文本生成PPT、自動剪輯等多種生成式AI應用與大模型同步推出,相關展臺可謂人山人海。

商湯科技展臺展示了“秒畫SenseMirage”生成的圖像,這是一個包含商湯自研AIGC大模型和便捷的LoRA訓練能力,并提供第三方社區(qū)開源模型加速推理的創(chuàng)作平臺。據(jù)介紹,秒畫SenseMirage 3.0的自研生成大模型參數(shù)提升至70億量級,具有更強的中文理解能力、更多樣化的風格選擇。

燧原科技也展示了文生圖MaaS平臺服務產(chǎn)品“燧原曜圖”,基于燧原科技“邃思”系列芯片的算力支持,為用戶提供面向AIGC時代的高效易用、安全可靠的文生圖服務。通過軟硬件一體方案,該產(chǎn)品可以降低大規(guī)模AIGC應用的工程難度和算力成本。

網(wǎng)易伏羲推出了自研圖片生成模型“丹青”和創(chuàng)意輔助產(chǎn)品“丹青約”,推動將AI技術應用于企業(yè)美術資產(chǎn)的生產(chǎn)創(chuàng)作流程中,將上線有靈美術平臺。據(jù)介紹,“丹青”是基于原生中文語料數(shù)據(jù)及網(wǎng)易自有高質(zhì)量圖片數(shù)據(jù)訓練,為100%的國產(chǎn)大模型。

金山辦公的具備大語言模型能力的人工智能應用WPS AI則已經(jīng)接入金山辦公旗下WPS文字、演示、表格、PDF、智能文檔和智能表格等組件。金山辦公表示,這是國內(nèi)協(xié)同辦公賽道的首個類ChatGPT式應用,未來錨定AIGC、人機交互、知識再利用三個戰(zhàn)略方向發(fā)展。

在音樂創(chuàng)作方面,騰訊多媒體實驗室基于AIGC技術推出XMusic生成式通用作曲框架,支持視頻、圖片、文字、標簽、哼唱等多模態(tài)內(nèi)容作為輸入提示詞,生成情緒、曲風、節(jié)奏可控的音樂。在視頻配樂、互動娛樂、輔助創(chuàng)作、音樂教育等眾多領域都具有廣闊的應用前景。

騰訊還展出了將生成式AI應用于電子游戲、科研、實時翻譯等領域的探索。例如,騰訊優(yōu)圖展示的AI探星計劃,利用AI技術和騰訊云的算力助力“中國天眼”(FAST),已在較短時間內(nèi)快速發(fā)現(xiàn)數(shù)十顆脈沖星。

在智能手機的時代,AI技術也在與移動終端結(jié)合。美國高通公司展出了終端側(cè)生成式AI用例演示,在搭載第二代驍龍8移動平臺的安卓手機運行超10億參數(shù)的Stable Diffusion模型,實現(xiàn)15秒內(nèi)20步推理。

“大模型的產(chǎn)生并非一蹴而就”

AI熱潮席卷全球,也促使人們開始思考,生成式AI技術會給社會生產(chǎn)帶來怎樣的變化?AIGC又具備怎樣的發(fā)展前景?對此,7月7日上午舉行的“聚焦大模型時代AIGC新浪潮論壇”上,來自多家機構(gòu)、企業(yè)和高校的專家分享了他們的觀點。

京東探索研究院院長、京東科技智能服務與產(chǎn)品部總裁何曉東表示,生成式AI在今年取得了巨大的進展,可以做到文本生成、代碼生成、圖片生成、視頻生成等,產(chǎn)生了生產(chǎn)力的變革。他認為,大模型帶來了AI流行的機遇,從傳統(tǒng)的基于某一個場景、某一個應用定制AI模型,進入到一個大的通用的模型可以服務于多個場景。

“一方面模型本身的成本是提高了,因為我們都知道,大模型本身需要大量的算力,需要大量的數(shù)據(jù),需要一個很大、很強的綜合性團隊。在另一方面它的部署成本其實極大地降低了,因為一個模型可以部署到更多的地方。”何曉東說,“這就像我們進入工業(yè)時代,雖然工具更昂貴了,但它生產(chǎn)產(chǎn)品的效率反而提升了。”

何曉東表示,希望AIGC能加入更有創(chuàng)作力的領域,比如圖像繪畫生成等,“京東通過打造一站式的人工智能應用平臺言犀平臺,集成大量AI從感知到認知到生成的技術,使得我們可以在各個層次組合出各種各樣豐富的應用式產(chǎn)品,服務各行各業(yè)。各行各業(yè)都能從這一次的人工智能技術進展中得到真正的提升。”

京東探索研究院院長、京東科技智能服務與產(chǎn)品部總裁何曉東發(fā)表講話

HiDream.ai創(chuàng)始人、加拿大工程院外籍院士梅濤認為,多模態(tài)AIGC主要面臨三大挑戰(zhàn):第一是標記化(Tokenization),有沒有一種比較好的集合,能夠把文本、視覺、語音等信息包含在一起。第二是解碼(Decoder),大語言模型中常用的Transformer架構(gòu)并沒有在圖像、視頻中得到很好的應用。第三是對齊(Alignment),我們能不能做到不同模態(tài)之間交叉相關性的對齊。

梅濤指出,目前主流的視覺模型的能力邊界基本都在幾十億參數(shù)的區(qū)間,在圖像生成方面,人臉細節(jié)、手指細節(jié)、物體細節(jié)等問題都還沒有解決,還有很多工作要做。

“我們想做的一件事就是問問自己,到底我們有沒有可能把現(xiàn)在視覺多模態(tài)的基礎模型,從它現(xiàn)在能力對標GPT-2.0的時代,走向GPT-3.0的時代。當然這也是我們HiDream的一個初心。”梅濤說。

HiDream.ai創(chuàng)始人、加拿大工程院外籍院士梅濤發(fā)表講話

九章云極聯(lián)合創(chuàng)始人尚明棟則談及人工智能基礎設施的變革。他表示,大模型的產(chǎn)生并非一蹴而就,而是需要完整的基礎設施升級,無法依靠單獨一個大模型解決更多的問題。他指出,基礎設施的構(gòu)成包括算力、數(shù)據(jù)和軟件等方面。

尚明棟提到,美國初創(chuàng)公司CoreWeave在最近使用3584張H100芯片,僅用時11分鐘就完成GPT-3模型的訓練,整體開銷約2萬美元。但在2020年訓練GPT-3模型需要450萬美元,在2022年依然需要45萬美元。“我們看到,隨著算力和并行的一些基礎軟件的演進,我們算力的成本在持續(xù)下降。而算力成本下降的速度,我們判斷也會快于模型大小增長。所以,以后算力將不會構(gòu)成大模型計算的一個鴻溝。”

他指出,訓練更高質(zhì)量、更高效的模型,就需要質(zhì)量更好的數(shù)據(jù),“我們也知道,受限于數(shù)據(jù)的邊界,考慮到數(shù)據(jù)隱私、數(shù)據(jù)安全等多方面因素,我們很難讓它直接在通用的數(shù)據(jù)中流通。所以我們需要構(gòu)建垂直領域大模型,結(jié)合從算力、數(shù)據(jù)到基礎軟件去賦能于千行百業(yè)。”

九章云極聯(lián)合創(chuàng)始人尚明棟發(fā)表講話

在基礎軟件方面,尚明棟認為,基礎軟件的核心價值在兩點,一是高效地調(diào)度、管理數(shù)據(jù)和算力,將原先復雜的大模型構(gòu)建變得更加容易。二是通過對基礎軟件高效的工程化、模塊化和自動化,提高訓練的效率;A軟件效率的提升意味著算力的節(jié)省和成本的降低。

“所以,大模型未來的挑戰(zhàn)在于,我們希望大模型能夠落地各行各業(yè),那么落地于千行百業(yè)就需要和各個行業(yè)的業(yè)務結(jié)合在一起,并結(jié)合行業(yè)的業(yè)務知識。”尚明棟說。

“AI存在風險,但我們不應該因噎廢食”

然而,AIGC的發(fā)展也面臨諸多爭議,從發(fā)展的門檻和壁壘到AI的風險和安全性都受到頗多質(zhì)疑。對此,在“聚焦大模型時代AIGC新浪潮論壇”的圓桌討論環(huán)節(jié)中,多位專家指出,生成式AI發(fā)展可能面臨諸多挑戰(zhàn)和風險,但我們不能“因噎廢食”,需要在長期的發(fā)展中尋找應對的方案。

上海人工智能實驗室主任助理喬宇認為,大模型還存在很多問題,例如人們常說的“幻覺”、價值對齊、效率等,但社會各界需要用發(fā)展的目光看待AI,安全和發(fā)展是“一體兩翼”的關系,特別是中國的大模型還處于追趕階段,需要從發(fā)展的角度去看待安全問題。

談及大模型可能存在的價值觀方面的問題,喬宇表示,大模型的價值觀是由訓練數(shù)據(jù)得來的,“我們是不是能從訓練數(shù)據(jù)端去解決?有些模型用在專業(yè)領域的時候,圍繞這個專業(yè)領域,我們對它有一些安全要求,有可能從中繼承一些。所以要從大模型技術研發(fā)的不同環(huán)節(jié)來思考安全問題。”

喬宇強調(diào),大模型的安全不單單是某一個科研團體、某一個產(chǎn)業(yè)領域或是中國單獨面臨的問題,它是全世界乃至全人類面臨的問題,“所以我認為在安全領域,我們應該展開更多的國際交流和合作,來共同面對和解決。”

“聚焦大模型時代AIGC新浪潮論壇”圓桌討論環(huán)節(jié)

香港中文大學助理教授王歷偉從人才和研究的角度切入,他認為,從人才培養(yǎng)的速度來看,很大的優(yōu)秀科研人員基礎可以降低未來研發(fā)的門檻,訓練大模型的算力需求成本看起來也比較樂觀。“我覺得從短期或中長期來看,無論是人才儲備還是算力,大模型的研發(fā)門檻可能在慢慢降低。”

王歷偉表示,科研人員需要關注如何理解和評價大模型的能力,“如果我們持續(xù)從一種評價方式去衡量大模型的能力,可能多多少少還是比較片面。”他認為,學術領域人士很適合去更多地探索安全性和AI治理等方向的內(nèi)容。

螞蟻集團機器智能部副總經(jīng)理、螞蟻安全天實驗室主任張?zhí)煲肀硎,大模型帶來的風險問題不一定是新的問題,但更加深度的應用可能造成更全面的影響,包括生成內(nèi)容安全問題、技術安全、隱私問題、合規(guī)問題以及倫理問題等。

張?zhí)煲碚J為,當前大模型存在三方面的風險,一是技術相關問題,模型本身可能被攻擊、被突破、被劫持。二是產(chǎn)業(yè)類風險,AI是否會帶來壟斷、勞動替代等問題。三是內(nèi)容類的問題,是否會向用戶提供不安全的內(nèi)容。

他表示,大模型的風險問題沒有“靈丹妙藥”,必然是一個長期對抗和博弈發(fā)展的過程,“比如說現(xiàn)在安全行業(yè)內(nèi)的一個很直接的應用,我們也會用大模型來對抗更多大模型中的風險,這也會是一個‘用魔法打敗魔法’的方向。”

云天勵飛副總裁、AI技術平臺總經(jīng)理肖嶸則為生成式AI的發(fā)展總結(jié)了四個問題,分別是生成內(nèi)容存在“幻覺”的問題、工具使用和外部知識整合能力、邏輯推理能力和不具備持續(xù)學習能力的問題。

在安全問題上,肖嶸認為,大模型其實具備“價值觀”,它所認定的知識不一定就是事實,“解決這個問題其實有兩個路徑,第一個是它為什么會產(chǎn)生有錯的東西?可能它學的東西都是不對的……所以我們需要對語料有體系地治理,保證其安全、可控。第二個也是我們正在大力推動的,比如對模型輸出的治理。”

但他也強調(diào),AI是一種工具。“越強大的工具被用來作惡,可能影響也越大。”肖嶸說,“我認為,工具用得好不好,更多是人的問題。我們不應該因噎廢食,不是看到強大的工具就不去使用,而是更多地想想怎么把它有序化。”

本文系觀察者網(wǎng)獨家稿件,未經(jīng)授權,不得轉(zhuǎn)載。

贊助本站

人工智能實驗室
相關內(nèi)容
AiLab云推薦
推薦內(nèi)容
展開

熱門欄目HotCates

Copyright © 2010-2024 AiLab Team. 人工智能實驗室 版權所有    關于我們 | 聯(lián)系我們 | 廣告服務 | 公司動態(tài) | 免責聲明 | 隱私條款 | 工作機會 | 展會港