中新網(wǎng)上海9月7日電 (高志苗 王夢(mèng)瑤)“伏羲”說：9月1日上海不下雨。中國科學(xué)院院士、復(fù)旦大學(xué)副校長(zhǎng)張人禾7日在2023外灘大會(huì)上表示，20年來復(fù)旦大學(xué)首次舉辦戶外開學(xué)典禮背后有氣象大模型的“預(yù)測(cè)助力”。
他介紹，“伏羲”是復(fù)旦基于學(xué)校自有云上科研智算平臺(tái)訓(xùn)練出的氣象大模型，擁有45億參數(shù)，可以成功預(yù)報(bào)未來15天的全球天氣，每次預(yù)報(bào)耗時(shí)在3秒以內(nèi)。“‘伏羲’預(yù)報(bào)的9月1日天氣與當(dāng)天結(jié)果完全一致，不僅為師生帶來難忘的青春回憶，也是高校創(chuàng)造全新科研范式的一大體現(xiàn)。”
以“科技創(chuàng)造可持續(xù)未來”為主題的2023INCLUSION外灘大會(huì)7日在上海開幕。中新網(wǎng)記者高志苗攝
從ChatGPT到文心一言、盤古、曹植……2022年年底OpenAI發(fā)布的ChatGPT掀起了全球大模型浪潮。以“科技創(chuàng)造可持續(xù)未來”為主題的2023 INCLUSION外灘大會(huì)7日開幕。大模型成為大會(huì)關(guān)鍵詞的同時(shí)，大模型安全等“冷思考”也成為專家關(guān)注的重點(diǎn)。
美國科學(xué)院院士、美國工程院院士、英國皇家學(xué)會(huì)外籍院士邁克爾喬丹(Michael I.Jordan)表示，ChatGPT無法確定自己所寫內(nèi)容的正確性，因?yàn)樗夹g(shù)上是存在問題的，而這個(gè)問題它還沒有真正有效解決。在講到“不確定”時(shí)，人非常擅長(zhǎng)處理溝通以及應(yīng)對(duì)不確定信息，ChatGPT沒有辦法對(duì)不確定性進(jìn)行量化，要找到可能的方法去應(yīng)對(duì)這些挑戰(zhàn)。
美國科學(xué)院院士、美國工程院院士、英國皇家學(xué)會(huì)外籍院士邁克爾喬丹(MichaelI.Jordan)在外灘大會(huì)上演講。中新網(wǎng)記者高志苗攝
針對(duì)大模型的安全問題，中國科學(xué)院院士何積豐認(rèn)為，主要體現(xiàn)在未經(jīng)同意的情況下，收集、使用和泄露個(gè)人信息。隱私問題既可能發(fā)生在訓(xùn)練過程，也可能發(fā)生在使用過程中，大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護(hù)更加困難。
“為了應(yīng)對(duì)這些問題，我們需要大模型對(duì)齊技術(shù)。”何積豐說，“對(duì)齊”是指系統(tǒng)的目標(biāo)和人類價(jià)值觀一致，使其符合設(shè)計(jì)者的利益和預(yù)期，不會(huì)產(chǎn)生意外的有害后果。“如果把人工智能看作西游記里的孫悟空，‘對(duì)齊’就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會(huì)任意使用能力胡作非為。”
何積豐介紹，反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對(duì)齊的技術(shù)途徑，目前有兩種方式，一是通過人工反饋給模型不同的獎(jiǎng)勵(lì)信號(hào)，引導(dǎo)模型的高質(zhì)量輸出；另一種方式是事先給大模型提供明確的原則，系統(tǒng)自動(dòng)訓(xùn)練模型對(duì)所有生成的輸出結(jié)果提供初始排序。“這意味著，不僅智能系統(tǒng)需要向人類價(jià)值觀對(duì)齊，人類的訓(xùn)練方法也要向價(jià)值觀對(duì)齊。”
邁克爾喬丹強(qiáng)調(diào)，人工智能不會(huì)替代人，它只是一個(gè)新的工程系統(tǒng)。“科技是一個(gè)很好的工程系統(tǒng)，它應(yīng)該服務(wù)于每個(gè)人，應(yīng)該是公平、誠實(shí)、透明、穩(wěn)定的，這些特性是整個(gè)工程系統(tǒng)的特點(diǎn)，而不是系統(tǒng)當(dāng)中個(gè)體的特點(diǎn)。所以AI它是集體性的，是將我們團(tuán)結(jié)在一起的技術(shù)。”(完)
