在面子上，大模型仍然很光鮮。越來越多的報告吹捧它。
麥肯錫估算說，現(xiàn)在60%到70%的工作可以被自動化，這比幾個月前埃森哲說目前40%的工作時間受影響還驚人。麥肯錫還預(yù)測，生成式人工智能誕生后，AI讓人類下崗的時間被大幅提前了10年。紅杉資本則說，幾乎所有公司都在產(chǎn)品中用到了語言模型。
在里子上，大模型可能正在“跨越鴻溝”，至少在美國如此。
ChatGPT的訪問量增速已經(jīng)放緩。從1月的環(huán)比增長130%，到2月與3月的60%左右，再到4月接近跌破10%，最新的數(shù)據(jù)則顯示，5月僅增長了3%。ChatGPT也沒有成為超級入口，它的用戶平均訪問時間從8分32秒下降到7分48秒。
“它的插件目前沒有產(chǎn)品與市場的契合度（Product/Marketing Fit）”，OpenAI的CEO奧特曼在上個月的訪談中，說得太透明了，紀(jì)要很快從網(wǎng)上被刪除，“許多人認(rèn)為希望自己的應(yīng)用程序在ChatGPT中，但它們真正想要的其實是他們的應(yīng)用中可以使用ChatGPT。”
這或許是為什么本周傳出消息，OpenAI決定推出AI模型的交易市場，把創(chuàng)新與發(fā)展交還給市常
ChatGPT不能代表GPT的未來。它很大程度上是OpenAI與微軟拿出來，向市場炫技，讓早期接受者興奮，讓守成者谷歌緊張的展示品�；蛟SGPT也不一定就是AGI的未來，至少Meta首席人工智能科學(xué)家楊立昆（Yann LeCun）認(rèn)為它已進入了死胡同。
人工智能要影響經(jīng)濟，還需要很多年。監(jiān)管是一道墻。奧特曼一直在游說全球政府，卻對一些監(jiān)管細(xì)節(jié)語焉不詳。斯坦福大學(xué)套用歐盟的人工智能法案草案，發(fā)現(xiàn)OpenAI和它的同行們都不及格。
“幻覺”也是。正因為如此，很多人對于在產(chǎn)品和工作流程中使用它持謹(jǐn)慎態(tài)度。目前來看，除了少數(shù)行業(yè)，大模型與具體業(yè)務(wù)流程的對接與價值創(chuàng)造會相當(dāng)漫長。
有人從內(nèi)存上做文章，即上下文窗口（context windows）和檢索（retrieval）能力。前者指“喂”給模型讓它處理并從中輸出獲得信息的文本；后者指從模型訓(xùn)練數(shù)據(jù)的語料庫之外的數(shù)據(jù)體中，檢索和參考的相關(guān)信息和文檔。它們反映了大模型的“記憶能力”。
簡單拓展上下文窗口，有效，但過于粗放，它帶來了推理成本的線性增長�？駸岬脑缙诮邮照呖梢圆豢紤]成本，但早期大眾不行，它們每個月都盯著自己的財報。而且，內(nèi)存墻也會遭遇上限。
還有多模態(tài)的進展。紅杉資本將此表述為“語言模型應(yīng)用將變得越來越多模態(tài)”。言下之意，現(xiàn)在的大模型，需要超越語言模型。物理世界更為多姿多彩。從長遠來看，多模態(tài)通過機器人等能與物理世界交互的實體，真正生產(chǎn)與生活之中落地。
問題還有很多，但美國處于領(lǐng)先地位，而且監(jiān)管強度幾乎全球主要經(jīng)濟體中最弱，我們相信它最終能摸著石頭跨越鴻溝。
懸念在于，它要花多少時間，比其他國家領(lǐng)先多少。連最接近它的奧特曼也不知道。最近，他在接受《時代周刊》采訪時說，“我們還需要很多年，我不知道需要多少年，但至少需要很多年。”
中國還沒有走到這道鴻溝面前。
ChatGPT是歷史上用戶增速最快的應(yīng)用。它面向普通消費者，一下子就吸引了早期接收者。中國沒有同等量級的消費級產(chǎn)品，低一個量級也沒有。連最被寄予厚望的騰訊，本周也只是拿出了行業(yè)大模型。
很多美國企業(yè)調(diào)用了OpenAI的API，至少推出試水產(chǎn)品的時候如此，或許會逐步轉(zhuǎn)向微調(diào)或自研。中國很多企業(yè)都聲稱自研大模型，以此賦能業(yè)務(wù)，或提供給市常愿意公開名字的知名合作伙伴快不夠用了。
中國擁有龐大的產(chǎn)業(yè)應(yīng)用場景。理論上，自研建立壁壘，擁有更可靠的未來。但自研相對較慢，距離鴻溝也就更遠。而且，通過企業(yè)客戶去影響更廣大的市場，流程更為復(fù)雜，也更為間接，大模型的實際性能，對經(jīng)濟的真實滲透，也就更難被透明地觀察到。
在互聯(lián)網(wǎng)誕生至今，中國反超美國，打到美國本土去的Temu（拼多多海外版） 、 CapCut （剪影海外版）、 TikTok（抖音海外版）、Shein（購物應(yīng)用），無一例外，都是面向消費者的應(yīng)用或工具。它們很大程度上是中國市場上殘酷的自由競爭的勝者，顛覆了封閉與遲鈍的美國電商巨頭與社交巨頭。
本周，還有這些發(fā)生在AI領(lǐng)域的事件值得關(guān)注：
一、風(fēng)險、監(jiān)管與倫理
深度合成服務(wù)算法備案清單發(fā)布。在國家網(wǎng)信辦發(fā)布的這份清單中, 百度、阿里、騰訊、抖音、科大訊飛等企業(yè)的41個算法入選，這也是國內(nèi)首批公開的算法備案清單。其中，涉及的大模型及相關(guān)應(yīng)用有百度文生圖內(nèi)容生成算法、智譜ChatGLM生成算法、訊飛星火認(rèn)知大模型算法、網(wǎng)易易次元生成合成算法等。
美國將成立生成式AI公共工作組。它將由美國國家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）牽頭，在人工智能風(fēng)險管理框架（RMF）的基礎(chǔ)上，探索生成式AI的監(jiān)管、測試、評估，以及解決社會問題的可能性。該工作組將吸收來自私營和公共部門的技術(shù)專家志愿者。英國則任命了科技創(chuàng)業(yè)者伊恩霍加斯（Ian Hogarth），領(lǐng)導(dǎo)新的特別工作組，研究人工智能帶來的安全風(fēng)險。
AI模型或不符合歐盟規(guī)則草案。斯坦福大學(xué)根據(jù)歐盟對有關(guān)數(shù)據(jù)源披露、版權(quán)保護、能源消耗等要求，評估了10個AI模型，每個模型在許多關(guān)鍵領(lǐng)域都表現(xiàn)不佳。ChatGPT和PaLM 2等封閉模型，數(shù)據(jù)缺乏透明度；開源模型更透明但更難控制。Anthropic排名墊底，法國政府資助的開源大模型BLOOM排名最高。
新加坡暫不打算監(jiān)管AI。新加坡政府稱會努力促進負(fù)責(zé)任地使用AI，并呼吁公司合作開發(fā)世界首個AI測試工具包AI Verify，對模型進行技術(shù)測試并記錄過程檢查。該試點項目于2022年啟動，IBM與新加坡航空已選擇加入。
二、中美科技巨頭
騰訊正式公布行業(yè)大模型。騰訊并沒有公布一個基礎(chǔ)的通用大模型，它的MaaS 的技術(shù)底座是一系列的行業(yè)大模型，包括金融、政府、文旅、傳媒、教育等10 大行業(yè)，有點類似于華為的悟道。基于這些基礎(chǔ)模型，騰訊云的客戶只要加入自己的場景數(shù)據(jù)，就可以生成契合自身業(yè)務(wù)需要的“專屬模型”。此外，騰訊已有的 SaaS 產(chǎn)品進行智能化升級。
此外，京東透露將在7月13日發(fā)布大模型。螞蟻集團也確認(rèn)正在研發(fā)大模型“貞儀”。
阿里巴巴再調(diào)整，張勇專職云智能。研發(fā)大模型的阿里達摩院，目前仍屬于云智能集團，要為從阿里分拆出去的兄弟集團及其他市場主體，提供大模型服務(wù)；數(shù)據(jù)與算力正在成為新的公共資源，需要國家統(tǒng)籌，阿里云也不例外。阿里云智能集團的完全分拆，已經(jīng)啟動，歡迎張勇進入大模型朋友圈。
谷歌推出電子表格生成式AI功能。該功能僅向Workspace Labs用戶開放。用戶只需描述想要完成的任務(wù)，Sheets就會生成自定義模板。
亞馬遜擬設(shè)立生成式AI創(chuàng)新中心。AWS計劃投資1億美元，為客戶提供AI和專家，幫助來自醫(yī)療、金融、制造等行業(yè)的客戶，構(gòu)建定制應(yīng)用，開發(fā)和部署AI產(chǎn)品。Twilio、Ryanair和Lonely Planets是其早期用戶。
OpenA打造AI模型應(yīng)用商店。客戶可以在這個市場上，將他們根據(jù)自己的需求定制的AI模型，出售給其他企業(yè)。目前尚不清楚OpenAI是否會收取傭金，或以其他方式尋求收入。
三、大模型和行業(yè)應(yīng)用
獨角獸Inflection AI新發(fā)基礎(chǔ)大模型。它被稱為Inflection-1，在數(shù)千個H100 上訓(xùn)練，性能或超GPT-3.5。在沒有經(jīng)過任何微調(diào)或?qū)R的情況下，它出色地完成了多項任務(wù)測試。他們計劃發(fā)布更大型號的模型，能與GPT-4相媲美。
獨角獸Stability AI宣布推出SDXL 0.9。它基于兩個模型，一個35億參數(shù)，一個66億參數(shù)模型，通過運行兩個模型并聚合結(jié)果，創(chuàng)建最終輸出。它在圖像和構(gòu)圖細(xì)節(jié)上都大大改進，且可在消費級GPU上運行。它可以實現(xiàn)圖像到圖像提示（使用一張圖像獲取其變體），或修復(fù)現(xiàn)有圖像（重建圖像的缺失部分，或創(chuàng)建無縫擴展）。
IBM和Adobe共同打造生成式AI內(nèi)容供應(yīng)鏈。Adobe的AI內(nèi)容供應(yīng)鏈和IBM的咨詢服務(wù)相結(jié)合，為客戶構(gòu)建集成的內(nèi)容供應(yīng)鏈。目前Adobe Firefly專注于生成圖像和文本，Sensei GenAI服務(wù)用于簡化營銷工作流程。
此外，閱文集團成立智能與平臺研發(fā)事業(yè)部，負(fù)責(zé)研發(fā)AI大模型等核心技術(shù)，并將AIGC賦能內(nèi)容創(chuàng)作生態(tài)。華策集團宣布成立AIGC應(yīng)用研究院，并設(shè)立AIGC專項基金，首期規(guī)模為5億元，,關(guān)注基于影視行業(yè)的垂類大模型公司、影視行業(yè)AI應(yīng)用企業(yè)、影視AI技術(shù)平臺和團隊。拓爾思稱，旗下拓天大模型已經(jīng)在媒體、政務(wù)、金融等行業(yè)率先落地應(yīng)用。漢王科技稱，擬在今年年底推出生成式算法模型。
四、資金流向
Synthesi獲得C輪融資了9000萬美元。這家AI視頻生成平臺的估達到了10億美元。該公司開發(fā)的軟件可以讓人們制作自己的數(shù)字化身，使用120多種不同的語言，發(fā)表企業(yè)演講、培訓(xùn)視頻。它們希望把制作視頻的成本，降低到制作幻燈片一樣。迄今為止，用戶在該平臺上制作了超過1200萬段視頻。
Captions獲得B輪融資2500萬美元。至此，這家2021年成立的美國AI視頻編輯企業(yè)，已累計融資達4000萬美元，估值2.5億美元。它擁有約10萬名日活躍用戶，每月創(chuàng)建約100萬個視頻。
ElevenLabs獲得A輪融資1900萬美元。這家AI語音生成平臺融資后估值為9900萬美元。它的語音技術(shù)主要應(yīng)用于無障礙市嘗有聲書創(chuàng)建和游戲角色配音等領(lǐng)域，利用生成式AI技術(shù)，復(fù)制他人的聲音或創(chuàng)造全新的合成聲音。全球已有超過100萬用戶使用它提供的服務(wù)，生成總長度逾10年的語音內(nèi)容。
兩位美國大佬創(chuàng)業(yè)3個月，估值1億美元。年初，谷歌副總裁克萊巴沃爾（Clay Bavor）離職，與Salesforce前聯(lián)合首席執(zhí)行官布雷特泰勒（Bret Taylor) ，共同創(chuàng)建專注于人工智能的初創(chuàng)公司。目前，Benchmark與紅杉資本已經(jīng)投資了2000萬美元，估值1億美元。其他細(xì)節(jié)未知。
生數(shù)科技成立3個月，天使輪估值1億美元。多模態(tài)大模型初創(chuàng)企業(yè)生數(shù)，今年3月成立，核心成員主要來自清華大學(xué)人工智能學(xué)院，是國內(nèi)最早布局多模態(tài)通用大模型的團隊之一。此次近億級天使輪融資，由螞蟻集團領(lǐng)投。前瑞萊智慧副總唐家渝出任首席執(zhí)行官。
五、基礎(chǔ)設(shè)施
思科推出新AI網(wǎng)絡(luò)芯片。新一代以太網(wǎng)交換機G200和G202搭載了新芯片，其性能是上一代產(chǎn)品的兩倍，最多可連接32000個GPU。它們延遲時間更短，能效能高。6大主要云計算提供商中，已有5家已在測試該系列產(chǎn)品。此前，博通也曾推出同類網(wǎng)絡(luò)芯片Jericho3-AI。
六、開源生態(tài)
“小羊駝”背后的vLLM開源。vLLM是一個開源的大語言模型推理和服務(wù)引擎。最受歡迎的語言模型，如Vicuna、Koala和LLaMA，都使用了集成了vLLM的服務(wù)。它的吞吐量比最流行的大模型庫 HuggingFace Transformers （HF）高 24倍 。它的新的注意力算法PageAttention，使得并行采樣和集束搜索等復(fù)雜采樣算法的內(nèi)存使用量降低了 55%。
ChatGLM2-6B 發(fā)布。這是頗受歡迎的開源中英雙語對話模型ChatGLM的第二代版本。性能大幅提升，8-32k上下文，推理提速42%。在主要評估大語言模型中文能力的 C-Eval 榜單中，截至6月25日 ChatGLM2 模型以 71.1 的分?jǐn)?shù)位居 Rank 0 ，ChatGLM2-6B 模型以 51.7 的分?jǐn)?shù)位居 Rank 6，是榜單上排名最高的開源模型。ChatGLM2-6B 權(quán)重對學(xué)術(shù)研究完全開放，在獲得官方的書面許可后，亦允許商業(yè)使用。
七、論文
谷歌DeepMind公布新智能體RoboCat。它的學(xué)習(xí)速度比其他模型快得多，只需100次演示即可解決任務(wù)，并從自生成的數(shù)據(jù)中進行改進。這種能力將有助于加速機器人研究，因為它減少了對人類監(jiān)督訓(xùn)練的需求，是創(chuàng)造通用機器人的重要一步。谷歌此前探索了如何開發(fā)能夠大規(guī)模學(xué)習(xí)多任務(wù)的機器人，并將對語言模型的理解與輔助機器人的現(xiàn)實世界能力相結(jié)合。RoboCat是第一個解決和適應(yīng)多重任務(wù)的智能體。它學(xué)習(xí)的新任務(wù)越多，就越擅長學(xué)習(xí)額外的新任務(wù)。（RoboCat: A self-improving robotic agent）
優(yōu)化器LOMO將內(nèi)存使用降至10%。復(fù)旦大學(xué)團隊試圖解決有限資源條件下大模型全參數(shù)微調(diào)的難題。通過將LOMO與現(xiàn)有的內(nèi)存節(jié)省技術(shù)集成，與標(biāo)準(zhǔn)方法（DeepSpeed 解決方案）相比，新方法將內(nèi)存使用量減少到了之前的10.8%。（Full Parameter Fine-tuning for Large Language Models with Limited Resources）
八、其他
美國生成式AI崗位需求逆勢增加。就業(yè)門戶Indeed數(shù)據(jù)顯示，5月，美國生成式AI相關(guān)職位數(shù)量環(huán)比增加20%；每百萬個崗位中，有204個與生成式AI相關(guān)，已經(jīng)是2021年初的兩倍多。與此相對，總體上，美國的科技崗位比去年6月減少了43.6%。
廣東質(zhì)量強省建支持人工智能。新近引發(fā)的《廣東省質(zhì)量強省建設(shè)綱要》提出，要培育發(fā)展一批引領(lǐng)性強的戰(zhàn)略性產(chǎn)業(yè)集群，支持人工智能、區(qū)塊鏈、量子信息、生命健康、生物育種等前沿領(lǐng)域加強研發(fā)布局。
