生成式 Al 熱潮催生“科技新貴”。
鈦媒體App 4月5日消息，福布斯日前公布2024年（第38屆）全球億萬富豪榜。
數(shù)據(jù)顯示，今年身價(jià)超10億美元的富豪人數(shù)共有2781位，創(chuàng)下歷史新高，較去年增長(zhǎng)141人；總資產(chǎn)也創(chuàng)下新高，達(dá)到14.2萬億美元，比去年增加2萬億美元。
其中，過去一年內(nèi)全球前十大富豪的財(cái)富增長(zhǎng)共計(jì)約5070億美元（約合3.62萬億元人民幣），其中大部分人的財(cái)富增長(zhǎng)都得益于市場(chǎng)對(duì)生成式 AI 的追捧，從而推動(dòng)公司股價(jià)大漲。另外，今年新增的億萬富豪中，有9位 AI 領(lǐng)域CEO身價(jià)超過200億美元，包括OpenAI CEO奧爾特曼（Sam Altman）等。
與此同時(shí)，OpenAI公司日前向部分測(cè)試開發(fā)者發(fā)送“紅隊(duì)網(wǎng)絡(luò)”專家邀請(qǐng)郵件，稱尋求外部社區(qū)成員支持以評(píng)估該公司前沿模型。有消息稱，最新GPT-5模型最快將于2024年6月對(duì)外公布。
另外，美國(guó)投資機(jī)構(gòu)Factorial Funds發(fā)表了一篇博文分析Sora技術(shù)細(xì)節(jié)。文章中表示，推理層面，考慮到硬件利用率和使用模式，Sora推理階段的計(jì)算峰值需求約為 72 萬塊英偉達(dá) H100 GPU計(jì)算卡。
OpenAI消息頻出：GPT-5或于今年6月發(fā)布？
北京時(shí)間4月5日凌晨，OpenAI宣布改善微調(diào)（fine-tuning）API，并進(jìn)一步擴(kuò)展定制（自定義）模型方案計(jì)劃。
OpenAI表示，新的技術(shù)中引入基于 Epoch 的 Checkpoint Creation，即在每次訓(xùn)練 epoch（將訓(xùn)練數(shù)據(jù)集中的所有樣本都過一遍（且僅過一遍）的訓(xùn)練過程）過程中，都自動(dòng)生成一個(gè)完整的微調(diào)模型檢查點(diǎn)，便于減少后續(xù)重新訓(xùn)練的需要。同時(shí)，新模型API還支持與第三方平臺(tái)的集成、新增Comparative Playground，增加更全面的驗(yàn)證指標(biāo)，添加Hyperparameter 配置，改善微調(diào)控制面板，以及擴(kuò)展定制模型等，讓開發(fā)人員能夠解決更多復(fù)雜的 AI 場(chǎng)景落地問題。
而同一時(shí)間，有消息指，GPT-5開啟了“紅隊(duì)網(wǎng)絡(luò)”（Red Teaming Network）專家內(nèi)測(cè)，部分開發(fā)者稱收到了OpenAI發(fā)送的邀請(qǐng)郵件。
有分析稱，由于此次紅隊(duì)測(cè)試會(huì)持續(xù)90-120天，因此推測(cè)GPT-5最快在今年6月發(fā)布。這與之前“今年夏天推出”這一傳聞時(shí)間點(diǎn)吻合。
截至目前，部分企業(yè)客戶已收到增強(qiáng)功能的演示。有網(wǎng)友稱，或許GPT-5會(huì)和Claude 3一樣，提供幾種不同的型號(hào)。同時(shí)，GPT-5“實(shí)質(zhì)性更好”，相比GPT-4進(jìn)行了重大升級(jí)。它需要更多的訓(xùn)練數(shù)據(jù)，而且GPT-5的潛在功能包括生成更逼真的文本、執(zhí)行翻譯和創(chuàng)意寫作等復(fù)雜任務(wù)、處理視頻輸入以及改進(jìn)推理。
Runway CEO Siqi Chen就表示，GPT-5已經(jīng)在推理方面取得了意想不到的階躍函數(shù)增益。
Sam Altman早前表示，GPT-5仍在訓(xùn)練中，沒有確切的發(fā)布日期，廣泛的安全測(cè)試可能還需數(shù)月。然而，他確認(rèn)OpenAI今年將「發(fā)布一個(gè)驚人的新模型」。
另外，OpenAI 首席運(yùn)營(yíng)官 Brad Lightcap日前對(duì)彭博社表示，對(duì)于ChatGPT企業(yè)版本情況，目前已有超過 60 萬人注冊(cè)并使用ChatGPT Enterprise，而今年1月份人數(shù)僅為15萬人。“今年將是企業(yè)采用 AI 的一年。我們剛剛看到巨大增長(zhǎng)勢(shì)頭。”
Brad Lightcap透露，OpenAI 目前擁有約1200名員工。該公司還計(jì)劃在東京開設(shè)辦事處。“我們的需求基礎(chǔ)非常全球化，所以我們希望向客戶展示我們就在客戶身邊。我們感受到日本、亞洲等地的巨大吸引力。”
早前The information還報(bào)道，為了訓(xùn)練GPT-6，Sam Altman與微軟合作耗資1150億美元打造“星際之門”超算，最新消息顯示其最快在2026年，就會(huì)在威斯康星州啟動(dòng)一個(gè)功率較小的數(shù)據(jù)中心。
Al 熱潮催生“科技新貴”，全球前10大富豪身價(jià)年內(nèi)增長(zhǎng)超3.6萬億元
近日，福布斯公布了最新2024全球億萬富豪榜。
數(shù)據(jù)顯示，今年全球億萬富豪的人數(shù)和財(cái)富總額都創(chuàng)下了歷史新高，今年全球身價(jià)超過10億美元的億萬富豪人數(shù)，達(dá)到2781人，比去年增加 141 人；總資產(chǎn)達(dá)到 14.2 萬億美元，比 2023 年增加 2 萬億美元。其中，三分之二的上榜成員身價(jià)超過一年前，而全球前20大富豪的財(cái)富年內(nèi)總計(jì)增加了 7000億美元。
榜單中，法國(guó)奢侈品大亨、LVMH集團(tuán)董事長(zhǎng)兼CEO伯納德阿爾諾，連續(xù)第二年成為世界首富，其個(gè)人財(cái)富較2023年增長(zhǎng)10%，至2330億美元；埃隆馬斯克本次仍排名第二，個(gè)人財(cái)富約為1,950億美元，該數(shù)字雖較去年增長(zhǎng)8%，但由于特斯拉股票價(jià)格下跌，這一數(shù)字遠(yuǎn)低于其此前高達(dá)3000億美元的個(gè)人財(cái)富最高值，馬斯克也是全球首位個(gè)人財(cái)富達(dá)到3,000億美元的富豪。
同時(shí)，AI 熱潮也催生了一眾“科技新貴”。
過去一年內(nèi)，全球有10個(gè)人的財(cái)富增長(zhǎng)加在一起達(dá)到約5070億美元，這10個(gè)人中有8位都是美國(guó)科技大亨，有6位與現(xiàn)在的美股科技七巨頭蘋果、微軟、Alphabet、亞馬遜、英偉達(dá)、特斯拉和Meta相關(guān)。而他們大部分的財(cái)富增長(zhǎng)，都得益于市場(chǎng)對(duì)于生成式AI技術(shù)的追捧，從而推動(dòng)公司股價(jià)上漲。
其中，Meta CEO 扎克伯格（Mark Zuckerberg）是過去一年世界上財(cái)富增長(zhǎng)最多的人。在大規(guī)模裁員以及大舉押注AI和“元宇宙”之后，過去一年Meta股價(jià)大漲，扎克伯格的凈資產(chǎn)也由此增長(zhǎng)1126億美元，目前身家達(dá)1770億美元，而他在福布斯富豪榜上的排位，也從去年的第16位，大幅上升到了今年的第4位。
不容忽視的就是英偉達(dá)CEO黃仁勛。受益于英偉達(dá)股價(jià)的飆升，今年他首次躋身全球前20大富豪之列，財(cái)富較去年增長(zhǎng)近560億美元。
另外，受益于 AI 龍頭微軟的股價(jià)上漲，微軟前首席執(zhí)行官、OpenAI最大投資者之一的史蒂夫鮑爾默（Steve Ballmer）身價(jià)年內(nèi)增長(zhǎng)了403億美元，最新身價(jià)達(dá)1210億美元。
此外，今年還有10多位 AI 領(lǐng)域的“科技新貴”身價(jià)突破10億美元，其中包括與英偉達(dá)有深度合作的超微電腦公司創(chuàng)始人、CEO梁見后（Charles Liang）及其妻子劉秋珠（Sara Liu）夫婦；還有AMD公司CEO蘇姿豐，她的個(gè)人凈資產(chǎn)竟達(dá)到12億美元。
除了 AI 領(lǐng)域，地區(qū)方面，目前美國(guó)擁有813名億萬富翁，總資產(chǎn)達(dá) 5.7 萬億美元，排名第一；中國(guó)內(nèi)地位居第二，共計(jì)有406位億萬富翁，身價(jià)總額達(dá)1.33萬億美元，比去年的1.67萬億美元有所下降。而包括中國(guó)香港在內(nèi)的億萬富豪則有473人，凈資產(chǎn)總額達(dá)1.7萬億美元。
其中，今年的中國(guó)首富依舊是飲品上市企業(yè)農(nóng)夫山泉?jiǎng)?chuàng)始人 鐘，資產(chǎn)凈值達(dá)623億美元；第二是字節(jié)跳動(dòng)創(chuàng)始人張一鳴（434億美元）；第三是拼多多創(chuàng)始人黃崢（389億美元）。
不過，國(guó)內(nèi)沒有專門與 AI 有關(guān)的公司億萬富豪上榜，與 AI 稍微有關(guān)系的包括張一鳴、丁磊、馬云、馬化騰、李彥宏、劉強(qiáng)東夫婦、寒武紀(jì)科技創(chuàng)始人陳天石等。
以下是今年福布斯億萬富豪榜中新增的前十大 AI 領(lǐng)域人士的信息，有7人來自美國(guó)：
1、Super Micro Computer創(chuàng)始人梁見后（Charles Liang）和劉秋珠夫婦，凈資產(chǎn)達(dá)61 億美元：1993年，梁與他人共同創(chuàng)立了超威電腦，該公司的服務(wù)器和存儲(chǔ)系統(tǒng)目前在 AI 和云計(jì)算公司中備受追捧。該公司 2023 財(cái)年的收入達(dá)到創(chuàng)紀(jì)錄的 70 億美元。過去 12 個(gè)月，該公司股價(jià)上漲超過 1,100%，甚至超過了英偉達(dá)、英特爾和 AMD等合作伙伴，而其妻子劉秋珠 Super Micro 的高級(jí)副總裁，也是一位新晉億萬富翁。
2、韓美半導(dǎo)體公司CEOKwak Dong Shin，財(cái)富達(dá)29億美元：韓美半導(dǎo)體是Kwak Dong Shin父親于 1980 年創(chuàng)立的，公司制造用于半導(dǎo)體封裝的設(shè)備這是芯片生產(chǎn)的最后階段之一。其主要客戶包括三星電子和 SK 海力士。得益于人工智能熱潮，韓美的業(yè)務(wù)蓬勃發(fā)展，過去一年股價(jià)上漲超過 560%。
3、日本M&A brokerage創(chuàng)始人兼CEOShunsaku Sagami，財(cái)富達(dá)19億美元：其為中小型企業(yè)的賣方尋找匹配的買方，利用AI找到潛在、面臨著卸任和賣出財(cái)產(chǎn)問題的買家公司。Sagami的公司2022年在東京交易所上市。
4、Notion聯(lián)合創(chuàng)始人兼CEO Ivan Zhao，凈資產(chǎn)15 億美元：2015年，他和聯(lián)合創(chuàng)始人 Simon Last 創(chuàng)立了Notion，隨后解雇了所有員工，轉(zhuǎn)租了舊金山的辦公室，搬到了日本京都。如今，已盈利的Notion正全力投入人工智能，其二級(jí)市場(chǎng)交易估值約為 50 億美元，預(yù)計(jì)營(yíng)收為 2.5 億美元。
5、Figure AI 機(jī)器人公司創(chuàng)始人Brett Adcock，財(cái)富14億美元：Adcock于2022年創(chuàng)立的Figure，致力于實(shí)現(xiàn)一個(gè)基于AI的“通用人形機(jī)器人”，并將機(jī)器人用于勞動(dòng)力市常2月，公司從亞馬遜、微軟、英偉達(dá)和OpenAI等投資者處籌集了6.75億美元，估值為26億美元。而37歲的Adcock擁有公司50%股份帶來的估值。
6、AMD董事長(zhǎng)兼CEO蘇姿豐（Lisa Su），財(cái)富13億美元：自蘇姿豐于 2014 年執(zhí)掌公司以來，他將AMD從困境中逃離，轉(zhuǎn)變?yōu)?AI 領(lǐng)域的“寵兒”，公司股價(jià)過去一年已飆升60多倍。她出生于中國(guó)臺(tái)灣，3 歲時(shí)移民到紐約，畢業(yè)于麻省理工學(xué)院電氣工程專業(yè)。
7、Cloudflare創(chuàng)始人兼公司COOMichelle Zatlyn，財(cái)富12億美元：加拿大籍的Zatlyn曾在蒙特利爾的麥吉爾大學(xué)學(xué)習(xí)化學(xué)，之后在Google和Toshiba工作。2009年，她與哈佛商學(xué)院同學(xué)Matthew Prince（也是億萬富翁）共同創(chuàng)立了Cloudflare，致力于使用AI保護(hù)其客戶，并攔截網(wǎng)絡(luò)攻擊，公司總部位于舊金山。由于Cloudflare過去一年股價(jià)上漲65%，擁有約2%公司股份的Zatlyn成為新晉億萬富豪。
8、OpenAI 聯(lián)合創(chuàng)始人兼CEOSamAltman，財(cái)富達(dá)10億美元：2022年ChatGPT的發(fā)布引發(fā)全球 AI 熱潮，公司估值超過800億美元。但Sam不持有公司股票，相反，38 歲的他的財(cái)富來源于他在 Y Combinator 孵化器的投資（2014 年至 2019 年），以及他在 Stripe、Reddit 和 Helion等個(gè)人投資項(xiàng)目。
9、美國(guó)知名投資人、Square Wave Ventures管理合伙人、英偉達(dá)創(chuàng)始董事會(huì)成員Harvey Jones，財(cái)富估值10億美元：他擁有英偉達(dá)的0.03%股份，于 1993 年加入 NVIDIA 董事會(huì)，足以使他成為AI驅(qū)動(dòng)、300%的股票暴漲的大贏家之一。
報(bào)告：Sora算力推理或需72萬塊英偉達(dá)GPU芯片
投資機(jī)構(gòu) factorial funds日前發(fā)表了一篇博文，深入探討了 Sora 背后的一些技術(shù)細(xì)節(jié)，并對(duì)這些視頻模型可能產(chǎn)生影響進(jìn)行了探討。
報(bào)告中提到，Sora 是一個(gè)建立在擴(kuò)散 Transformers（DiT）、潛在擴(kuò)散模型之上的擴(kuò)散模型，模型和訓(xùn)練數(shù)據(jù)集似乎都更大更多。同時(shí)，Sora 證明，擴(kuò)大視頻模型是有效的，與大語言模型類似，將多模態(tài)模型做得更大將是快速改進(jìn)模型的主要驅(qū)動(dòng)力。
關(guān)于算力，訓(xùn)練層面，Sora 需要大量的計(jì)算能力來訓(xùn)練，至少需要在 4200~10500 塊英偉達(dá) H100 GPU 上訓(xùn)練 1 個(gè)月；推理階段，估計(jì)每個(gè) H100 GPU 每小時(shí)最多可以生成約 5 分鐘的視頻。與語言模型相比，像 Sora 這樣基于擴(kuò)散的模型推理成本要高幾個(gè)數(shù)量級(jí)。
報(bào)告強(qiáng)調(diào)，隨著類 Sora 模型的廣泛部署，推理計(jì)算消耗將多于訓(xùn)練計(jì)算消耗�！钙胶恻c(diǎn)」估計(jì)為 1530 萬至 3810 萬分鐘的視頻生成，之后在推理上花費(fèi)的計(jì)算會(huì)比原始訓(xùn)練更多。作為參考，TikTok 每天上傳 1700 萬分鐘的視頻，YouTube 每天上傳 4300 萬分鐘的視頻。假設(shè) TikTok（所有視頻時(shí)長(zhǎng)的 50%）和 YouTube（全部視頻時(shí)長(zhǎng)的 15%）等流行平臺(tái)上大量采用人工智能做視頻生成，考慮到硬件利用率和使用模式，本文估計(jì)推理階段的計(jì)算峰值需求約為 72 萬塊 Nvidia H100 GPU。
“根據(jù) Sora 的計(jì)算需求推斷出了需要多少臺(tái) Nvidia H100 才能大規(guī)模運(yùn)行類似 Sora 的模型，這意味著 AI 生成的視頻已經(jīng)在 TikTok 和 YouTube 等流行視頻平臺(tái)上實(shí)現(xiàn)顯著的市場(chǎng)滲透。假設(shè)每臺(tái) Nvidia H100 每小時(shí)制作 5 分鐘視頻，換言之每臺(tái) H100 每天制作 120 分鐘視頻。TikTok 假設(shè)人工智能的滲透率為 50%，則每天的視頻時(shí)長(zhǎng)為 1700 萬分鐘（視頻總數(shù)為 3400 萬 × 平均時(shí)長(zhǎng)為 30s）；YouTube 每天 4300 萬分鐘視頻，假設(shè)人工智能的滲透率為 15%（大部分為 2 分鐘以下的視頻）。因此，AI每天制作的視頻總量：850 萬 + 650 萬 = 1070萬分鐘，支持 TikTok 和 YouTube 上的創(chuàng)作者社區(qū)所需的 Nvidia H100 總量：1,070 萬 / 120 ≈ 89000”，報(bào)告中提到。
Factorial Funds強(qiáng)調(diào)，Sora 在視頻生成的質(zhì)量和能力方面取得了重大進(jìn)展，但也有可能大大增加對(duì) GPU 推理計(jì)算的需求。
谷歌更新Transformer架構(gòu)，更節(jié)省計(jì)算資源！50%性能提升
近日，谷歌最新發(fā)布了Mixture-of-Depths（MoD），改變了以往Transformer計(jì)算模式。它通過動(dòng)態(tài)分配大模型中的計(jì)算資源，跳過一些不必要計(jì)算，顯著提高訓(xùn)練效率和推理速度。
結(jié)果顯示，在等效計(jì)算量和訓(xùn)練時(shí)間上，MoD每次向前傳播所需的計(jì)算量更小，而且后訓(xùn)練采樣過程中步進(jìn)速度提高50%。
這意味著，Transformer架構(gòu)得到更新，并且實(shí)現(xiàn)了全面提升。
據(jù)悉，這項(xiàng)研究由谷歌DeepMind和麥吉爾大學(xué)共同研發(fā)，主要貢獻(xiàn)者是David Raposo和Adam Santoro。他們二人都是DeepMind的研究科學(xué)家。此前共同帶來了神作《Relational inductive biases, deep learning, and graph networks》。這篇論文目前被引次數(shù)超過3500次，論文核心定義了Inductive bias（歸納偏置）概念。
CB Insights 100大 AI 企業(yè)榜單：只有兩家中國(guó)公司上榜
4月2日，研究機(jī)構(gòu)CB Insights公布全新的AI 100榜單，即2024年最有前途的人工智能初創(chuàng)公司。
今年AI 100上榜企業(yè)中，涵蓋從美國(guó)、法國(guó)到南非的16 個(gè)國(guó)家/地區(qū)的各大 AI 公司；覆蓋從基礎(chǔ)模型到人形機(jī)器人的30 多個(gè)類別的解決方案；其中68% 的上榜公司正構(gòu)建虛擬世界、自動(dòng)化工廠、大語言模型等；頭部客戶超600家。
從投融資來看，根據(jù)Crunchbase的數(shù)據(jù)，2023年，以 AI 為中心的初創(chuàng)公司籌集了近 500 億美元的資金，而這一年風(fēng)險(xiǎn)投資總體放緩。
CB Insights稱，自2020年以來（截至 2024 年 3 月 22 日），上榜的100家公司已融資數(shù)量超過240筆，總金額超過280億美元。
其中，OpenAI已籌集了超過 40% 的資金，金額為120億美元。同時(shí)，25% 的上榜公司籌集的資金不到 1000 萬美元，其中一些公司尚未籌集任何風(fēng)險(xiǎn)資金。另外，超過三分之二 (68%) 的上榜公司處于融資的早期階段（種子/天使和 A 輪），或尚未籌集外部股權(quán)。
而今年的AI 100榜單中，包括 19 家估值超過 10 億美元的獨(dú)角獸公司，包括兩家中國(guó) AI 公司李開復(fù)創(chuàng)立的零一萬物（01.AI），中國(guó)科學(xué)院院士鄂維南擔(dān)任董事及首席科學(xué)顧問的深勢(shì)科技等。另外，歐洲初創(chuàng)公司占榜單企業(yè)的19%，包括總部位于英國(guó)、法國(guó)和德國(guó)的 AI 公司。
Meta AI 圖像生成存在偏見問題，賈揚(yáng)清：今天的 AI 技術(shù)沒有那么智能
據(jù)The Verge報(bào)道，其作者日前發(fā)現(xiàn)，Meta 的 AI 圖像生成器工具無法想象亞洲男人和白人女人在一起的畫面，也就是亞洲人站在白人旁邊。
報(bào)道稱，這一現(xiàn)象是令人震驚的，但系統(tǒng)自動(dòng)返回的內(nèi)容也存在一些更微妙的偏差跡象。
例如，Meta AI 軟件始終將“亞洲女性”描述為東亞人，膚色淺，盡管印度是世界上人口最多的國(guó)家。即使在沒有提示的情況下，它也會(huì)添加特定文化的服裝。它產(chǎn)生了一些年長(zhǎng)的亞洲男性，但亞洲女性卻總是年輕。
截至發(fā)稿前，Meta沒有回應(yīng)此事。但報(bào)道稱，該事件意味著，AI 系統(tǒng)反映了其創(chuàng)建者、培訓(xùn)者及其使用的數(shù)據(jù)集的偏見。
消息公布后引發(fā)爭(zhēng)議。
原阿里巴巴副總裁、Lepton AI創(chuàng)始人兼CEO賈揚(yáng)清隨后回應(yīng)稱：坦率的事實(shí)是，今天的 AI 并沒有我們想象的那么智能。在某種程度上，它只是現(xiàn)實(shí)世界數(shù)據(jù)分布的一個(gè)被美化的函數(shù)近似器。
（本文首發(fā)鈦媒體App，作者｜林志佳）
