【新智元導(dǎo)讀】剛剛，OpenAI發(fā)布首個AI視頻模型Sora，60秒的一鏡到底，神級效果生成。網(wǎng)友紛紛驚呼AI視頻要變天。
新智元報道
編輯：編輯部
卷瘋了卷瘋了，短短十幾小時內(nèi)，OpenAI和谷歌接連發(fā)布核彈級成果。
國內(nèi)還沒睡的人們，經(jīng)歷了過山車般的瘋狂一晚。
就在剛剛，OpenAI突然發(fā)布首款文生視頻模型Sora。簡單來說就是，AI視頻要變天了！
它不僅能夠根據(jù)文字指令創(chuàng)造出既逼真又充滿想象力的場景，而且生成長達(dá)1分鐘的超長視頻，還是一鏡到底那種。
Runway Gen 2、Pika等AI視頻工具，都還在突破幾秒內(nèi)的連貫性，而OpenAI，已經(jīng)達(dá)到了史詩級的紀(jì)錄。
60秒的一鏡到底，視頻中的女主角、背景人物，都達(dá)到了驚人的一致性，各種鏡頭隨意切換，人物都是保持了神一般的穩(wěn)定性。
Prompt: A stylish woman walks down a Tokyo street filled with warm glowing neon and animated city signage. She wears a black leather jacket, a long red dress, and black boots, and carries a black purse. She wears sunglasses and red lipstick. She walks confidently and casually. The street is damp and reflective, creating a mirror effect of the colorful lights. Many pedestrians walk about.
OpenAI究竟是怎么做到的？根據(jù)官網(wǎng)介紹，「通過一次性為模型提供多幀的預(yù)測，我們解決了一個具有挑戰(zhàn)性的問題�！�
顯然，這個王炸級技術(shù)有著革命般的意義，連Sam Altman都沉迷到不能自拔！
他不僅瘋狂發(fā)推安利，而且還親自下場為網(wǎng)友生成視頻：你們隨意來prompt，我一一輸出。
一位戴著尖頂帽，身披繡有白色星星的藍(lán)色長袍的巫師正在施法，他的一只手射出閃電，另一只手中拿著一本舊書。
在一間擁有電影級燈光設(shè)置的充滿托斯卡納鄉(xiāng)村風(fēng)情的廚房里，一位擅長利用社交媒體的奶奶，正在教你制作美味的自制諾奇面。
我們將帶你進(jìn)行一次未來城市的街頭巡覽，在這里，高科技與自然和諧共處，展現(xiàn)出一種獨(dú)特的賽博朋克風(fēng)格。
這座城市潔凈無瑕，到處可見的是先進(jìn)的未來式有軌電車、絢麗的噴泉、巨型的全息投影以及四處巡邏的機(jī)器人。
想象一下，一個來自未來的人類導(dǎo)游正帶領(lǐng)一群好奇的外星訪客，向他們展示人類極致創(chuàng)造力的結(jié)晶這座無與倫比、充滿魅力的未來城市。
多項(xiàng)技術(shù)破紀(jì)錄
借助于對語言的深刻理解，Sora能夠準(zhǔn)確地理解用戶指令中所表達(dá)的需求，把握這些元素在現(xiàn)實(shí)世界中的表現(xiàn)形式。
也因此，Sora創(chuàng)造出的角色，能夠表達(dá)豐富的情感！
它所制作出的復(fù)雜場景，不僅可以包括多個角色，還有特定的動作類型，以及對對象和背景的精確細(xì)節(jié)描繪。
看，下圖中人物的瞳孔、睫毛、皮膚紋理，都逼真到看不出一絲破綻，完全沒有AI味兒。
從此，視頻和現(xiàn)實(shí)究竟還有什么差別？！
Prompt: Extreme close up of a 24 year old woman’s eye blinking, standing in Marrakech during magic hour, cinematic film shot in 70mm, depth of field, vivid colors, cinematic
此外，Sora還能在同一視頻中設(shè)計出多個鏡頭，同時保持角色和視覺風(fēng)格的一致性。
要知道，以前的AI視頻，都單鏡頭生成的。
而這次OpenAI能在多角度的鏡頭切換中，就能實(shí)現(xiàn)對象的一致性，這不得不說是個奇跡！
這種級別的多鏡頭一致性，是Gen 2和Pika都完全無法企及的……
Prompt: A movie trailer featuring the adventures of the 30 year old space man wearing a red wool knitted motorcycle helmet, blue sky, salt desert, cinematic style, shot on 35mm film, vivid colors.
舉個例子：「雪后的東京熙熙攘攘。鏡頭穿過繁忙的街道，跟隨著幾位享受著美麗雪景和在附近攤位購物的人們。美麗的櫻花瓣伴隨著雪花在風(fēng)中飄舞�！�
Sora根據(jù)這個提示所呈現(xiàn)的，便是東京在冬日里夢幻的一幕。
無人機(jī)的鏡頭跟隨一對悠閑散步的情侶穿梭在街道上，左側(cè)是車輛在河岸路上行駛的聲音，右側(cè)是顧客在一排小店之間穿梭的景象。
Prompt: Beautiful, snowy Tokyo city is bustling. The camera moves through the bustling city street, following several people enjoying the beautiful snowy weather and shopping at nearby stalls. Gorgeous sakura petals are flying through the wind along with snowflakes.
可以說，Sora的效果已經(jīng)領(lǐng)先到了恐怖的級別，完全跳出了用冷兵器短兵相接的時代，其他AI視頻被徹底干趴。
世界模型成真了？？
最最最可怕的一點(diǎn)來了，Sora身上，竟已經(jīng)有了世界模型的雛形？
通過觀察大量數(shù)據(jù)，它竟然學(xué)會了許多關(guān)于世界的物理規(guī)律。
下面這個片段太令人印象深刻了：prompt中描繪了「一個短毛絨怪物跪在一支紅蠟燭旁的動畫場景」，同時描述了怪物的動作和視頻的氛圍。
隨后，Sora就創(chuàng)造了一個類似皮克斯作品的生物，它似乎融合了Furby、Gremlin和《怪獸公司》中Sully的DNA。
讓人震驚的是，Sora對于毛發(fā)紋理物理特性的理解，準(zhǔn)確得令人驚掉下巴！
想當(dāng)初，在《怪獸公司》上映時，皮克斯為了創(chuàng)造出怪物在移動時超級復(fù)雜的毛發(fā)紋理，可是費(fèi)了好大一番功夫，技術(shù)團(tuán)隊(duì)直接連肝幾個月。
而這一點(diǎn)，Sora輕而易舉地就實(shí)現(xiàn)了，而且從沒有人教過它！
「它學(xué)會了關(guān)于 3D 幾何形狀和一致性的知識，」項(xiàng)目的研究科學(xué)家Tim Brooks表示。
「這并非我們預(yù)先設(shè)定的它完全是通過觀察大量數(shù)據(jù)自然而然地學(xué)會的�！�
Prompt: Animated scene features a close-up of a short fluffy monster kneeling beside a melting red candle. The art style is 3D and realistic, with a focus on lighting and texture. The mood of the painting is one of wonder and curiosity, as the monster gazes at the flame with wide eyes and open mouth. Its pose and expression convey a sense of innocence and playfulness, as if it is exploring the world around it for the first time. The use of warm colors and dramatic lighting further enhances the cozy atmosphere of the image.
得益于DALLE 3所使用的擴(kuò)散模型，以及GPT-4的Transformer引擎，Sora不僅能夠生成滿足特定要求的視頻，而且能夠展示出對電影拍攝語法的自發(fā)理解。
這種能力體現(xiàn)在它對講故事的獨(dú)特才能上。
例如，在一個以「色彩繽紛的魚類和海洋生物充斥的，由紙藝精心構(gòu)建的珊瑚礁世界」為主題的視頻中，項(xiàng)目研究員Bill Peebles指出，Sora通過其攝影角度和拍攝時機(jī)，成功地推進(jìn)了故事的發(fā)展。
「視頻中實(shí)際上發(fā)生了多次鏡頭轉(zhuǎn)換這些鏡頭并非后期拼接而成，而是模型一氣呵成地生成的，」他解釋道�！肝覀儾]有特別指令它這么做，它卻能自動完成�！�
Prompt: A gorgeously rendered papercraft world of a coral reef, rife with colorful fish and sea creatures.
不過，當(dāng)前的模型并不完美。它在模擬復(fù)雜場景的物理效果上可能會遇到難題，有時也難以準(zhǔn)確理解特定情境下的因果關(guān)系。比如，某人吃掉餅干的一部分后，餅干可能看起來仍然完整無損。
此外，模型在處理空間細(xì)節(jié)，如區(qū)分左右時可能會出錯，也可能在描述隨時間變化的事件，如特定的攝影機(jī)動作軌跡時，表現(xiàn)不夠精確。
好在，它還并不完美。
否則，虛擬和現(xiàn)實(shí)的界限，還能區(qū)分得清嗎？
這不是現(xiàn)實(shí)？
但是無可否認(rèn)的是，可怕的事實(shí)已經(jīng)就在面前：一個已經(jīng)能夠理解和模擬現(xiàn)實(shí)世界的模型，也就意味著AGI已經(jīng)不遠(yuǎn)了。
「唯一真正的視頻生成工作」
業(yè)內(nèi)大佬張啟煊評價道，「Sora是我目前看到唯一跳脫出空鏡頭生成、真正的視頻生成工作。」
在他看來，目前看來Sora跟Pika、Runway是有代差的，視頻生成領(lǐng)域終于被OpenAI支配。或許某天3D視頻領(lǐng)域，有朝一日也能體會到這種恐懼。
網(wǎng)友們都被震驚到失語：「下一個十年會是瘋狂的十年。」
「都結(jié)束了，我的飯碗要丟了�！�
「整個素材行業(yè)都會隨著這篇成果的發(fā)布而消亡……」
OpenAI就是沒法停下干死初創(chuàng)公司的腳步，是嗎？
「好萊塢即將發(fā)生核爆」。
AI電影制作人和他們目前的項(xiàng)目。
技術(shù)介紹
Sora是一種擴(kuò)散模型，它能夠通過從一開始看似靜態(tài)噪聲的視頻出發(fā)，經(jīng)過多步驟的噪聲去除過程，逐漸生成視頻。
Sora不僅能夠一次性生成完整的視頻，還能延長已生成的視頻。
通過讓模型能夠預(yù)見多幀內(nèi)容，團(tuán)隊(duì)成功克服了確保視頻中的主體即便暫時消失也能保持一致性的難題。
與GPT模型類似，Sora采用了Transformer架構(gòu)，從而實(shí)現(xiàn)了卓越的性能擴(kuò)展。
OpenAI把視頻和圖像分解為較小的數(shù)據(jù)單元「patches」，每個「patches」相當(dāng)于GPT中的一個「token」。
這種統(tǒng)一的數(shù)據(jù)表示方法能夠在更廣泛的視覺數(shù)據(jù)上訓(xùn)練擴(kuò)散Transformer，覆蓋了不同的持續(xù)時間、分辨率和縱橫比。
Sora基于DALLE和GPT模型的研究成果，采用了DALLE 3的重標(biāo)注技術(shù)，通過為視覺訓(xùn)練數(shù)據(jù)生成詳細(xì)描述的標(biāo)題，使模型更加準(zhǔn)確地遵循用戶的文本指令生成視頻。
除了能根據(jù)文本指令生成視頻外，這款模型還能將現(xiàn)有的靜態(tài)圖像轉(zhuǎn)化成視頻，精確細(xì)致地賦予圖像中內(nèi)容以生動的動畫。模型還能擴(kuò)展現(xiàn)有視頻或補(bǔ)全缺失的鄭
Sora為理解和模擬現(xiàn)實(shí)世界的模型奠定了基礎(chǔ)，對此OpenAI認(rèn)為這是實(shí)現(xiàn)通用人工智能（AGI）的重要步驟。
作品欣賞
一列火車穿越東京郊區(qū)時，窗戶上反射出的迷人景象。
Prompt: Reflections in the window of a train traveling through the Tokyo suburbs.
在雪地草原上，幾只巨大的羊毛猛犸象緩緩前行，它們長長的毛皮在微風(fēng)中輕輕飄揚(yáng)。遠(yuǎn)處是雪覆蓋的樹木和雄偉的雪山，午后的陽光穿透薄云，給這個場景增添了一抹溫暖的光彩。低角度的拍攝令這些龐大的毛茸茸動物顯得尤為壯觀，景深效果引人入勝。
Prompt: Several giant wooly mammoths approach treading through a snowy meadow, their long wooly fur lightly blows in the wind as they walk, snow covered trees and dramatic snow capped mountains in the distance, mid afternoon light with wispy clouds and a sun high in the distance creates a warm glow, the low camera view is stunning capturing the large furry mammal with beautiful photography, depth of field.
無人機(jī)從空中俯瞰大蘇爾加雷角海灘附近的崎嶇懸崖，海浪沖擊著巖石，形成白色的浪尖，落日的金色光輝照亮了巖石海岸。遠(yuǎn)處有一個小島上立著燈塔，懸崖邊緣覆蓋著綠色植被。從道路到海灘的陡峭下降和懸崖邊緣凸出的景象，展現(xiàn)了海岸的原始美麗和太平洋海岸公路的崎嶇風(fēng)景。
Prompt: Drone view of waves crashing against the rugged cliffs along Big Sur’s garay point beach. The crashing blue waters create white-tipped waves, while the golden light of the setting sun illuminates the rocky shore. A small island with a lighthouse sits in the distance, and green shrubbery covers the cliff’s edge. The steep drop from the road down to the beach is a dramatic feat, with the cliff’s edges jutting out over the sea. This is a view that captures the raw beauty of the coast and the rugged landscape of the Pacific Coast Highway.
藍(lán)色時刻下的圣托里尼島航拍視圖，展現(xiàn)了白色基克拉迪建筑和藍(lán)色圓頂?shù)慕^美建筑。火山口的景色令人嘆為觀止，燈光營造出一種美麗而寧靜的氛圍。
Prompt: Aerial view of Santorini during the blue hour, showcasing the stunning architecture of white Cycladic buildings with blue domes. The caldera views are breathtaking, and the lighting creates a beautiful, serene atmosphere.
一位20多歲的年輕人坐在天空中的一朵云上，沉浸在書本中。
Prompt: A young man at his 20s is sitting on a piece of cloud in the sky, reading a book.
一群活潑的金毛尋回犬小狗在銀白色的雪地上嬉戲，它們好奇的小腦袋時而從雪地中探出，被雪花點(diǎn)綴，萌態(tài)十足。
Prompt: A litter of golden retriever puppies playing in the snow. Their heads pop out of the snow, covered in.
在意大利布拉諾一排排鮮艷的彩色建筑中，一只可愛的斑點(diǎn)狗正通過窗戶好奇地望向外面。與此同時，街道上人來人往，有的步行，有的騎行。
Prompt: The camera directly faces colorful buildings in burano italy. An adorable dalmation looks through a window on a building on the ground floor. Many people are walking and cycling along the canal streets in front of the buildings.
一幅充滿工人、設(shè)備和重型機(jī)械的建筑工地的移軸攝影。
Prompt: Tiltshift of a construction site filled with workers, equipment, and heavy machinery.
在一個培養(yǎng)皿中，生長著一片竹林，其中小熊貓們在歡快地奔跑。
Prompt: A petri dish with a bamboo forest growing within it that has tiny red pandas running around.
一只卡通袋鼠正在迪斯科舞池中跳舞。
Prompt: A cartoon kangaroo disco dances.
在一杯咖啡中，兩艘海盜船展開了激烈的戰(zhàn)斗，超寫實(shí)的近景視頻。
Prompt: Photorealistic closeup video of two pirate ships battling each other as they sail inside a cup of coffee.
大佬猜測：游戲引擎加持？
Pytorch聯(lián)合創(chuàng)始人Soumith Chintala猜測道，「根據(jù)Sam Altman發(fā)布的所有用戶請求視頻，Sora似乎是由游戲引擎提供支持，并為游戲引擎生成作品和參數(shù)」。
英偉達(dá)高級科學(xué)家Jim Fan對全新Sora模型，發(fā)表了一些自己的觀點(diǎn)：
Sora是一個數(shù)據(jù)驅(qū)動的物理引擎。它是對許多世界的模擬，無論是真實(shí)的，還是虛構(gòu)的。該模擬器通過去噪和梯度學(xué)習(xí)方式，學(xué)習(xí)了復(fù)雜的渲染、「直觀的」物理、長期推理和語義理解。
如果Sora使用虛幻引擎5接受過大量合成數(shù)據(jù)的訓(xùn)練，我不會感到驚訝的。必須如此！
同樣，愛丁堡大學(xué)的博士生Yao Fu表示，「生成式模型學(xué)習(xí)生成數(shù)據(jù)的算法，而不是記住數(shù)據(jù)本身。就像語言模型編碼生成語言的算法（在你的大腦中）一樣，視頻模型編碼生成視頻流的物理引擎。語言模型可以視為近似人腦，而視頻模型近似物理世界」。
重塑視頻行業(yè)
雖然，文本轉(zhuǎn)視頻技術(shù)要威脅到傳統(tǒng)電影制作，可能還需要很長時間
你無法通過簡單地將120個Sora生成的一分鐘視頻拼接起來制作出連貫的電影，因?yàn)檫@些模型無法確保內(nèi)容的連續(xù)性。
但是，這并不妨礙Sora和類似的程序徹底改變TikTok等社交平臺。
「制作一部專業(yè)電影需要大量的昂貴設(shè)備�！筆eebles 說，「這個模型將讓普通人在社交媒體上制作出高質(zhì)量的視頻內(nèi)容成為可能�！�
參考資料：
https://twitter.com/OpenAI/status/1758192957386342435
https://openai.com/sora
