其實(shí)一個(gè)人是不可能“完整”參加智源大會(huì)的，因?yàn)樗鼉商鞎?huì)期從早到晚都安排了幾乎在同時(shí)進(jìn)行的諸多議程。不包括開(kāi)幕式和線上的特邀報(bào)告，僅大的分論壇就有13個(gè)之多，不僅涵蓋了目前最火熱的大模型領(lǐng)域，智源堅(jiān)持的開(kāi)源理念，以及始終強(qiáng)調(diào)的具身智能和類(lèi)腦智能并行路線也都被囊括其中。下面是品玩篩選的其中最值得關(guān)注的觀點(diǎn)和金句，以及我們的評(píng)論分析。
Yann LeCun楊立昆
How is it that we have systems that are fluent, that can pass the law exams or medical exams, but we don't have domestic robots that can clear up the dinner table and fill up the dishwasher, right? This is something that any 10-year-old can learn in minutes, and we still don't have machines that can come anywhere close to doing this. So we're obviously missing something extremely major.
為什么我們有流暢的系統(tǒng)可以通過(guò)法律或醫(yī)學(xué)考試，但沒(méi)有可以清理餐桌和裝滿(mǎn)洗碗機(jī)的家用機(jī)器人？ 這是任何 10 歲孩子都可以在幾分鐘內(nèi)學(xué)會(huì)的東西，而我們?nèi)匀粵](méi)有可以接近做到這一點(diǎn)的機(jī)器。我們顯然遺漏了一些非常重要的東西。
楊立昆是深度學(xué)習(xí)三巨頭之一，也是Meta首席AI科學(xué)家，相對(duì)于同儕，楊立昆對(duì)AI的發(fā)展態(tài)度堪稱(chēng)樂(lè)觀，但這種樂(lè)觀是基于他對(duì)目前主流路線的否定楊立昆認(rèn)為自監(jiān)督的語(yǔ)言模型沒(méi)有辦法習(xí)得真實(shí)世界的知識(shí)，而隨著模型規(guī)模的擴(kuò)大，出現(xiàn)謬誤（也就是機(jī)器幻覺(jué)）的幾率也會(huì)越來(lái)越高。
楊立昆的演講發(fā)生在智源大會(huì)開(kāi)幕式，彼時(shí)他人正在法國(guó)，而時(shí)間是凌晨4點(diǎn)。楊立昆在演講中宣稱(chēng)，如果想要讓機(jī)器擁有更高級(jí)別的人工智能，那么它應(yīng)該學(xué)習(xí)人類(lèi)認(rèn)識(shí)世界的方式學(xué)習(xí)推理、學(xué)習(xí)將復(fù)雜任務(wù)分解成簡(jiǎn)單任務(wù)。
將上述的理念和成本的因素考慮進(jìn)去后，楊立昆提出所謂“世界模型”，盡管尚無(wú)具體的實(shí)現(xiàn)步驟，但楊立昆認(rèn)為“世界模型”將很好的避免生成式模型帶來(lái)的缺陷。
楊立昆同時(shí)也認(rèn)為強(qiáng)大人工智能的威脅可以通過(guò)技術(shù)手段輕松遏制，這與他回?fù)赳R斯克有關(guān)人工智能威脅的論調(diào)相一致。
Max Tegmark
I think Yann LeCun was teasing me a little bit. He called
me a doomer. Look at me I’m pretty happy and cheerful more optimistic than
Yann LeCun about our ability to understand future AI systems. ……I think if we
go full steam ahead and give ever more control away from humans to machines
that we don’t understand, that will end very badly. But we don’t have to do
that. ……we can actually make sure that all this ever more powerful intelligence
works for us and use that to create an even more inspiring future than science
fiction writers used to dream of.
我覺(jué)得楊立昆在逗我玩。 他叫我末日使者。 看看我我非常高興和開(kāi)朗比楊立昆更樂(lè)觀地認(rèn)為我們有能力理解未來(lái)的人工智能系統(tǒng)。 ……我認(rèn)為，如果我們?nèi)σ愿�，將更多的控制�?quán)從人類(lèi)手中交給我們不了解的機(jī)器，那將導(dǎo)致非常糟糕的結(jié)果。
但我們不必那樣做。 ......我們實(shí)際上可以確保所有這些強(qiáng)大的智能為我們服務(wù)，并利用它來(lái)創(chuàng)造一個(gè)比科幻作家過(guò)去夢(mèng)想更鼓舞人心的未來(lái)。
Max Tegmark是那封呼吁暫停AI開(kāi)發(fā)六個(gè)月公開(kāi)信的發(fā)起人這可能是他近期最著名的一個(gè)title，實(shí)際上他還是著名的物理學(xué)家，未來(lái)生命研究所的創(chuàng)始人。在智源大會(huì)上Max
Tegmark的演講題目是《將AI變得可控》，這看上去與他在今年初的呼吁格格不入，而實(shí)際上Max Tegmark在大會(huì)上解釋了他的論點(diǎn)：AI巨大的潛力意味著人們應(yīng)該更謹(jǐn)慎和負(fù)責(zé)任的思考它究竟意味著什么，暫停研究六個(gè)月的目的并不是試圖拖延或阻止AI的快速發(fā)展。
Max Tegmark在隨后與張亞勤的一對(duì)一談話中對(duì)中國(guó)在AI監(jiān)管與治理領(lǐng)域的水平給予了很高評(píng)價(jià)，在他的心目中，中國(guó)位居第一，歐洲第二，美國(guó)則排名第三。
Sam Altman
The book of the Tao reminds us that the journey of a
thousand miles begins with a simple step. We think the most constructive first
step to take is with the international scientific and technological community.
《道德經(jīng)》提醒我們，千里之行，始于足下。 我們認(rèn)為（AI安全與對(duì)齊）最有建設(shè)性的第一步是與國(guó)際科技界合作。
Sam Altman 作為OpenAI聯(lián)合創(chuàng)始人、CEO已經(jīng)不需要更多介紹了，品玩也第一時(shí)間發(fā)布了他在智源大會(huì)上演講的全文。
在一對(duì)一訪問(wèn)環(huán)節(jié)，Sam Altman 回應(yīng)了智源研究院理事長(zhǎng)張宏江有關(guān)通用人工智能的問(wèn)題。Sam Altman謹(jǐn)慎地表示，盡管無(wú)法做出任何實(shí)質(zhì)性的預(yù)測(cè)，但他認(rèn)為十年內(nèi)人類(lèi)將擁有強(qiáng)大的人工智能系統(tǒng)（AI System）。
另一個(gè)大家普遍關(guān)心的問(wèn)題是開(kāi)源。Sam Altman其實(shí)已經(jīng)在許多場(chǎng)合回應(yīng)過(guò)這個(gè)問(wèn)題，他再次表示OpenAI沒(méi)有相關(guān)的新的有關(guān)開(kāi)源的時(shí)間表，盡管他承認(rèn)在有關(guān)AI安全的問(wèn)題上，開(kāi)源模型具有優(yōu)勢(shì)，但Sam Altman強(qiáng)調(diào)開(kāi)源所有東西可能并不是一條（促進(jìn)AI發(fā)展的）最佳路線。
Geoffrey Hinton
One advantage we have, one fairly small advantage, is
that these things didn't evolve. We built them. And it may be that because they
didn't evolve, they don't have the competitive aggressive goals that hominids
have. ……And maybe we can give them ethical principles. But at present, I'm just
nervous, because I don't know any examples of more intelligent things being
controlled by less intelligent things, when the intelligence gap is big. And
the example I like to think about is suppose frogs had invented people. Who do
you think would be in charge now, the frogs or the people?
我們（人類(lèi)）有一個(gè)微弱的優(yōu)勢(shì)AI沒(méi)有，那就是進(jìn)化。我們創(chuàng)造了它們，這或許意味著AI沒(méi)有原始人具有的那種競(jìng)爭(zhēng)性和侵略性。我們或許可以給它們賦予道德原則。
但現(xiàn)在，我真正緊張了，我還想象不到更智能的事物，被一些反倒沒(méi)那么智能的事物所控制的例子，（尤其）當(dāng)智能的鴻溝非常巨大的時(shí)候。
一個(gè)例子是，假設(shè)青蛙發(fā)明了人類(lèi)，那現(xiàn)在是誰(shuí)說(shuō)了算呢，青蛙還是人？
Geoffrey Hinton現(xiàn)在的頭銜已經(jīng)可以被稱(chēng)為AI教父了，據(jù)說(shuō)之前智源大會(huì)就曾邀請(qǐng)過(guò)他參加，但在即將開(kāi)幕時(shí)Geoffrey
Hinton發(fā)現(xiàn)了自己演講內(nèi)容有bug因而取消。
最近Geoffrey Hinton最引人注意的新聞是辭去了他在谷歌的職務(wù)，因?yàn)樗麑?duì)目前人工智能驚人的發(fā)展速度感到了恐慌本次智源大會(huì)上的演講，Geoffrey Hinton延續(xù)了這個(gè)論調(diào)。在他看來(lái)超級(jí)智能到來(lái)的時(shí)間將比他本人預(yù)料的早得多，而他本人甚至看不出要如何防止AI失控的狀況發(fā)生，他在演講中公然宣稱(chēng)把希望寄托在了年輕一代身上。
