魚羊 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI
公司剛10人，種子輪融資就融了10億美元。
這種驚掉人下巴的事兒，也只有發(fā)生Ilya Sutskever身上，才稍顯“正常”。
Ilya，在大模型席卷全球的當(dāng)下，他的貢獻(xiàn)被公認(rèn)為達(dá)到了改變世界的級(jí)別：
他是AlexNet三位作者之一，和恩師Hinton一起被挖到谷歌之后，又深度參與了震驚世界的AlphaGo項(xiàng)目。
2015年，他參與了OpenAI的創(chuàng)立，出任首席科學(xué)家。ChatGPT再次改變世界，他被認(rèn)為是背后最關(guān)鍵的人物之一。
從去年11月至今，Ilya的一舉一動(dòng)更是被推到臺(tái)前，受到全球科技圈的矚目：
由他發(fā)動(dòng)的OpenAI董事會(huì)內(nèi)訌揭開大模型發(fā)展路線之爭(zhēng)，而他在今年5月與OpenAI徹底分道揚(yáng)鑣之后，所有人都在等待他的下一步創(chuàng)業(yè)動(dòng)向。
現(xiàn)在，塵埃初定。一向低調(diào)的Ilya本人，也在這個(gè)時(shí)間點(diǎn)上，同外界分享了更多有關(guān)他的公司SSI，以及他本人對(duì)AGI思考的信息。
在與路透社的交流中，Ilya回答了關(guān)鍵的6個(gè)問(wèn)題。以下，原文奉上：
為什么創(chuàng)立SSI？我們已經(jīng)發(fā)現(xiàn)了一座與我之前的工作有些不同的“大山”……一旦你登上這座山的頂峰，范式就會(huì)改變……我們所知的關(guān)于人工智能的一切都將再次改變。
到那時(shí)，超級(jí)智能安全工作會(huì)變得非常關(guān)鍵。
我們的第一個(gè)產(chǎn)品將會(huì)是安全的超級(jí)智能。
在超級(jí)智能之前，會(huì)發(fā)布和人類一樣智能的AI嗎？我認(rèn)為關(guān)鍵在于：它是否安全？它是否是世界上一股向善的力量？我認(rèn)為，當(dāng)我們做到這一點(diǎn)時(shí)，世界將會(huì)發(fā)生很大的變化。因此現(xiàn)在就給出“我們將要做什么”的明確計(jì)劃是相當(dāng)困難的。
我可以告訴你的是，世界將會(huì)變得非常不同。外界對(duì)AI領(lǐng)域正在發(fā)生的事情的看法將會(huì)發(fā)生巨大變化，并且很難理解。這將是一場(chǎng)更加激烈的對(duì)話。這可能不僅取決于我們的決定。
SSI如何判定何為安全的人工智能？要回答這個(gè)問(wèn)題，我們需要開展一些重要的研究。特別是如果你和我們一樣，認(rèn)為事情會(huì)發(fā)生很大變化……很多偉大的想法正在被發(fā)現(xiàn)。
很多人都在思考，當(dāng)AI變得更加強(qiáng)大時(shí)，需要對(duì)其采取哪些測(cè)試？這有點(diǎn)棘手，還有很多研究要做。
我不想說(shuō)現(xiàn)在已經(jīng)有了明確的答案。但這是我們要弄清楚的事情之一。
關(guān)于尺度假設(shè)和AI安全每個(gè)人都在說(shuō)“尺度假設(shè)”，但每個(gè)人都忽略了一個(gè)問(wèn)題：我們?cè)趕caling什么？
過(guò)去十年深度學(xué)習(xí)的巨大突破，是一個(gè)關(guān)于尺度假設(shè)的特定公式。但它會(huì)改變……隨著它的改變，系統(tǒng)的能力將會(huì)增強(qiáng)，安全問(wèn)題將變得最為緊迫，這就是我們需要解決的問(wèn)題。
SSI會(huì)開源嗎？目前，所有人工智能公司都沒(méi)有開源他們的主要工作，我們也是如此。但我覺(jué)得，取決于某些因素，會(huì)有很多機(jī)會(huì)去開源超級(jí)智能安全工作。也許不是全部，但肯定會(huì)有一些。
對(duì)其他AI公司安全研究工作的看法實(shí)際上，我對(duì)業(yè)界有很高的評(píng)價(jià)。我認(rèn)為，隨著人們繼續(xù)取得進(jìn)展，所有公司都會(huì)意識(shí)到可能是在不同的時(shí)間點(diǎn)他們所面臨的挑戰(zhàn)的本質(zhì)。因此，我們并不是認(rèn)為其他人都做不到，而是說(shuō)，我們認(rèn)為我們可以做出貢獻(xiàn)。
10億美元用來(lái)干什么最后，補(bǔ)充一些Ilya話外的背景信息。
SSI的消息最早在今年6月釋出，目標(biāo)很明確，搞Ilya在OpenAI沒(méi)干成的事：構(gòu)建安全超級(jí)智能。
目前SSI只有10名員工，融完資后，計(jì)劃利用這筆資金買算力并聘請(qǐng)頂尖人才
認(rèn)同他們的理念，已經(jīng)做好AI有一天會(huì)超越人類智能的心理準(zhǔn)備的那種。
聯(lián)合創(chuàng)始人Daniel Gross還透露，他們并不過(guò)分看重資歷和經(jīng)驗(yàn)，反而會(huì)花好幾個(gè)小時(shí)審查候選人是否具有“良好的品格”。
算力方面，SSI計(jì)劃和云廠商及芯片公司開展合作，具體和哪些公司合作、怎么合作尚未明確。
除了Ilya本人之外，SSI的聯(lián)創(chuàng)還有Daniel Gross和Daniel Levy。
△左：Daniel Gross；右：Daniel Levy
Daniel Gross畢業(yè)于哈佛大學(xué)計(jì)算機(jī)系，此前也是Y Combinator的合伙人之一，也曾創(chuàng)辦或參與創(chuàng)辦了多家公司，包括Citrus Lane、WriteLaTeX（后更名為Overleaf）等。
他被《時(shí)代100》雜志列為“人工智能領(lǐng)域最具影響力的人物”之一。
Daniel Levy則畢業(yè)于斯坦福計(jì)算機(jī)系，此前是OpenAI優(yōu)化團(tuán)隊(duì)的負(fù)責(zé)人。
