夢(mèng)晨 發(fā)自 凹非寺
量子位 | 公眾號(hào) QbitAI
只用500行代碼搭出來(lái)的AI搜索引擎，登頂GitHub趨勢(shì)榜。
作者：賈揚(yáng)清的LeptonAI團(tuán)隊(duì)。
Lepton Search耗時(shí)一個(gè)周末打造，僅作為Demo演示而不是正式產(chǎn)品，只為向開(kāi)發(fā)者展示“天下沒(méi)有難構(gòu)建的AI應(yīng)用”。
△能理解中文但用英文回答
賈揚(yáng)清事后感慨到：
這件事并沒(méi)有那么復(fù)雜我們剛開(kāi)始時(shí)確實(shí)以為會(huì)更難。
另外，圍繞這個(gè)Demo還發(fā)生了一些爭(zhēng)議。
AI搜索引擎Perplexity創(chuàng)始人認(rèn)為其參考了自己產(chǎn)品的UI界面，轉(zhuǎn)發(fā)評(píng)論了一番。
賈揚(yáng)清也做出回應(yīng)，稱無(wú)意進(jìn)入這個(gè)市場(chǎng)，更多的是Demo展示以及宣傳自家LeptonAI云服務(wù)，并且一開(kāi)始就準(zhǔn)備開(kāi)源。
總之，兩位大佬“友好”地一番交鋒之后，Lepton Search修好bug后立即開(kāi)源并且迅速獲得社區(qū)認(rèn)可。
目前，已有偏學(xué)術(shù)的開(kāi)源AI搜索引擎SciPhi使用賈揚(yáng)清的代碼完成升級(jí)。
500行代碼的AI搜索引擎
要注意，AI搜索引擎整體上依然是一個(gè)復(fù)雜的項(xiàng)目。
Lepton Search之所以500行代碼就能實(shí)現(xiàn)，正如賈揚(yáng)清想要展示的，是因?yàn)榻裉斓?strong>應(yīng)用開(kāi)發(fā)已經(jīng)高度模塊化：
大模型，調(diào)用了在自家云上部署的開(kāi)源Mixtral-8x7b模型。
搜索引擎，目前用了必應(yīng)搜索的API。
數(shù)據(jù)存儲(chǔ)，用自家Lepton KV作為無(wú)服務(wù)器存儲(chǔ)。
這500行代碼其實(shí)只做到以下幾點(diǎn)，就完成一個(gè)產(chǎn)品的雛形了：
對(duì)大模型和搜索引擎的接口支持
前端UI界面
可緩存和可分享的搜索結(jié)果
除此之外，賈揚(yáng)清還分享了開(kāi)發(fā)過(guò)程中學(xué)到的一些經(jīng)驗(yàn)：
搜索質(zhì)量確實(shí)非常重要，好的結(jié)果片段才能產(chǎn)生好的摘要。
一點(diǎn)AI幻覺(jué)其實(shí)有助于填補(bǔ)片段中未涉及的“常識(shí)”。
開(kāi)源模型在文本摘要任務(wù)上已經(jīng)做的非常好。
在后續(xù)與網(wǎng)友討論過(guò)程中，賈揚(yáng)清還認(rèn)為“AI對(duì)話式搜索不會(huì)取代傳統(tǒng)搜索”，還需要依賴傳統(tǒng)搜索引擎的結(jié)果。
事實(shí)上，AI搜索目前正是行業(yè)的一個(gè)大熱門(mén)方向。
代表公司正是前面提到的Perplexity，剛剛拿到7360萬(wàn)美元的A輪融資，估值超過(guò)5億美元。
投資者中有英偉達(dá)、亞馬遜，甚至谷歌AI大佬Jeff Dean和前YouTube CEO也不避嫌，以個(gè)人名義參與投資。
并且Perplexity已和部分瀏覽器廠商如Arc展開(kāi)合作，成為默認(rèn)搜索引擎的選項(xiàng)之一。
△Perplexity網(wǎng)頁(yè)版
更小一些的創(chuàng)業(yè)項(xiàng)目方面，比如面向程序員的devv_，面向?qū)W術(shù)的Consensus也各自受到垂直用戶群體的認(rèn)可。
國(guó)內(nèi)大廠也是AI搜索的積極參與者，百度除了以文心一言插件的形式集成了AI搜索之外，還推出了獨(dú)立的簡(jiǎn)單搜索App試水。
360也推出360AI搜索獨(dú)立APP版，安卓版剛剛上線還是熱乎的，連評(píng)分?jǐn)?shù)量都還沒(méi)夠展示門(mén)檻。
昆侖萬(wàn)維的天工AI搜索則已推出了將近半年，其首頁(yè)推薦問(wèn)題通常緊追最新熱點(diǎn)，很方便吃瓜。
AI搜索類產(chǎn)品在設(shè)計(jì)上大致分為三大類。
谷歌和百度在傳統(tǒng)搜索的頁(yè)面頂部，以卡片形式展示AI生成結(jié)果。
必應(yīng)、百度文心一言更偏重對(duì)話，搜索結(jié)果由AI總結(jié)提煉后呈現(xiàn)在多輪對(duì)話中。
其他產(chǎn)品大多遵循Perplexity為代表的新范式：
搜索結(jié)果頁(yè)面分為“參考鏈接-AI回答-相關(guān)追問(wèn)”幾個(gè)模塊，并可多輪提問(wèn)。
搜索結(jié)果有歷史記錄，且可以對(duì)外分享。
Copilot增強(qiáng)模式，AI理解問(wèn)題后反向提問(wèn)，引導(dǎo)用戶補(bǔ)充搜索條件。
個(gè)性化提示詞，用于調(diào)整AI回答的風(fēng)格以及格式。
正如Perplexity的CEO所說(shuō)，他們的產(chǎn)品大獲成功后，其模式已成為行業(yè)流行標(biāo)準(zhǔn)。
除了宏觀的界面、功能之外，更細(xì)節(jié)之處如“付費(fèi)功能的免費(fèi)使用次數(shù)”都被一些后來(lái)者學(xué)走。
參考鏈接：
[1]https://github.com/leptonai/search_with_lepton
[2]https://twitter.com/jiayq/status/1751633905890038232
