IT之家 8 月 24 日消息，Meta 現(xiàn)推出了一個(gè)名為 Code Llama 的 AI 編碼工具，號(hào)稱“最先進(jìn)的大型編碼語(yǔ)言模型”。
該模型基于 Llama 2 大型語(yǔ)言模型打造，可以理解為“Llama 2 的寫代碼專用版”，可用于“生成新的代碼并調(diào)試人類編寫的工作”，目前已上線 Github。
據(jù)悉，Code Llama 將采用與 Llama 2 相同的社區(qū)許可，并對(duì)研究和商業(yè)領(lǐng)域免費(fèi)開放。
圖源 Pexels
Meta 指出，Code Llama 能夠根據(jù)代碼核自然語(yǔ)言提示 / 要求生成你想要的代碼和有關(guān)代碼的自然語(yǔ)言，或者在指向特定代碼時(shí)進(jìn)行完善和調(diào)試。
除了基礎(chǔ)版的 Code Llama 外，Meta 還推出了專為 Python 設(shè)計(jì)的版本 Code Llama-Python，以及一個(gè)能夠理解自然語(yǔ)言指令的版本 Code Llama-Instrct。
在 Meta 的基準(zhǔn)測(cè)試中，Code Llama 在編程任務(wù)上的表現(xiàn)優(yōu)于最先進(jìn)的公開可用的 LLM 模型。
Meta 稱，每個(gè)特定的 Code Llama 版本都不可切換 / 替代，公司不建議將基本 Code Llama 或 Code Llama-Python 用于語(yǔ)自然語(yǔ)言指令。
Meta 發(fā)布了三種大小的 Code Llama，分別具有 7B、13B 和 34B 參數(shù)。每個(gè)模型都使用 500B 代碼 tokens和代碼相關(guān)數(shù)據(jù)進(jìn)行訓(xùn)練，而且 7B 和 13B 基礎(chǔ)模型和指令模型也經(jīng)過了中間填充 (FIM) 功能的訓(xùn)練，允許它們將代碼插入到現(xiàn)有代碼中，這意味著你現(xiàn)在就可以將其用于“代碼補(bǔ)完計(jì)劃”。
IT之家注，這三種模型各有優(yōu)缺，例如 7B 模型可以在單個(gè) GPU 上運(yùn)行；34B 模型可提供最佳結(jié)果以及更好的編碼輔助能力；7B 和 13B 速度比 34B 模型更快，更適合需要低延遲的任務(wù)。
Meta 在其博客中表示：“程序員們已經(jīng)在使用 LLMs 來協(xié)助完成各種任務(wù)，從編寫新軟件到調(diào)試現(xiàn)有代碼，” “目標(biāo)是使開發(fā)人員的工作流更高效，這樣他們就可以專注于他們工作中最以人為本的方面。”
Meta 聲稱 Code Llama 在基準(zhǔn)測(cè)試中的表現(xiàn)優(yōu)于現(xiàn)有的公開可用 LLMs，但沒有具體指明它是針對(duì)哪些模型進(jìn)行測(cè)試的。
該公司表示，Code Llama 在 HumanEval 代碼基準(zhǔn)測(cè)試中得分為 53.7％，能夠根據(jù)文本描述準(zhǔn)確編寫代碼；在 MBPP 上得分為 56.2%，與最先進(jìn)的 ChatGPT 相當(dāng)。
值得一提的是，GitHub 在今年 3 月推出了基于 GPT-4 的 Copliot 以幫助用戶快速編寫和檢查代碼，還可以重寫舊代碼以進(jìn)行更新，但卻因被指控侵犯版權(quán)法而面臨法律訴訟。
此外，亞馬遜 AWS 也有一款 CodeWhisperer，它可以編寫、檢查和更新代碼；而谷歌在 AlphaCode 中也有一個(gè)編寫代碼的工具，但尚未公開發(fā)行。
