IT之家 3 月 28 日消息，根據(jù) LMSYS Org 公布的最新基準測試報告，Claude-3得分以微弱優(yōu)勢超越 GPT-4，成為該平臺“最佳”大語言模型。
IT之家首先介紹下 LMSYS Org，該機構(gòu)是由加州大學伯克利分校、加州大學圣地亞哥分校和卡內(nèi)基梅隆大學合作創(chuàng)立的研究組織。
該機構(gòu)推出 Chatbot Arena，這是一個針對大型語言模型（LLM） 的基準平臺，以眾包方式匿名、隨機對抗測評大模型產(chǎn)品，其評級基于國際象棋等競技游戲中廣泛使用的 Elo 評分系統(tǒng)。
評分結(jié)果通過用戶投票產(chǎn)生，系統(tǒng)每次會隨機選擇兩個不同的大模型機器人和用戶聊天，并讓用戶在匿名的情況下選擇哪款大模型產(chǎn)品的表現(xiàn)更好一些，整體而言相對公正。
Chatbot Arena 自去年上線以來，GPT-4 一直穩(wěn)居頭把交椅，甚至成為了評估大模型的黃金標準。
不過昨天 Anthropic 的 Claude 3 Opus 以 1253 比 1251 的微弱優(yōu)勢擊敗了 GPT-4，OpenAI 的 LLM 被擠下了榜首位置。由于比分過于接近，出于誤差率方面的考量，該機構(gòu)讓 Claude 3 和 GPT-4 并列第一，GPT-4 的另一個預覽版也并列第一。
更令人印象深刻的是 Claude 3 Haiku 進入前十名。Haiku 是 Anthropic 的 local size 模型，相當于谷歌的 Gemini Nano。
它比擁有數(shù)萬億參數(shù)的 Opus 要小得多，因此相比之下速度要快得多。根據(jù) LMSYS 的數(shù)據(jù)，Haiku 在排行榜上名列第七，有媲美 GPT-4 的表現(xiàn)。
