
OpenAI宣布推出AI Agent評測基準(zhǔn)PaperBench
財聯(lián)社4月3日電,美國開放人工智能研究中心(OpenAI)當(dāng)?shù)貢r間4月2日宣布推出PaperBench——一個評估AI智能體復(fù)現(xiàn)前沿AI研究能力的基準(zhǔn)。智能體需從零開始復(fù)現(xiàn)20篇ICML 2024 Spotlight和Oral論文,包括理解論文貢獻(xiàn)、開發(fā)代碼庫并成功執(zhí)行實驗。據(jù)介紹,在PaperBench上測試多個前沿模型后發(fā)現(xiàn),表現(xiàn)最佳的智能體Claude 3.5 Sonnet(新版)結(jié)合開源框架,平均復(fù)現(xiàn)得分為21.0%。最終其招募頂尖機器學(xué)習(xí)博士嘗試部分測試集,發(fā)現(xiàn)上述模型表現(xiàn)尚未超越人類基線。
我要評論
反饋意見 

歡迎您發(fā)表有價值的評論,發(fā)布廣告和不和諧的評論都將會被刪除,您的賬號將禁止評論。
發(fā)表評論