清华大模型报告发布:文心一言中文理解能力居首

2024-04-22 17:43:32 来源:上海证券报·中国证券网 作者:罗茂林

  上证报中国证券网讯(记者 罗茂林)日前,由清华大学基础模型研究中心联合中关村实验室研制的SuperBench大模型综合能力评测框架,正式对外发布2024年3月版《SuperBench大模型综合能力评测报告》。评测共包含14个海内外具有代表性的模型,结果显示,文心一言4.0表现亮眼,与国际一流模型水平接近,且差距已经逐渐缩小。

  报告显示,在人类对齐能力评测中,文心一言4.0表现位居国内第一。其中中文理解上,文心一言4.0领先优势明显,领先第二名GLM-4 0.41分;GPT-4系列模型表现较差,排在中下游,并且和第一名文心一言4.0分差超过1分。

  在语义理解中的数学能力上,文心一言4.0与Claude-3并列全球第一;GPT-4系列模型位列第四、第五,其他模型得分在55分附近较为集中,明显落后于第一梯队;而在语义理解中的阅读理解能力上,文心一言4.0超过GPT-4 Turbo、Claude-3以及GLM-4拿下榜首。

  在企业选择大模型最看重的安全性评测上,文心一言4.0表现亮眼,力压国际一流模型GPT-4系列模型和Claude-3拿下最高分(89.1分),Claude-3仅列第四。

  据悉,自去年3月16日文心一言首发至今,用户数已突破2亿,每天API调用量也突破2亿。