2024-12-25 17:55:36 | 来源: 智享导航
AI奇点网7月19日报道丨7月17日,上海人工智能实验室公布了针对7款主流 AI 大模型的高考全科目测试结果,据大模型开源开放评测体系“司南”相关负责人介绍,“当前大模型仍存在很大的局限性。组织 AI 大模型参加高考,目的是评测当前大模型的真实水平,找准问题,持续推进技术进步。”

测试结果显示,书生·浦语 2.0 系列文曲星大模型(浦语文曲星)、阿里通义千问大模型 Qwen2-72B 以及 GPT-4o 再次包揽文、理科前三甲;前三名 AI考生的文、理科成绩分别超过了河南省高考今年的一本线与二本线。
此次参与“AI全科高考”的大模型,除了书生·浦语 2.0、阿里通义Qwen2-72B 以及 GPT-4o 之外,还包括来自零一万物的 Yi-1.5-34B、来自通义千问的 Qwen2-57B、来自智谱的 GLM-4-9B 和法国 AI 初创公司 Mistral 旗下的 Mixtral 8×22B。

据介绍,此次评测具备如下特征:
全卷考试:进行全卷评分,而不只针对单一题型,且包括带图的高考题考前开源:评测覆盖的开源模型均为今年高考前开源的模型,排除泄题的可能性老师打分:邀请有高考阅卷经验的老师打分,确保评分和高考尽量一致完全公开:生成答案的代码、模型答卷、评分结果完全开源在增加综合科目的基础上,Qwen2-72B、GPT-4o、浦语文曲星包揽文、理科前三甲。阿里通义千问大模型 Qwen2-72B 以 546 分的成绩荣获 AI 高考“文科状元”,浦语文曲星则以 468.5 分成为理科第一名,分别超过了“非开源国际插班生”GPT-4o(文科 531 分,理科 467 分)。同为国外机构发布的 Mixtral 8x22B 平均得分最少,弱于国内大模型的高考表现。


参与本次AI高考测试的阅卷老师们一致认为:
大模型与人类考生之间仍然存在明显的差距,虽然AI对于基础知识的掌握表现出色,但在逻辑推理和知识灵活应用方面,大模型仍然差强人意。具体而言,在作答主观题时,大模型往往无法完整理解题干,不明白代词指向,结果导致答非所问;解答数学题时,解题过程机械且逻辑性差,对于几何题,常出现与空间逻辑相违背的推断;对物理、化学实验理解肤浅,无法准确识别并运用实验器材。
此外,大模型也会经常出现伪造虚构内容的“AI幻觉”情况,编造看似合理但实际不存在的诗句,或在存在明显计算错误的情况下之后不反思,“硬着头皮蒙”一个答案,均给阅卷老师批阅试卷带来了困扰。
本次测评的完整报告地址:https://github.com/open-compass/GAOKAO-Eval
热门榜单
360AI搜索
常用AIsharegpt
常用AIGPTs:GPT Builder创建器
常用AIHi Echo — 网易有道
常用AI美图Moki
常用AIPicTech AI
常用AIPhotosonic
常用AIDreamUp
常用AIScribble Diffusion
常用AI热门资讯
讯飞星火大模型V3.5春季上新,长文本长图长语音,生产力实测:你的超级知识助手来了!
12-26有哪些好用的AI工具_AI工具测评使用_
12-31荣耀CEO赵明:荣耀领先三年,很高兴看到苹果追随我们的AI手机发展路线
02-24马斯克突然发布新版Grok-2大模型,牺牲特斯拉资源叫板OpenAI,一手实测来了
12-25夸克AI搜索_夸克最新动态_夸克官方网站
12-26SD3超详细使用教程+效果测评丨附热门模型下载地址
12-26快手AI文生视频大模型【可灵】首发实测:这可能将成为真正意义的第一款「中国版Sora」
12-26体验完腾讯的AI助理应用「腾讯元宝」,完整的公众号内容生态将是它的最强杀手锏
12-26Stable Diffusion 3最新模型测评丨SD3模型ComfyUI流程简单搭建
12-26商汤科技发布「日日新大模型」5.0:直接对标GPT-4 Turbo,全能分析轻松掌握周冠宇F1赛事数据
12-26