2025-04-20 10:27:39 | 来源: AICG工具箱
国内人工智能大模型创业公司“月之暗面”终于有了一次面向媒体的公开活动。虽然CEO杨植麟本人并未露面,但是发布了更长上下文窗口的版本:200万字上下文版本,即日起可在Kimi Chat上开启内测。
并且在与Kimi对话过程中,加入了(不打断模型思路的)「继续」功能按钮。
月之暗面工程副总裁许欣然将几摞打印出来的《中医中医内科学》《中医诊断学》、英伟达2023年年度财报、《甄嬛传》剧本版放在桌面上,一摞比一摞厚。
这是为了用来检验大模型的Tokens上下文窗口吞吐能力。
2023年10月,“月之暗面”团队的产品第一次公开亮相,发布了支持20万字上下文窗口的Kimi大模型。
五个月过去后,Kimi主要在3个方面有所提升:
遵循更复杂的指令更强的信息检索能力推出Chat机器人的网页版、Android客户端、iOS客户端、小程序此次月之暗面最主要的动作,就是将自家模型的上下文窗口提升了一个数量级。即从发布之初的20万字,拓展到200万字。
同时据许欣然透露,5个月过去,相同成本、相同设备情况下,模型响应速度提升了3倍左右。
为了达到更好的长窗口无损压缩性能,月之暗面的研发和技术团队从模型预训练到对齐、推理环节均进行了原生的重新设计和开发,不走“滑动窗口”、“降采样”等技术捷径,攻克了很多底层技术难点。
200万字上下文窗口,意味着Kimi模型能够吃下更长的文档内容,完成更长和更复杂的任务。
包括但不限于,让大模型快速整理N多的文件,例如从500份招聘简历中提取信息:
现场月之暗面还提出了“Kimi 10分钟速成定律”。
即无关领域大众小众,也无关资料或多或少,只要把资料一股脑丢给模型,10分钟内,Kimi都能快速入门一个新领域。
比如德州扑克、中医内科、驾驶飞机、大模型推理……
现场还演示了Kimi模型挖掘长篇故事情节中深层次信息的能力。
案例自然是被人类开发程度不足10%的《甄嬛传》。
值得注意的是,月之暗面在媒体沟通会现场提出了一个新说法,即大模型们最近的新竞速赛道,“大海捞针”功能,恐怕全绿也没什么太大意义了。
最初,大海捞针其实是一个非常好的评测标准,因为当时大家都没有针对这个case去优化过。
但现在它已经不是一个很好的评测指标了,当大家都去关注它的时候,就一定会想尽办法去优化它,慢慢就失去了原本的参考意义。
如果大海捞针不行了,有什么新的评测标准能够检测模型长文本能力吗?
“暂时还没有。”许欣然笑道。
他表示,模型窗口越来越长,评测的纬度变得非常非常多,不过团队已经在和学术界团队共同探讨这个开放性的问题。
从20万字上下文窗口,迭代为今天开始内测的200万字上下文窗口,具体的模型应用场景又有什么新的亮眼之处?会不会只是从“处理50封简历”到“处理500封简历”的简单线性外扩?
一味拓展大模型上下文窗口的边界,会不会打造出一把普通人想象中的“皇帝的金锄头”?
“实际上,可能会不断地出现更多的现实场景,只有足够长的context才能完成。”
月之暗面表示,在200万字版本推出后,接下来Kimi模型会在以下几个方向发展:
第一、领域专家。
利用长文本能力吃掉一个领域里几乎所有的相关资料,使调研一个行业成为简单的事情。
第二、可完成复杂多步任务的Agent,月之暗面内部称之为“个人麦肯锡”。
希望模型未来不只是像能处理“帮我翻译一下这个PDF”这类非常具体的任务,也能自动完成抽象、复杂的任务。
第三、多模态能力。
Context长了之后,Kimi模型可以容纳更多高清的、时间更长的这种视频,从而让我们模型很方便地去拓展到更多的模态。
据月之暗面联合创始人周昕宇现场的答复,Sora出来以前,月之暗面就在根据自己的节奏推进多模态能力的研发,Sora的出现也并没有打乱原有的安排。
“预计今年会推出我们自己的多模态模型产品。”
最后,他们家的大模型还悄么声地改名了:
Kimi Chat➡️Kimi智能助手;Moonshot大模型➡️Kimi大模型
热门榜单
阿贝智能
常用AIWPS AI
常用AIRunway
常用AI剪映
常用AIEmo-阿里巴巴的AI视频生成框架
常用AICanva AI图像生成
常用AI万相营造
常用AIARC
常用AIDeepSwapper
常用AI热门资讯
中文多模态大模型SuperCLUE-V榜单发布丨Stability AI推出Stable Fast 3D模型丨Meta AI向好莱坞明星采买声音授权
02-11阿里云发布通义千问2.5大模型:号称多项能力赶超GPT-4,发布开源模型Qwen1.5-110B
04-09华为Pura 70打造「AI抓拍」逆天黑科技,高清复原手抖模糊图像,拯救拍照手残党
04-15全网沸腾!AI大模型「开源之王」Llama 3正式发布:性能比肩GPT-4
04-15stable diffusion初识_stable diffusion跟其他工具有什么区别]
01-17小米AI助理“小爱同学”接入字节跳动豆包大模型,将用于小米旗下所有「人车家」终端
02-24OpenAI今夜发布新版GPT-4大模型:“青春版”GPT4-Lite现身,AI搜索引擎「SearchGPT」代码首曝光
04-03英伟达CEO黄仁勋:人形机器人将逐渐成为主流,售价将在1万-2万美元之间
04-15波士顿动力最新电驱版Atlas机器人,完美复刻《午夜凶铃》贞子女鬼经典动作
04-15国产AI创业公司Kimi Chat凭200万字上下文窗口「长文本」大火,但前景可能跟淄博相似
04-18