咨询服务热线:021-26883548
电话:0755-86673560
邮箱:kaiyuncom@mjchuchen.com
总部:湖北省武汉市东湖新技术开发区高新大道637号
北京科技有限公司:北京市丰台区和义街道和义科创产业园内
上海科技有限公司:上海市静安区新闸路1403号2幢
官方网站-首页
【导语】随着智能体应用场景的不断拓展,对大模型上(shàng)下(xià)文窗(chuāng)口(kǒu)长(zhǎng)度(dù)的(de)需(xū)求(qiú)日(rì)益(yì)增(zēng)长(zhǎng)。近(jìn)日(rì),国(guó)家(jiā)超(chāo)算(suàn)互(hù)联(lián)网(wǎng)平(píng)台(tái)上(shàng)线(xiàn)了(le)由(yóu)上(shàng)海(hǎi)稀(xī)宇(yǔ)科(kē)技(jì)有(yǒu)限(xiàn)公(gōng)司(sī)研(yán)发(fā)的(de)超(chāo)长(zhǎng)文本(běn)多(duō)模(mó)态(tài)大(dà)模(mó)型(xíng)MiniMax-01系(xì)列(liè)。该(gāi)系(xì)列模型在上下文处理能力上实现了突破,能够满足复杂场景下的长文本及多模态信息处理需求。此次合作不仅有助于激发长上下文技术的创新研究与实际应用,还将推动国产人工智能技术的加速发展。
随着越来越多的智能体(Agent)进入应用场景,无论是单个智能体工作时产生的记忆,还是多个智能体协作产生的上下文,都会对大模型的上下文窗口长度提出更高要求。澎湃科技4月15日获悉,国家超算互联网平台近日已上线超长文本多模(mó)态(tài)大(dà)模(mó)型,该模型由上海稀宇科技有限公司(以下简称“稀宇科技”)研发,分别为MiniMax-Text-01和MiniMax-VL-01。

SCNet超算互联网平台chat页面截图
国家超算互联网作为国家级算力服务平台,于2024年4月正式上线,今年2月启动了(le)“AI生(shēng)态(tài)伙(huǒ)伴(bàn)加(jiā)速(sù)计(jì)划”,提供3个月DeepSeek API接口免费使用、千万卡时算力资源池等激励,并通过技术赋能、市场协同、资源扶持三位一体,加速生态伙伴全面发展。
统计数据显示,自上线一年以来,国家超算互联网平台总用户量已突破35万,连接了全国14个省区市20多家超算和智算中心,并上线算力商品超6500款。澎湃科技注意到,其中AI模型服务有近240款,既有阿里通义千问Qwen、DeepSeek等国内开源模型,也有Llama、Stable Diffusion、Gemma等国外AI开源模型。
稀宇科技认为,该公司此次与国家超算互联网平台的合作能激发更多关于长上下文技术的创新研究与实际应用。长上下文能力与多模态处理能力的提升,有助于智能体为各行业带来更丰富、高效的解决方案。
“放眼国内外的大模型,‘大脑’虽大,但‘记忆力’往往不够。”稀宇科技研发负责人表示,“如果让大模型理解一份长达1000页的法律合同、一部长篇小说或一个几十万行的源代码项目,并给出准确的摘要、发现潜在风险、提出结构化建议,大多数大模型都无法完成任务,因为它们连读完材料也做不到,更不用说音视频等多模态信息处理了。而MiniMax-01可以做到,因为它的上下文窗口约为700万字,相当于一下子读完中国四大文学名著(zhe)和(hé)哈(hā)利(lì)波(bō)特(tè)全集。”
据(jù)了(le)解(jiě),今(jīn)年(nián)初(chū)发(fā)布(bù)并(bìng)开(kāi)源(yuán)的(de)新(xīn)一(yī)代(dài)系(xì)列(liè)模(mó)型(xíng)MiniMax-01首(shǒu)次(cì)将(jiāng)线(xiàn)性(xìng)注(zhù)意(yì)力(lì)机(jī)制(zhì)扩(kuò)展(zhǎn)到(dào)商(shāng)用(yòng)模(mó)型(xíng)级(jí)别(bié),综(zōng)合(hé)能(néng)力(lì)跻(jī)身(shēn)全球(qiú)第(dì)一(yī)梯(tī)队(duì)。特(tè)别(bié)是(shì)在(zài)“上(shàng)下(xià)文长(zhǎng)度(dù)”这(zhè)个(gè)指(zhǐ)标(biāo)上(shàng),它(tā)达(dá)到(dào)了(le)国(guó)内(nèi)外(wài)一(yī)些(xiē)顶(dǐng)尖(jiān)模(mó)型(xíng)的(de)20—32 倍(bèi)水(shuǐ)平(píng),推(tuī)理(lǐ)时(shí)的(de)上(shàng)下(xià)文窗(chuāng)口(kǒu)能(néng)达(dá)到(dào)400万(wàn)token(词元(yuán))。在(zài)架(jià)构(gòu)上(shàng),MiniMax-Text-01几(jǐ)乎(hu)重(zhòng)构(gòu)了(le)训(xun)练(liàn)和(hé)推(tuī)理(lǐ)系(xì)统(tǒng),模(mó)型(xíng)的(de)参(cān)数(shù)量(liàng)高(gāo)达(dá)4560亿(yì),每(měi)次(cì)激(jī)活(huó)459亿(yì)。在(zài)注(zhù)意(yì)力(lì)机(jī)制(zhì)层(céng)面(miàn),它(tā)的(de)80个(gè)注(zhù)意(yì)力(lì)层(céng)有(yǒu)架(jià)构(gòu)创(chuàng)新(xīn),使(shǐ)大(dà)模(mó)型(xíng)在(zài)处(chù)理(lǐ)长(zhǎng)输(shū)入(rù)时(shí)在(zài)确(què)保(bǎo)处(chù)理(lǐ)效(xiào)果(guǒ)的(de)同(tóng)时(shí)做(zuò)到(dào)了(le)低(dī)延(yán)迟(chí)。这(zhè)意(yì)味(wèi)着(zhe)该(gāi)模(mó)型(xíng)不(bù)仅(jǐn)能(néng)一(yī)次(cì)性(xìng)完(wán)成(chéng)大(dà)量(liàng)文字的分析,还能做到真正理解并高效处理超长内容。
此次MiniMax加入国家超算互联网,将充分利用平台强大的算力资源、开放协作的生态体系以及广泛的开发者网络,稀宇科技认为,“此次合作不仅能够激发更多关于长上下文技术的创新研究与实际应用,推动Agent时代更快到来,也能通过开源形式进一步激励我们开展更深入、高质量的模型研发和创新工作。”未来,该公司还将继续以开源形式发布新版旗舰模型,并与国家超算互联网展开深入合作,共同推动国产人工智能技术加速发展。
公众号

电话
需求反馈