1+4+N架构:打造大模型本地化部署、开发流水线
绿色智算体是特斯联于2023年首次打造推出的一系列高效易用的智算一体化基础设施和服务,具有开箱即用、算力资源弹性配置、算力套餐灵活可选、运维过程绿色高效,且全周期自主安全可控的特点。
近年来,大模型技术不断突破,特别是DeepSeek V3/R1系列模型的横空出世,在推动赋能千行百业的同时,亦催生了“超级人工智能即服务”(Intelligence as a Service, IaaS)的全新商业模式,使智算需求激增。然而于应用侧企业及机构而言,要想高效部署、利用前沿大模型并以之实现业务赋能,则还面临高算力运营门槛,高AI应用门槛,高算力应用成本,及高安全保障要求的“四高挑战”。
特斯联绿色智算体采用1+4+N模块化架构
为此,特斯联绿色智算体采用1+4+N模块化架构,以软硬协同的一体化产品,同时满足行业的绿色低碳、开箱即用、弹性高效、安全可控诉求。
“1”组硬件集群释放异构算力极致性能。支持华为昇腾、昆仑芯、寒武纪、燧原、沐曦、壁仞等十余种国产信创芯片异构兼容适配,算力资源管理效率最高可达97%,使大模型能够在多种异构算力上发挥出比肩国际芯片厂商的极致性能。
“4”套软件平台支持定制化大模型“开箱即用”。为进一步降低智能算力及领先模型的应用门槛,绿色智算体特别部署X-Stack智算云平台、比特大模型平台、智算运营管理平台、智算运维管理平台四套软件平台。
“N”个行业赋能服务促大模型普惠、易用。基于上述硬件集群及软件套组,绿色智算体为行业企业及机构提供多元算力应用、模型代训练调优、垂域模型联合研发、成熟模型应用调用、科研成果创新孵化等广泛赋能服务。
前沿模型催生广阔应用生态,绿色智算体助力构建完善智算网络
面向不同规模需求,绿色智算体提供P级至千P级服务
作为特斯联AIoT Infra层的核心产品,面向不同算力规模的训练及推理需求,绿色智算体目前提供特算1号(8P级规模智算体)、特算1号-DS版(8P级规模智算体)、特算2号(64P级规模智算体)、特算3号(千P级智算集群)。同时,特斯联mNode系列边缘智算服务器亦在推进面向DeepSeek-R1系列蒸馏模型的适配及调优。当前,特斯联绿色智算体业已在徐州智算中心,及摩托车行业某上市厂商落地应用,并助力摩托车行业打造了首例深度融合DeepSeek的应用案例。