支持万亿级参数训练！移动云发布大模型训练基地

2024-05-27 10:43:27来源：今日热点网

5月24日，在中国移动人工智能生态大会上，中国移动宣布开放大模型训练基地、大模型评测基地、大模型产业创新基地等三大人工智能基地，面向全社会提供大模型从训到推、AI＋原生应用孵化等的一站式产业融通带动服务，加快大模型产业化、规模化发展。

ebe80a373f8c0419919ea7c010048816

大模型训练基地是中国移动为大模型提供训练所需智算资源及训推一站式工具链的服务平台。基于超万卡智算集群，可为全社会提供超大规模、超长稳定、超高效率的大模型训练服务，并推出两大优惠政策，一个是已经向社会全面开放九天众擎百亿大模型，后续将陆续开放千亿大模型；另一个是提供一定规模普惠算力用于模型共建。针对千亿、万亿大模型训练所需，提供异构算力调度、万卡并行训练、断点自动续训、“通、智、边”一体化训推服务，承载训练及大颗粒算力需求，实现千卡并训任务20天稳定训练，千亿参数模型30天预训练一轮，加速教育、医疗等各行业各场景AI模型稳定开发训练。

大模型训练基地依托移动云算网资源优势，通过提供澎湃算力、高效工具，助力大模型训得更快、训得更稳。

提供澎湃算力

布局覆盖全国的智算中心

中国移动响应国家号召，依托算力网络“4＋N＋31＋X”资源布局体系，按照“集中训练，分布推理，统一管控，弹性调度、自主可控、绿色低碳”原则，统筹规划“N＋X”智算中心布局体系，建设技术领先、绿色节能、服务全局的智算中心。中国移动已在京津冀、长三角、粤港澳大湾区、成渝、贵州、内蒙古、宁夏、黑龙江、湖北、山东等投产首批12个智算中心节点，全网智算规模达到17EFLOPS（FP16）。以移动云为算龙头，赋能10万＋客户数智化转型。

df7bb7036c9dd92f36f6a80f265b00e8