登录网站,点击鼠标,人坐在实验室里,就可以轻松将算法和数据传到20多公里外的智算中心,开始大模型训练。4月25日,在武汉大学智能感知与机器学习实验室,智能交互方向负责人蔡贤涛教授向笔者介绍:“使用中国电信中部智算中心的算力进行多模态医学大模型的开发训练,就像网购一样方便快捷。”
蔡教授和团队成员们正在研发参数数据规模为13B的中文医学多模态大模型,据他介绍:“这个项目的数据如果用普通的网络传的话,传输的时间可能按月来计算了,但是我们用中国电信中部智算中心的平台,几天的时间就已经把所有数据全部传上去做训练,做训练的过程也是非常的平稳、丝滑!”
良好的算力体验,平稳丝滑的感受,来自于中国电信中部智算中心的算力运力存力融合一体化、以高性能算力为主的多元算力基础设施体系。通过强大的网络运力,形成了一朵线上的算力云。一台台用于计算的服务器,都通过高性能网络连接了起来,用户只要有网络,就可以远程调用算力。计算的过程中,海量的数据也能平稳高效地在服务器间传输。
据天翼云湖北分公司专家介绍:中国电信中部智算中心的液冷服务器采用RoCE协议,支持直接内存访问,具有高带宽、低时延的特点,液冷区的计算节点间、计算与存储节点之间均为200G互联,风冷区通过IB技术组网,高带宽、低时延,且稳定性高,是目前用于GPU服务器的首选网络互联技术。计算节点之间的网络链路为400G,计算节点与存储节点间的链路为200G。高速网络将 AI服务器、通算服务器、存储服务器等通过交换机和路由聚合在一起,构建一个统一的算力集群,再利用光纤和最先进的路由器接入到中国电信的网络里面,用户只要接入到互联网,就可以像用水用电一样随时访问、调取。
在今年全国人大会议期间,全国人大代表,湖北电信党委书记、总经理张敏建议,加快构建全国一体化算力协同调度平台,实现需求和供给的精准对接,让算力像水电煤气网一样“随时随地、即取即用”。加快行业数据开放共享,发挥我国海量数据规模和丰富场景优势,通过多场景应用、多元数据融合,以量变引发质变,赋能现代化产业体系建设,推动新质生产力勃发。