在昨日的阿里云国际峰会上,阿里云宣布将向海外大模型开发者和企业提供一站式开发服务,包括模型训练、推理、部署等全流程的工程平台和智能算力,以满足国际市场对大模型开发服务的旺盛需求。
其中,“PAI灵骏智算服务”可为开发者和企业提供AI开发全流程的工程平台和智能算力,能稳定支撑多达10万亿参数的多模态大模型的低能耗训练。
数据显示,基于PAI灵骏智算服务,单训练任务可达万卡规模,训练性能可提高近10倍,千卡规模的线性扩展效率达92%。在通义千问等大模型的训练和应用中,PAI灵骏智算服务显著提升了大模型训练效率及推理效率。
同时,阿里云加速器AIACC可以配合资源管理工具FastGPU构建AI计算任务,可以帮助开发者和企业提升训练和推理性能,并能够适用于基于主流AI计算框架优化模型。
根据斯坦福 DAWN 深度学习基准测试,AIACC可将人工智能模型训练速度提高70%,推理速度提高三倍。