腾讯云助力minimax打造大模型:规模超千卡,可用性达99.9%-凯发官网首页
 
 
  »  凯发官网首页-凯发k8官网下载  »  资讯  »  正文

腾讯云助力minimax打造大模型:规模超千卡,可用性达99.9%-凯发官网首页

2023年7月21日              
关键字:  
       高效灵活的云上基础设施,是大模型创业的必要底座。

  7月20日,腾讯云对外披露助力minimax研发大模型的最新进展。目前,腾讯云长期支持minimax的千卡级任务稳定运行在腾讯云上,可用性达99.9%。

  minimax是一家专注通用大模型研发的独角兽创业企业,拥有文本、语音、视觉多种模态融合的通用大模型引擎能力。研发过程中,每日亿级的调用次数,也带来了对算力的海量需求。

  从2022年6月起,基于算力集群、云原生、大数据、安全等产品能力,腾讯云为minimax搭建了从资源层、数据层到业务层的云架构。

  在资源层,高性能、高弹性和高稳定的算力需要借助专业的云服务。腾讯云协同优化单机算力、网络架构和存储性能,为minimax构建起大规模、分布式的hcc高性能计算集群。

  借助腾讯自研的星脉网络,hcc集群将通信损耗降到更低;cfs turbo、cos goosefs高性能存储,使得上千个计算节点能同时高速读取训练数据。

  同时,利用腾讯云容器服务tke,minimax实现了对不同规格云服务器的统一管理和调度,各种类型的应用和服务得以部署在同一套基础设施上,资源实现了高效整合,资源利用率大幅提升;

  基于云原生的管理方式,支撑7*24小时的全局监控视角,支持编排、框架、实例等多层级的指标监控。一旦触发故障,能够在5分钟内恢复任务、10分钟内恢复基础设施,无需人工干预完成,能够最大化保障任务连续进行。

  根据实测数据,在云底座的支撑下,激增的并发计算量;基于云原生支撑,minimax整体用云成本降低20%。

  在数据层,minimax在大数据分析方面也有大量的任务需求。

  通过腾讯云的数据集成datainlong、流计算oceanus、数据湖计算dlc等云原生大数据产品提供的数据处理能力,对大量数据做实时或离线分析,满足了minimax在各个阶段的数据分析需求,实现数据的快速灵活部署。以容器化的方式使用大数据组件,使得模型验证、推理等任务得以按计划推进。

  此外,大模型研发过程中,minimax对云上资产安全、web业务运营风险、ddos攻击防护等高度关注。

  通过引入腾讯云的防火墙、waf、主机安全、漏洞扫描、数据加密、ioa零信任安全管理等一系列安全产品,minimax实现了对云上资产的全方位保护,确保业务的稳定运行和数据的安全性。

  业务上云后,基于海量、弹性的算力支撑和大量改进调优,minimax的大模型研发得以加速。

  minimax业务副总裁魏伟表示:“成熟的云基础设施,既满足了业务弹性与稳定性的需要,又提升了研发效率。minimax将进一步扩大用云规模,与腾讯云加速训练、推理等更多业务场景的云上落地,共同打造面向大模型的云上基础设施。相信未来,云计算会为aigc带来更多可能。”

  在算力集群、星脉网络、向量数据库之外,腾讯云还推出了涵盖模型预训练、模型精调、智能应用开发的一站式行业大模型凯发k8官网下载的解决方案,助力企业快速搭建专属模型。

  未来,腾讯云将继续通过软硬一体的方式,持续加速全社会云上创新。
责任编辑:
e-works
官方微信
掌上
信息化
排行榜
编辑推荐
文章推荐
博客推荐
视频推荐
2023/7/12
2023/7/12
2023/7/12
网站地图