随着nvidia t4 tensor core gpu已陆续在北美、欧洲和亚洲地区aws上线,云端用户现可享用多重功能,包括自动化与人性化兼得的客户服务、在任何互联设备端均能体验到的专业工作站性能以及电影级画质的pc游戏。
nvidia t4 gpu由一系列软件堆栈提供支持,为g4实例用户带来其所需性能及多种功能,并提升了效率。
nvidia的软件平台针对多种应用进行了优化,包括用于深度学习的nvidia cudnn、用于数据分析及机器学习的nvidia rapids 、用于云工作站图形的nvidia quadro虚拟工作站、以及用于云游戏的nvidia geforce。软件堆栈还包含了多种api、cuda以及适用于特定领域的cuda-x库,例如tensorrt、nccl、optix和视频编解码sdk。
只需一个实例,aws用户就能够无缝、高效地加速各类创作型工作负载。
aws计算服务副总裁matt garman表示:“在利用计算密集型应用时,客户会面对各类棘手的挑战,而我们专注于解决这些挑战。aws提供最全面的产品组合,帮助客户构建、训练并部署机器学习模型。amazon ec2提供多种经过优化、适用于不同机器学习案例的实例类型以供用户选择。对于开发者而言,部署了t4 gpu的全新g4实例的出现,不仅让机器学习变得触手可及,也让其变得更加经济实惠。”
以更低成本实现更多ai功能
nvidia t4是第二代tensor core gpu,可谓gpu的华丽升级,它让ai应用能够实现最高性能,同时还能保持cuda的可编程性。
图像分类、对象检测、自然语言理解、自动语音识别和推荐系统等ai应用的创新性、多样性和复杂性不断提升。nvidia t4凭借高达130 tops的int8性能,提供加速这些应用所需的混合精度张量处理功能。
亚马逊是业界率先针对训练和推理为nvidia gpu提供即用nvidia ngc容器支持的超大规模供应商之一。ec2 p3实例采用nvidia v100 tensor core gpu,让客户能够使用自动混合精度功能,将机器学习训练耗时从数天减少至数小时。借助ec2 g4,客户能够大规模部署ai服务,同时大幅降低运营成本。
根据nvidia在vmworld期间发布的消息,vmware cloud on aws用户将会很快获得全新的高度可扩展的、安全的全新云服务(其中包括amazon ec2裸机实例),该服务可通过nvidia t4 gpu和全新nvidia虚拟计算服务器(vcomputeserver)软件进行加速。
使用这一企业级混合云平台,企业能够加速应用的现代化进程。从数据中心到aws云,他们都能够基于一致的vmware基础架构来实现部署、迁移和运营的统一,以支持计算密集型工作负载,包括ai、机器学习和数据分析。
随时随地实现实时光线追踪和ai增强型图形
实时光线追踪是计算机图形学领域梦寐以求的技术,可实现栩栩如生的场景。借助逼真的实时渲染、ai增强型图形以及视频和图像处理,设计师和艺术家将使用全新方式开展内容创建。
nvidia t4是首款可用于云端的nvidia rtx光线追踪gpu。t4 gpu采用rt core,这一专用型计算资源将告别过去昂贵的光线追踪方法,以非凡的效率实施光线追踪操作。
全新g4实例与nvidia quadro 虚拟工作站(quadro vws) amazon machine images相结合,支持最新光线追踪api,包括microsoft dxr、nvidia optix和vulkan。传媒娱乐、建筑、制造、以及石油和天然气等行业的技术和创意专业人士可以在aws云端运行最新图形软件应用。
有了aws,只需不到5分钟就能部署虚拟工作站,简单快捷。用户可访问aws marketplace并选择nvidia quadro vws机器映像和g4实例,后者在windows server 2016和windows server 2019上可用。
gpu赋力的云游戏
t4采用的turing架构也将nvidia在游戏领域的实力带到了aws。该gpu的硬件编码器引擎可通过视频编解码sdk进行编程,使得要求最为严苛的游戏也能使用其进行渲染和流式传输。
游戏发行商可基于最新nvidia技术来构建自己的云游戏实例,而且几乎可以在任何设备端向玩家提供完整的pc游戏目录。
玩家可在高分辨率下以快速、流畅的帧速率尽享所有最新游戏的乐趣,而无需担心硬件升级或驱动程序、游戏补丁的更新。
支持此功能的nvidia驱动程序可通过aws marketplace获取,并可在windows server 2016、windows server 2019和linux os操作系统中的aws g4实例上运行。
即刻开始aws ec2 g4 之旅
首批采用amazon ec2 g4实例的客户包括clarifai、electronic arts、gumgum和purweb,他们利用nvidia t4的全能算力和性能,能够大规模运行各类计算密集型工作负载。这几家公司都能够为客户提供强大的服务,同时降低客户的服务构建和部署成本。
未来几周内,g4实例还将支持amazon elastic inference,用户可在amazon ec2或amazon sagemaker实例中添加gpu加速,以更低的成本实现更快速的推理,最高可节省75%的成本。
点击访问aws g4实例页面,了解更多信息并试用nvidia t4。