Amazon Cloud Technology和Nvidia扩大了他们的协作，以加速生成AI创新

.extra-menu {背景：＃f3f3f3; } -menu.extra-menu-h h3 {line-height：36px;}。 显示：flex; collapse-timems：14px;} collapse-toggle img {width：30％; FAILE; 我是标志；最大值：0； } .collapsecontent.collapsecontent {max-height：1000px; （function（$）{$（'。collapse-toggle'）。classlist.toggle（'explived'）; $（'div'）。this）find（'div'）。}）

3月19日，Amazon Cloud Technology和Nvidia宣布NVIDIA最新的Nvidia Blackwell Architecture GPU将很快在Amazon Cloud Technology上发布。 Amazon Cloud Technology提供NVIDIA GB200 GRACK BLACKWERS SUPER CHIP和B100 TENSOR CORE GPU，继续扩大两家公司之间的长期战略合作，为客户提供安全，精致的基础架构，软件和服务。功能。

此举包括NVIDIA的最新多键系统，下一代NVIDIA Blackwell Architecture GPU和AI软件，Amazon Nitro Systems，Amazon KMS和The Amvidia最新的Multinode Systext，Advance Advance Advancation Advancation Advance Undectity Intection Integrate nvidia and Amazon Cloud Cloud Cloud Cloud Cloud Cloud Cloud Cloud Integration技术，包括安全性。 弹性织物适配器（EFA）和亚马逊EC2 Hyperscale Hyperscale Ultra cluster的PETABIT级网络尺寸（EFAS）。 双方共同提供云基础架构和计算芯片。 与上一代NVIDIA GPU相比，您可以使您更快，更快地构建和运行实时推理大量语言模型（LLMS）的实时推理。 以低成本。

1。 在1万亿个参数级别上加速大规模语言模型，以提高推理性能

Amazon Cloud Technology提供了由GB200 NVL72组成的NVIDIA Blackwell架构。 它带有72个Blackwell GPU和36 Grace CPU，并通过第5代NVIDIA NVLINK™互连。 当与Amazon Cloud Technology功能强大的EFA网络，Amazon Nitro Advanced Virtualization Systems和Amazon EC2 Ultraclusters Hyperscale聚类相结合时，客户可以轻松扩展到数千个GB200 Super Chips。 随着Nvidia Blackwell在Amazon Cloud Technology的应用该体系结构在解决资源密集型和数万亿个参数语言模型方面取得了重大飞跃，以加速推理工作负载。

基于配备了NVIDIA H100的Amazon EC2 P5实例的成功（在短期内通过Amazon EC2的ML功能可供客户使用），Amazon Cloud Technology宣布了Amazon EC2的启动。计划提供。 支持使用新的B100 GPU和Amazon EC2 UltryPlusters的部署，以加速训练和推断Hyperscale Generation AI。 GB200也可以在NVIDIA DGX™Cloud（由Amazon Cloud Technology共同开发的AI体系结构）中获得。 它为企业开发人员提供了建立和部署复杂的，生成的AI模型所需的专用基础架构和软件。 由亚马逊云技术推出，基于布莱克韦尔的DGX Cloud实例加速了具有尖端发电机AI和超过1万亿个参数的大规模语言模型的开发。

2。 亚马逊硝基系统，亚马逊KMS，EFA加密和Blackwell加密技术应该有信心AI技术变得越来越广泛地使用，因此您可以完成培训过程。 ，安全处理这些数据。 确保模型的权重很重要。 模型权重是训练过程中由模型训练的参数，对于模型做出预测的能力很重要。 确保模型权重的安全性对于保护客户的知识产权，防止模型被篡改并保持模型完整性非常重要。

Amazon Cloud Technology的AI基础架构和服务实现了安全功能，使客户可以控制其数据并防止数据与第三方模型提供商共享。 亚马逊硝基系统和NVIDIA GB200的组合阻止了未经授权的个人访问模型权重，从而将AI安全性降低到了新的高度。 GB200支持从GPU和GRACE CPU到黑色的NVLink连接的物理加密GPU数据传输通常是加密的，EFA还可以加密来自分布式培训和服务器之间的推理过程中的数据。 GB200受益于亚马逊硝基系统。 这将主机CPU/GPU I/O功能转移到专业硬件中，提供更一致的性能并增强安全性，以保护整个云的客户和客户。 代码和数据的安全性。 这项独特的功能已由领先的网络安全公司NCC Group独立验证。

通过将GB200与Amazon EC2一起使用，Amazon Cloud Technology允许您使用Amazon Nitro Entlo和Amazon KMS在EC2实例旁边创建一个受信任的执行环境。 Amazon Nitro Entlaves允许客户使用Amazon KMS控件下的钥匙加密培训数据和权重。 安全区域可以从GB200实例中加载，并可以与GB200 SuperChip直接通信。 这允许亚马逊KMS以加密，安全的方式直接与安全区域进行通信，并直接传递关键材料。 安全区允许材料传递给GB200。 这可以保护客户实例上的数据，从而允许Amazon Cloud技术运营商访问密钥并解密训练数据和模型权重，从而为客户提供对数据的无与伦比的控制。

3。 “ Ceiba Project”使用Blackwell来推动NVIDIA在Amazon Cloud Technology上的未来一代AI创新

RE：Invent 2023将在NVIDIA和Amazon Cloud Technology上发行的“ CEIBA Project”。世界上最快的 AI超级计算机。 该超级计算机专为NVIDIA专有的研究与开发而设计，仅在Amazon Cloud Technology上托管。 第一个超级计算机以20,736 GB200 GPU为特色，内置在新的NVIDIA GB200 NVL72配置及其独特的第五代N.中。Vlink连接10,368个Nvidia Grace CPU。 该系统通过Amazon Cloud Technology的第四代EFA网络扩展，为每个SuperChip提供低潜伏期带宽网络吞吐量。 与建筑架构CEIBA相比，性能高六倍。

NVIDIA的研发团队使用CEIBA使用大规模语言模型，图形（图像/视频/3D代）和模拟，数字生物学，机器人技术，自动驾驶汽车，NVIDIA Earth -2 Climate Treecasting和其他Sectors促进AI技术。 帮助NVIDIA推动未来一代的AI创新。

iv。 在医学健康和生命科学空间中的AI生成应用程序

Amazon Cloud Technology和NVIDIA在Amazon Sagemaker和NVIDIA NIM推断Microcell Services集成并提供高性能的Nim Nim推理。 低成本AI推理解决方案。 该服务可作为NVIDIA AI Enterprise Edition的一部分获得。 这种组合使客户可以在Amazon Sagemaker上运行快速部署和优化的NVIDIA GPU，从而减少了生成的AI应用程序的启动时间。

Amazon Cloud Technology和Nvidia还将共同努力在计算机辅助发现领域扩展，并启动用于化学物质，蛋白质结构预测，药物分子和理解的新的NvidiabioneMo™基本模型。 目标。 交换。 这些新模型将很快在Amazon Healthomics上提供，这是一项专门的服务，旨在帮助医疗保健和生命科学组织商店，查询和分析基因组，转录组和其他OMICS数据。

Amazon Healthomics和NVIDIA Healthcare团队也正在合作推出发电机AI微服务，以推动药物发现，医疗技术和数字健康。 该服务提供了新的GPU加速，基于云的服务目录，涵盖了生物学，化学，成像和医疗保健数据，使医疗保健业务能够利用Amazon Cloud Technology的最新成就。

这几篇文章你可能也喜欢：

• 亚马逊云技术开始了好礼物，可以免费使用，注册并享受70美元的扣除优惠券可以使用流行的云服务
• 亚马逊云技术在中国推出了亚马逊网络防火墙
• 亚马逊云技术在中国推出 Amazon FSx for OpenZFS
• Amazon Cloud Technologies 在 Amazon Bedrock 平台上宣布 Claude 3 Opus 模型
• 亚马逊云技术连续三年位列中国人工智能开发平台榜首（亚马逊云技术是做什么的？）

本文由主机参考刊发，转载请注明：Amazon Cloud Technology和Nvidia扩大了他们的协作，以加速生成AI创新 https://zhujicankao.com/143421.html