当最强GPU遇上大型云平台NVIDIA与AWS的协同效应

当最强GPU遇上大型云平台NVIDIA与AWS的协同效应

近年 AI 技术大盛,「生式成 AI」的应用已是渗透到各层面,但回望这波 AI 热,除了「机器学习」技术日益完善,「云端」的普及也协助降低用家使用 AI 的门槛,让更多企业以至个人用户,无需额外花费高昂成本追求日新月异的硬件软件,便能够在「云端」训练各种企业专属的 AI 模型,当中,NVIDIA 与 AWS 的合作可说是人工智能云端服务的最佳例子。

回看这波AI热潮,机器学习(Machine Learning)技术当然扮演着重要角色,但要支撑着人工智能背后所需的强大计算机运算能力,各类型硬件如CPU(处理器)、GPU(图像处理器)、RAM(随机存取内存)、SSD(固态硬盘)也不可或缺。 但伴随着 AI 崛起,不少高规格的 AI 硬件(如 NVIDIA 推出的 GPU )也因需求大增而水涨船高,令广泛使用机器学习仍有一定难度。 直至近年云端网络平台兴起,各大平台均挟着一站式数据整合、低成本储存、高安全性和多样化的机器学习服务,配合各类高效CPU、GPU硬件,替用户提供极具成本效益的人工智能云服务。

当中,大型云端网络服务平台AWS与AI范畴龙头企业NVIDIA的合作即为个中的最佳例子,已合作超过12年的两间公司,早前亦推出了电子书《Fast-track innovationwith generative AIand machine learning Delight》,讲解如何使用AWS及NVIDIA的云服务整合AI技术, 让客户进行智能文书处理、计算机视觉、个性化体验、生成式 AI 等各类工作。

当最强GPU遇上大型云平台NVIDIA与AWS的协同效应

书中提到,AWS 最新的 Amazon EC2 P4d (Amazon Elastic Compute Cloud,在云提供高效能机器学习训练和高性能运算的应用程序)就采用了 NVIDA 最新的 A100 Tensor Core GPU,让训练 AI 模型的时间从数天大幅缩压到数分钟,这意味着开发者能够快速验证、训练和调整模型,加速创新,提高工作效能; 此外,Amazon EC2 P4d 程序亦能通过超级计算机 EC2 UltraClusters 进行更复杂的多节点 AI 模型训练,甚至在有需要时,将 NVIDIA A100 Tensor Core GPUs 的使用量快速扩展至数千个。 因此,Amazon EC2 P4d 作为首个在云中支持400 Gbps 的应用程序,其效能较前代的Amazon EC2 P3、Amazon EC2 P3dn提高了平均2.5倍,

书中亦提及另一款产品Amazon EC2 G5,指其就是采用了NVIDIA新一代的GPU,让AWS云端服务提供的机器学习效能,足较前一代提高多达3.3倍,并支持最多192个虚拟CPU、最多100 Gbps的宽带、最多7.6 TB的本地NVMe SSD储存量,意味着用家可以在云端情况下,训练更大、更复杂的自然语言处理(NLP)、计算机视觉和AI 模型,让云服务用家能够以更符合成本效益的费用,持续追求更高效的 AI 运算速度。

当最强GPU遇上大型云平台NVIDIA与AWS的协同效应

在软件或应用程序方面,《Fast-track innovation》电子书亦提到 AWS 与 NVIDIA 如何创造协同效应,例如,AWS Marketplace 上有提供 NVIDIA AI Enterprise,一个能够提供超过 100 种架构、预训练模型(pretrained models)、AI 工作流程的云端原生软件平台,让用户可以简化生成 AI、 语音AI、视觉AI、网络安全等应用程式的开发和实施程序,并能让NVIDIA AI Enterprise协助监控常见漏洞和暴露(CVE)、API稳定性等情况,及时作出修补; NVIDIA AI Enterprise 亦能協助開發人員. 利用 AWS SageMaker (AWS 的机械学习中心)加快开发,提供更多、更完善的算法、模块、机器学习解决方案予用家,最终让用家更容易探索和使用 Amazon Bedrock 的开源基础模型(FMs),例如 OpenLLaMA、RedPajama、Mosaic MPT-7B、FLAN-T5/UL2、GPT-J-6B/Neox-20B 和 Bloom/BloomZ 等模型,相得益彰。

总结而言,在人工智能科技愈发先进的情况下,「AI 云端服务」让用户突破自身的硬件、软件限制,更容易使用及训练适合自己的人工智能模组,进行如生成内容、数据处理、计算机视觉等工作,其中 AWS 与 NVIDIA 的合作,更成了云端服务与最新型 GPU 合作的最佳例子,进一步降低了使用 AI 的门槛,让 AI 普及至不同行业、阶层之中。

(0)
打赏 微信扫一扫 微信扫一扫

相关推荐

发表评论

登录后才能评论