亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例宿州市某某物流有限公司亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马宿州市某某物流有限公司用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读(责任编辑:热点)
- 以军对黎巴嫩首都贝鲁特发起打击
- 北京市发布雷电蓝色预警
- 中新真探:酷暑天喝冰水微血管会爆裂吗?
- 大湾区多城二手房迅速回暖,少数业主开始涨价
- 治愈生活的5件小事,提升幸福感
- 华为25亿卖出“问界”!释放了什么信号?
- 毁颜值的三个习惯,看看你家娃有吗? views+
- 不想米酵菌酸中毒 这几类食品需要留心 views+
- 胡塞武装称发射新型导弹袭击一艘以色列船只 views+
- 全国高考最强省,5.3万考生超过600分!实属罕见 views+
- 世预赛18强赛抽签揭晓,国足与日本、澳大利亚、沙特同组 views+
- 小红书实习生招聘倒计时! views+
- 奖励投诉顾客10万元!胖东来公布“擀面皮”事件调查报告 views+
- 小伙任性锻炼,指标超正常值150倍? views+
- 理科680分以上618人,文科600分以上1319人!2024高考分段表出炉 views+
- 唐尚珺16次高考冲了8次,冲志愿的利与弊,如何更理性地冲一冲? views+