您的当前位置:首页 > 综合 > 亚马逊云科技:Amazon EC2 P5e 实例正式可用 正文
时间:2024-09-22 23:32:50 来源:网络整理 编辑:综合
9月18日消息,亚马逊云科技宣布由英伟达H200 GPU提供支持的 Amazon Elastic Compute Cloud P5eAmazon EC2 P5e)实例现已正式可用。据了解,亚马逊云科技
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例酒泉市某某地暖科技制造厂亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马酒泉市某某地暖科技制造厂用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读o1方法性能无上限!马腾宇等证明:推理token够多,就能解决问题2024-09-22 23:05
美国“毒火车”事故破坏超预期 16个州被污染2024-09-22 22:47
设计上海LEED专场:重塑绿色办公新体验2024-09-22 22:35
台湾一列车疑似撞上落石,7人受伤2024-09-22 21:58
关于对美国军工企业采取反制措施的决定2024-09-22 21:57
余隆指挥马勒《第三交响曲》,武汉高考学子千里赴约2024-09-22 21:49
秦洪看盘|强势股退潮,减弱护盘动能2024-09-22 21:47
教育纵深2024-09-22 21:22
北京香山论坛|乌克兰前第一副外长:欧洲安全面临这个两难问题2024-09-22 20:54
不进球的C罗也能创造历史,这支葡萄牙的人员储备太恐怖2024-09-22 20:46
英媒:俄境内200多个军事目标在乌射程范围内2024-09-22 23:26
SIFF丨DAY9:金爵奖颁奖典礼就在今晚2024-09-22 23:09
首次打进草地巡回赛四强,张之臻再创中国男网新高度2024-09-22 23:02
高温作业人员请注意!国家卫健委向你发来健康风险提示2024-09-22 22:51
北京香山论坛上,美方代表团团长收到一份特殊礼物2024-09-22 22:47
日航一飞机因发动机故障紧急降落 无人受伤2024-09-22 22:28
设计上海LEED专场:重塑绿色办公新体验2024-09-22 22:06
亚美尼亚宣布承认巴勒斯坦国2024-09-22 22:04
斯里兰卡全岛实行宵禁2024-09-22 21:01
在中国,到底哪些人在吃“伟哥”?2024-09-22 20:54