亚马逊云科技在2024年re:Invent大会上宣布了其AI战略的多项更新,旨在通过技术创新推动AI技术的普及和应用。以下是大会宣布的关键更新:
AI芯片Trainium2:亚马逊云科技推出了基于3nm工艺的AI训练芯片Trainium2,以及基于该芯片的Amazon EC2实例,这些实例专为深度学习和大型生成式AI模型设计,提供更高的性能和更低的成本。
Trainium2 Ultra Servers:为了满足超大型AI模型的训练和推理需求,亚马逊云科技推出了Trainium2 Ultra服务器,这些服务器由多个Trainium2芯片组成,提供强大的计算能力。
与英伟达合作的P6实例:亚马逊云科技与英伟达合作,推出了基于H100 GPU的P6实例,预计算力比当前GPU快2.5倍。
Amazon NOVA系列模型:亚马逊云科技推出了自研的Amazon NOVA系列基础模型,这些模型在多模态需求和自然语言处理服务方面表现出色。
多模态技术:亚马逊云科技计划在2025年推出多模态技术,实现文本、图像、视频等多模态输入输出的处理。
模型蒸馏技术:亚马逊云科技推出了Amazon Barrock Model Distillation技术,该技术通过模型蒸馏减少成本并提高效率,同时保持模型性能。
AI服务安全性:亚马逊云科技强调了解决AI幻觉问题的重要性,并采取措施确保AI服务的安全性。
AI芯片赋能业务:亚马逊云科技的AI芯片不仅服务于外部客户,也内部赋能亚马逊公司的电商、库存管理、物流优化等业务。
AI三层架构创新:亚马逊云科技展示了其在AI三层架构上的创新,包括智能算力分配、丰富的基础模型和智能提示路由,以降低AI成本并提高效率。
AI普惠化应用:亚马逊云科技推出了Amazon Q,这是一个AI普惠化应用,旨在降低AI技术的门槛,使其更加易于获取和使用。
评论区