允中 发自 拉斯维加斯吉吉影音色情
量子位 | 公众号 QbitAI
亚马逊云科技在2024年re:Invent民众大会上秘书了其AI硬件的最新进展——
珍爱推出基于Amazon Trainium2芯片的Amazon EC2 Trn2实例，同期发布了新一代AI检修芯片Trainium3。
这些新家具为东说念主工智能模子的修复和部署提供了更高的性价比和性能，标记着亚马逊云科技在生成式AI范围的新里程碑。
Amazon EC2 Trn2实例选择最新的Trainium2芯片，性价比拟现存基于GPU的EC2实例栽培了30-40%，为AI修复者提供了更具资本效益的处治决策。
△Amazon EC2 Trn2 实例劳动器模块
每个Trn2实例配备16个Trainium2芯片，可提供高达20.8 Petaflops的浮点算力，相称适应检修和部署包含数十亿参数的大型谈话模子。
△Amazon Trainium2芯片
为了知足束缚增长的AI有计划需求，亚马逊还推出了Trn2 UltraServers。
这种劳动器机型通过NeuronLink超速互连时间将四个Trn2劳动器素质为一个超大型劳动器，具备83.2 Petaflops的有计划才能，专为超大限制AI模子的检修和推理而设想。
△Amazon EC2 Trn2 UltraServers
此外，亚马逊云科技还秘书了新一代AI检修芯片Trainium3的推出。
chloe 调教这款芯片是亚马逊首款选择3纳米工艺制造的AI芯片，在性能、能效和密度上诞生了新标杆，搭载Trainium3的UltraServers性能展望是Trn2 UltraServers的四倍。
Trainium3的实例展望将在2025年末上线，为明天的大限制生成式AI模子提供更快的检修速率和更优的及时性能。
亚马逊云科技生成式AI科学总监Sherry Marcus博士在通常过程中时默示，亚马逊戮力于于为客户提供更高效的处治决策，匡助他们减少AI幻觉并提高模子的准确性。
Marcus博士提到：
咱们推出了自动推理（automated reasoning）等功能，欧美成人电影确保大谈话模子的输出愈加可靠。这些处治决策使得咱们在减少AI幻觉方面得到了很好的着力。
这意味着，Amazon Bedrock平台上可罢了基于高下文的考据机制，以确保模子输出的合感性和准确性，进一步减少AI幻觉的发生。
除了硬件上的冲破，亚马逊还与多家跳动AI公司张开配合。
Anthropic和亚马逊共同打造了名为Project Rainier的EC2 UltraCluster有计划集群，包含数十万个Trainium2芯片，其算力达到现时着手进AI模子检修所需算力的五倍以上。
这个技俩将成为民众最大的AI有计划集群之一，供Anthropic构建和部署明天的AI模子。
Hugging Face也在借助Amazon Trainium2和Neuron SDK修复开源AI模子，这些配合将使更多修复者偶然以更低的资本、更高的着力创建AI应用。
亚马逊云科技还发布了Amazon Neuron软件套件，以匡助修复者更好地应用Trainium芯片的性能。
该软件包含编译器、开动时库和器具，与JAX和PyTorch等框架无缝集成，使修复者偶然豪恣优化模子，在Trainium芯片上罢了最好性能。
Sherry Marcus博士还提到，这些器具的推出将极地面简化AI模子的修复经过，尤其是在减少AI幻觉和提高模子推理可靠性方面发达超越。
通过推出Amazon Trainium2和Trainium3芯片，亚马逊云科技链接保抓在生成式AI硬件范围的跳动地位。
新家具不仅偶然为大型模子提供超卓的性能和更快的检修速率，还权臣裁汰了企业部署AI的资本。
除此除外，应用层上的更新亦然这次re:Invent的一大亮点。
沙利文大中华区总监李庆默示：
本届re:Invent大会上的新发布愈加侧重于家具的现实应用和器具优化，这标明往时一年中，民众用户正在积极使用亚马逊云科技进行生成式AI应用的探索和调动。
本次更新有两个方面让李庆印象潜入：一是跟着民众企业对生成式AI的深入应用，数据不仅罢了跨区域的传输与协同，更罢了跨地域、跨区域的深度素质.
二是亚马逊云科技进一步优化生成式AI的应用，从数据存储、治理到经管的全经过栽培，旨在简化 AI 对数据的使用，同期强化模子功能、加多AI agent 经管和支吾模子幻觉的功能。
此外，新发布的 Amazon Nova 大模子家眷备受期待，这一系列的模子和亚马逊云科技的绽开聘用理念将为用户带来更多调动契机，进一步推进 AI 的发展。
这些调动将进一步推进生成式AI在各个行业的应用，使企业偶然更好地应用AI时间来栽培业务发达、裁汰运营资本。
— 完 —
量子位 QbitAI · 头条号签约
热心咱们吉吉影音色情，第一时候获知前沿科技动态
