计算机考研方向(计算机专业考研方向)



计算机考研方向,计算机专业考研方向

Cerebras公司正在努力成为人工智能云计算领域的一名“重量级”参与者,其超级计算机名为“仙女座”(Andromeda),“人工智能性能”可达到每秒100万兆次。该公司称“仙女座”是美国最快的AI系统之一。该系统将16个CS-2系统串在一个集群中,共有1350万个AI计算核心。

每个CS-2系统都有一个85万核的晶圆大小的芯片,被认为是有史以来最大的处理器。仙女座系统有96.8Tb的内部带宽。

为了进行预处理,Andromeda连接到284个单插座服务器,每个系统有一个AMD Epyc 7713“Milan”CPU, 128GB RAM,三个1.92TB NVMe驱动器和两个100Gb以太网网卡。

Cerebras首席执行官Andrew Feldman表示,基准测试是基于16位的exaflop,半精度线性缩放下的性能。

“线性缩放意味着当你从一个系统变成两个系统时,你完成工作的时间会减少一半。这在计算机领域是一个非同寻常的特性,”Feldman补充说,“仙女座”可以扩展到16个以上的相连系统。

CS-2中的单个芯片可以训练具有数十亿个参数的语言模型。”仙女座”可以用万亿的参数训练更大的语言模型,或者用更短的时间训练更小的模型。

“仙女座”建造成本约为3000万美元,而且只花了三天时间。

Feldman表示,该系统的性能可与Argonne国家实验室的“北极星”( Polaris)超级计算机相媲美,“北极星”拥有2,240个Nvidia A100 GPU和560个AMD Milan CPU,提供了25.8 petaflops(理论34.2 petaflops) 64位双精度,或大约700 petaflops FP16张量核心性能。根据今年6月发布的计算世界500强榜单,北极星是世界上速度第14位的超级计算机。

“仙女座”系统由16个机架组成,比“北极星”(使用40个机架)要小。

这台超级计算机部署在加州圣克拉拉的Colovore数据中心,被用于多种用途。想在购买之前试用硬件的公司可以通过云访问该系统体验,希望获得计算资源的公司也可以租用它。

Feldman说:“我们正在为那些想要解决大问题但又不需要所有设备的公司使用它。”

仙女座系统也可以免费提供给学生和学者。部署AI模型只需要几行代码。

Cerebras正转向成为人工智能云提供商,追随英特尔(Intel)和英伟达(Nvidia)等芯片制造商的脚步,为客户提供测试芯片或代码的云服务。

Meta还在开发一台拥有6080个Nvidia A100 GPU的AI超级计算机,以增强其AI和元宇宙驱动的计算能力,而特斯拉也有一台拥有7360个A100 GPU的AI超级计算机。

仙女座集群中的系统通过一种名为Swarmex的结构连接起来,将内存、计算和网络分散到单独的集群中。计算和内存元素作为一个单独的系统运行,并独立伸缩,这有助于更快地训练AI模型。参数存储在一个名为MemoryX的内部系统中。

CS-2中的资源分解不同于GPU环境,在GPU环境中,计算被分散在分布广泛的区域的AI核上。计算需要在这个核心网络上进行协调,Feldman曾说过这既耗时又低效。AI计算还需要GPU在数千个核上进行相同的操作,以获得协调的响应时间。

计算机考研方向(计算机专业考研方向)



赞 (0)