Жим Келлер тэргүүтэй чип компани Tenstorrent нь хиймэл оюун ухаанд зориулсан шинэ үеийн Wormhole процессороо гаргасан бөгөөд энэ нь боломжийн үнээр сайн гүйцэтгэлтэй байх болно гэж найдаж байна.Тус компани одоогоор нэг эсвэл хоёр Wormhole процессорыг багтаах боломжтой хоёр нэмэлт PCIe карт, мөн програм хангамж хөгжүүлэгчдэд зориулсан TT-LoudBox, TT-QuietBox ажлын станцуудыг санал болгож байна. Өнөөдрийн бүх зарлалууд нь Wormhole хавтанг арилжааны ачаалалд ашигладаг хүмүүст биш харин хөгжүүлэгчдэд зориулагдсан болно.
“Хөгжүүлэгчдийн гарт илүү олон бүтээгдэхүүнээ өгөх нь үргэлж таатай байдаг. Манай Wormhole™ картуудыг ашиглан хөгжүүлэлтийн системийг гаргах нь хөгжүүлэгчдэд олон чиптэй AI программ хангамжийг өргөжүүлэх, хөгжүүлэхэд тусална” гэж Tenstorrent-ийн гүйцэтгэх захирал Жим Келлер хэлэв.Энэхүү нээлтийн үйл ажиллагаанаас гадна хоёр дахь үеийн бүтээгдэхүүн болох Blackhole-ийн соронзон хальсыг гаргаж, хүчирхэгжүүлснээр бид ахиц дэвшил гаргаж байгаадаа баяртай байна."
Wormhole процессор бүр 72 Tensix цөм (тэдгээрийн тав нь янз бүрийн өгөгдлийн форматын RISC-V цөмийг дэмждэг) ба 108 МБ SRAM агуулсан бөгөөд 160 Вт-ын дулааны дизайн хүчээр 1 ГГц давтамжтай 262 FP8 TFLOPS-ийг хүргэдэг. Ганц чиптэй Wormhole n150 карт нь 12 ГБ GDDR6 видео санах ойгоор тоноглогдсон бөгөөд 288 ГБ/с зурвасын өргөнтэй.
Wormhole процессорууд нь ажлын ачааллын янз бүрийн хэрэгцээг хангахын тулд уян хатан өргөтгөх боломжийг олгодог. Дөрвөн Wormhole n300 карт бүхий стандарт ажлын станцын тохиргоонд процессоруудыг нэгдсэн, өргөн Tensix үндсэн сүлжээ болгон программ хангамжид харагдах нэг нэгж болгон нэгтгэж болно. Энэхүү тохиргоо нь хурдасгуурт ижил ачааллыг даван туулах, дөрвөн хөгжүүлэгчийн хооронд хуваагдах эсвэл найман өөр AI загварыг нэгэн зэрэг ажиллуулах боломжийг олгодог. Энэхүү өргөтгөх чадварын гол онцлог нь виртуалчлалын шаардлагагүйгээр дотооддоо ажиллах боломжтой юм. Өгөгдлийн төвийн орчинд Wormhole процессорууд машин доторх өргөтгөл хийхдээ PCIe, гадаад өргөтгөлд Ethernet ашиглана.
Гүйцэтгэлийн хувьд Tenstorrent-ийн нэг чиптэй Wormhole n150 карт (72 Tensix цөм, 1 ГГц давтамж, 108 MB SRAM, 12 ГБ GDDR6, 288 ГБ/с зурвасын өргөн) нь 160 Вт хүчин чадалтай 262 FP8 TFLOPS, харин хос чип003 хавтантай. (128 Tensix цөм, 1 ГГц давтамж, 192 МБ SRAM, нэгтгэсэн 24 ГБ GDDR6, 576 ГБ/с зурвасын өргөн) нь 300 Вт-д 466 FP8 TFLOPS хүртэл хүргэдэг.
466 FP8 TFLOPS-ийн 300 Вт-ыг контекстэд оруулахын тулд бид үүнийг хиймэл оюун ухааны зах зээлийн тэргүүлэгч Nvidia-ийн энэхүү дулааны загварт санал болгож буй зүйлтэй харьцуулах болно. Nvidia-н A100 нь FP8-ийг дэмждэггүй ч INT8-ийг дэмждэг бөгөөд хамгийн дээд үзүүлэлт нь 624 TOPS (сийрэг үед 1,248 TOPS). Харьцуулбал, Nvidia-ийн H100 нь FP8-ийг дэмждэг бөгөөд 300W-д 1,670 TFLOPS-ийн оргил гүйцэтгэлд хүрдэг (сийрэг үед 3,341 TFLOPS) нь Tenstorrent-ийн Wormhole n300-ээс эрс ялгаатай.
Гэсэн хэдий ч нэг томоохон асуудал бий. Tenstorrent-ийн Wormhole n150 нь 999 доллараар зарагддаг бол n300 нь 1399 доллараар зарагддаг. Харьцуулбал, нэг Nvidia H100 график карт нь тоо хэмжээнээсээ хамааран 30,000 долларын үнэтэй байдаг. Мэдээжийн хэрэг, дөрөв эсвэл найман Wormhole процессор нь нэг H300-ийн гүйцэтгэлийг хангаж чадах эсэхийг бид мэдэхгүй ч тэдний TDP нь 600 Вт ба 1200 Вт байна.
Картуудаас гадна Tenstorrent нь хөгжүүлэгчдэд зориулж урьдчилан бүтээсэн ажлын станцуудыг санал болгодог бөгөөд үүнд идэвхтэй хөргөлттэй Xeon-д суурилсан TT-LoudBox-ийн 4 n300 карт, EPYC-д суурилсан Xiaolong) шингэн хөргөлтийн функцтэй дэвшилтэт TT-QuietBox).
Шуудангийн цаг: 2024 оны 7-р сарын 29