জিম কেলারের নেতৃত্বাধীন চিপ কোম্পানি টেনস্টোরেন্ট তাদের পরবর্তী প্রজন্মের কৃত্রিম বুদ্ধিমত্তা (এআই) ওয়ার্কলোডের জন্য ওয়ার্মহোল প্রসেসর প্রকাশ করেছে, যা সাশ্রয়ী মূল্যে ভালো পারফরম্যান্স প্রদান করবে বলে আশা করছে।কোম্পানিটি বর্তমানে দুটি অতিরিক্ত PCIe কার্ড অফার করে যা এক বা দুটি ওয়ার্মহোল প্রসেসর ধারণ করতে পারে, সেইসাথে সফ্টওয়্যার ডেভেলপারদের জন্য TT-LoudBox এবং TT-QuietBox ওয়ার্কস্টেশনও অফার করে। আজকের সমস্ত ঘোষণা ডেভেলপারদের জন্য, যারা বাণিজ্যিক কাজের চাপের জন্য ওয়ার্মহোল বোর্ড ব্যবহার করেন তাদের জন্য নয়।
"আমাদের পণ্য ডেভেলপারদের হাতে তুলে দেওয়া সবসময়ই আনন্দের। আমাদের Wormhole™ কার্ড ব্যবহার করে ডেভেলপমেন্ট সিস্টেম প্রকাশ করলে ডেভেলপাররা মাল্টি-চিপ এআই সফটওয়্যার স্কেল এবং ডেভেলপ করতে পারবেন," বলেন টেনস্টোরেন্টের সিইও জিম কেলার।এই লঞ্চের পাশাপাশি, আমাদের দ্বিতীয় প্রজন্মের পণ্য, ব্ল্যাকহোলের টেপ আউট এবং পাওয়ার-আপের ক্ষেত্রে আমরা যে অগ্রগতি করছি তা দেখে আমরা উত্তেজিত।”
প্রতিটি ওয়ার্মহোল প্রসেসরে ৭২টি টেনসিক্স কোর থাকে (যার মধ্যে পাঁচটি বিভিন্ন ডেটা ফর্ম্যাটে RISC-V কোর সমর্থন করে) এবং ১০৮ MB SRAM থাকে, যা ১ GHz এ ২৬২ FP8 TFLOPS প্রদান করে যার থার্মাল ডিজাইন পাওয়ার ১৬০W। সিঙ্গেল-চিপ ওয়ার্মহোল n150 কার্ডটি ১২ GB GDDR6 ভিডিও মেমোরি দিয়ে সজ্জিত এবং এর ব্যান্ডউইথ ২৮৮ GB/s।
ওয়ার্মহোল প্রসেসরগুলি কাজের চাপের বিভিন্ন চাহিদা মেটাতে নমনীয় স্কেলেবিলিটি প্রদান করে। চারটি ওয়ার্মহোল n300 কার্ড সহ একটি স্ট্যান্ডার্ড ওয়ার্কস্টেশন সেটআপে, প্রসেসরগুলিকে একটি একক ইউনিটে একত্রিত করা যেতে পারে যা সফ্টওয়্যারে একটি একীভূত, বিস্তৃত টেনসিক্স কোর নেটওয়ার্ক হিসাবে প্রদর্শিত হয়। এই কনফিগারেশনটি অ্যাক্সিলারেটরকে একই কাজের চাপ পরিচালনা করতে, চারটি ডেভেলপারের মধ্যে বিভক্ত করতে বা একসাথে আটটি ভিন্ন AI মডেল চালানোর অনুমতি দেয়। এই স্কেলেবিলিটির একটি প্রধান বৈশিষ্ট্য হল এটি ভার্চুয়ালাইজেশনের প্রয়োজন ছাড়াই স্থানীয়ভাবে চলতে পারে। ডেটা সেন্টার পরিবেশে, ওয়ার্মহোল প্রসেসরগুলি মেশিনের ভিতরে সম্প্রসারণের জন্য PCIe ব্যবহার করবে, অথবা বহিরাগত সম্প্রসারণের জন্য ইথারনেট ব্যবহার করবে।
পারফরম্যান্সের দিক থেকে, টেনস্টোরেন্টের সিঙ্গেল-চিপ ওয়ার্মহোল n150 কার্ড (72 টেনসিক্স কোর, 1 GHz ফ্রিকোয়েন্সি, 108 MB SRAM, 12 GB GDDR6, 288 GB/s ব্যান্ডউইথ) 160W এ 262 FP8 TFLOPS অর্জন করেছে, যেখানে ডুয়াল-চিপ ওয়ার্মহোল n300 বোর্ড (128 টেনসিক্স কোর, 1 GHz ফ্রিকোয়েন্সি, 192 MB SRAM, সমষ্টিগত 24 GB GDDR6, 576 GB/s ব্যান্ডউইথ) 300W এ 466 FP8 TFLOPS পর্যন্ত সরবরাহ করে।
৪৬৬ FP8 TFLOPS এর ৩০০W কে প্রসঙ্গে বলতে গেলে, আমরা এটিকে AI মার্কেট লিডার Nvidia এই থার্মাল ডিজাইন পাওয়ারে যা অফার করছে তার সাথে তুলনা করব। Nvidia এর A100 FP8 সমর্থন করে না, তবে এটি INT8 সমর্থন করে, যার সর্বোচ্চ কর্মক্ষমতা 624 TOPS (স্পার্স হলে 1,248 TOPS)। তুলনামূলকভাবে, Nvidia এর H100 FP8 সমর্থন করে এবং 300W এ 1,670 TFLOPS (স্পার্স হলে 3,341 TFLOPS) এর সর্বোচ্চ কর্মক্ষমতা অর্জন করে, যা Tenstorrent এর Wormhole n300 থেকে উল্লেখযোগ্যভাবে আলাদা।
তবে, একটি বড় সমস্যা আছে। Tenstorrent এর Wormhole n150 এর খুচরা মূল্য $999, যেখানে n300 এর দাম $1,399। তুলনা করলে, একটি Nvidia H100 গ্রাফিক্স কার্ডের খুচরা মূল্য $30,000, পরিমাণের উপর নির্ভর করে। অবশ্যই, আমরা জানি না যে চার বা আটটি Wormhole প্রসেসর আসলে একটি H300 এর পারফরম্যান্স প্রদান করতে পারে কিনা, তবে তাদের TDP যথাক্রমে 600W এবং 1200W।
কার্ডগুলি ছাড়াও, টেনস্টোরেন্ট ডেভেলপারদের জন্য পূর্বে তৈরি ওয়ার্কস্টেশন অফার করে, যার মধ্যে রয়েছে আরও সাশ্রয়ী মূল্যের Xeon-ভিত্তিক TT-LoudBox-এ 4টি n300 কার্ড যা সক্রিয় কুলিং সহ এবং EPYC-ভিত্তিক Xiaolong-এর সাথে উন্নত TT-QuietBox (তরল কুলিং ফাংশন সহ)।
পোস্টের সময়: জুলাই-২৯-২০২৪