জিম কেলারের নেতৃত্বাধীন চিপ কোম্পানি টেনস্টরেন্ট এআই ওয়ার্কলোডের জন্য তার পরবর্তী প্রজন্মের ওয়ার্মহোল প্রসেসর প্রকাশ করেছে, যা এটি সাশ্রয়ী মূল্যে ভাল পারফরম্যান্স সরবরাহ করবে বলে আশা করে।সংস্থাটি বর্তমানে দুটি অতিরিক্ত PCIe কার্ড অফার করে যা এক বা দুটি ওয়ার্মহোল প্রসেসরের পাশাপাশি সফ্টওয়্যার বিকাশকারীদের জন্য TT-LoudBox এবং TT-QuietBox ওয়ার্কস্টেশনগুলিকে মিটমাট করতে পারে। আজকের সমস্ত ঘোষণা ডেভেলপারদের লক্ষ্য করে, যারা বাণিজ্যিক কাজের চাপের জন্য ওয়ার্মহোল বোর্ড ব্যবহার করে তাদের নয়।
“ডেভেলপারদের হাতে আমাদের আরও বেশি পণ্য পাওয়া সবসময়ই আনন্দদায়ক। আমাদের ওয়ার্মহোল ™ কার্ড ব্যবহার করে রিলিজ ডেভেলপমেন্ট সিস্টেমগুলি ডেভেলপারদের মাল্টি-চিপ এআই সফ্টওয়্যার স্কেল এবং বিকাশ করতে সহায়তা করতে পারে, "টেনস্টরেন্টের সিইও জিম কেলার বলেছেন৷এই উৎক্ষেপণের পাশাপাশি, আমরা আমাদের দ্বিতীয় প্রজন্মের পণ্য, ব্ল্যাকহোল-এর টেপ আউট এবং পাওয়ার-আপ নিয়ে যে অগ্রগতি করছি তা দেখে আমরা উত্তেজিত।"
প্রতিটি ওয়ার্মহোল প্রসেসরে 72টি টেনসিক্স কোর (যার মধ্যে পাঁচটি বিভিন্ন ডেটা ফরম্যাটে RISC-V কোর সমর্থন করে) এবং 108 MB SRAM রয়েছে, যা 160W এর তাপীয় নকশা শক্তি সহ 1 GHz এ 262 FP8 TFLOPS প্রদান করে। একক-চিপ ওয়ার্মহোল n150 কার্ডটি 12 GB GDDR6 ভিডিও মেমরি দিয়ে সজ্জিত এবং এর ব্যান্ডউইথ 288 GB/s।
ওয়ার্মহোল প্রসেসরগুলি কাজের চাপের বিভিন্ন চাহিদা মেটাতে নমনীয় মাপযোগ্যতা প্রদান করে। চারটি ওয়ার্মহোল n300 কার্ড সহ একটি স্ট্যান্ডার্ড ওয়ার্কস্টেশন সেটআপে, প্রসেসরগুলিকে একটি একক ইউনিটে একত্রিত করা যেতে পারে যা সফ্টওয়্যারে একটি ইউনিফাইড, বিস্তৃত টেনসিক্স কোর নেটওয়ার্ক হিসাবে প্রদর্শিত হয়। এই কনফিগারেশনটি অ্যাক্সিলারেটরকে একই কাজের চাপ সামলাতে, চারজন ডেভেলপারের মধ্যে বিভক্ত করতে বা একসঙ্গে আটটি ভিন্ন এআই মডেল চালানোর অনুমতি দেয়। এই স্কেলেবিলিটির একটি মূল বৈশিষ্ট্য হল এটি ভার্চুয়ালাইজেশনের প্রয়োজন ছাড়াই স্থানীয়ভাবে চলতে পারে। একটি ডেটা সেন্টার পরিবেশে, ওয়ার্মহোল প্রসেসরগুলি মেশিনের ভিতরে সম্প্রসারণের জন্য PCIe ব্যবহার করবে, বা বাইরের সম্প্রসারণের জন্য ইথারনেট ব্যবহার করবে।
পারফরম্যান্সের দিক থেকে, Tenstorrent-এর একক-চিপ ওয়ার্মহোল n150 কার্ড (72 Tensix core, 1 GHz ফ্রিকোয়েন্সি, 108 MB SRAM, 12 GB GDDR6, 288 GB/s ব্যান্ডউইথ) 262 FP8 TFLOPS অর্জন করেছে 160W-এ যখন ডুউআরএমহোল (128 টেনসিক্স কোর, 1 GHz ফ্রিকোয়েন্সি, 192 MB SRAM, সমষ্টিগত 24 GB GDDR6, 576 GB/s ব্যান্ডউইথ) 300W এ 466 FP8 TFLOPS পর্যন্ত বিতরণ করে।
466 FP8 TFLOPS-এর 300W কে প্রেক্ষাপটে রাখতে, আমরা এটিকে AI মার্কেট লিডার Nvidia এই তাপ ডিজাইন পাওয়ারে যা অফার করছে তার সাথে তুলনা করব। এনভিডিয়ার A100 FP8 সমর্থন করে না, তবে এটি INT8 সমর্থন করে, যার সর্বোচ্চ পারফরম্যান্স 624 TOPS (স্পর্স হলে 1,248 TOPS)। তুলনামূলকভাবে, এনভিডিয়ার H100 FP8 সমর্থন করে এবং 300W এ 1,670 TFLOPS-এর সর্বোচ্চ কর্মক্ষমতাতে পৌঁছে (3,341 TFLOPS স্পার্সে), যা Tenstorrent-এর Wormhole n300 থেকে উল্লেখযোগ্যভাবে আলাদা।
যাইহোক, একটি প্রধান সমস্যা আছে. Tenstorrent এর Wormhole n150 খুচরো $999 এ, যখন n300 বিক্রি হয় $1,399 এ। তুলনা করে, পরিমাণের উপর নির্ভর করে একটি একক Nvidia H100 গ্রাফিক্স কার্ড $30,000-এ খুচরো হয়। অবশ্যই, আমরা জানি না যে চার বা আটটি ওয়ার্মহোল প্রসেসর আসলে একটি একক H300 এর কর্মক্ষমতা প্রদান করতে পারে, তবে তাদের টিডিপি যথাক্রমে 600W এবং 1200W।
কার্ডগুলি ছাড়াও, Tenstorrent ডেভেলপারদের জন্য পূর্ব-নির্মিত ওয়ার্কস্টেশন অফার করে, যার মধ্যে রয়েছে সক্রিয় কুলিং সহ আরও সাশ্রয়ী মূল্যের Xeon-ভিত্তিক TT-LoudBox-এ 4 n300 কার্ড এবং EPYC-ভিত্তিক Xiaolong) লিকুইড কুলিং ফাংশন সহ উন্নত TT-QuietBox)।
পোস্টের সময়: জুলাই-২৯-২০২৪