NVIDIA Blackwell ৩.২x গতি বৃদ্ধি সহ ফিন্যান্স AI বেঞ্চমার্ক ভেঙে ফেলেছে

Iris Coleman ৫ মার্চ, ২০২৬ ১৮:১৭

NVIDIA-র GB200 NVL72 আর্থিক ট্রেডিংয়ে LLM ইনফারেন্সের জন্য নতুন STAC-AI রেকর্ড স্থাপন করেছে, Hopper আর্কিটেকচারের তুলনায় ৩.২x পর্যন্ত পারফরম্যান্স প্রদান করছে।

NVIDIA-র Blackwell আর্কিটেকচার আর্থিক LLM ইনফারেন্সের জন্য STAC-AI বেঞ্চমার্কে সর্বকালের দ্রুততম ফলাফল পোস্ট করেছে, GB200 NVL72 পূর্ববর্তী প্রজন্মের Hopper-এর তুলনায় ৩.২x পর্যন্ত একক-GPU পারফরম্যান্স উন্নতি প্রদান করছে। ৫ মার্চ, ২০২৬-এর ফলাফল ট্রেডিং ফার্মগুলির জন্য গুরুত্বপূর্ণ যারা অসংগঠিত ডেটা বিশ্লেষণ থেকে আলফা নিষ্কাশন করতে প্রতিযোগিতা করছে।

Strategic Technology Analysis Center, যা ১৫ বছরেরও বেশি সময় ধরে আর্থিক প্রযুক্তি ওয়ার্কলোড বেঞ্চমার্ক করেছে, EDGAR 10-K ফাইলিং ব্যবহার করে বাস্তব-বিশ্বের পরিস্থিতির বিরুদ্ধে Blackwell পরীক্ষা করেছে—ঘন বার্ষিক রিপোর্ট যা কোয়ান্ট ফান্ডগুলি বিনিয়োগ সংকেতের জন্য বিশ্লেষণ করে। Meta-র Llama 3.1 মডেল চালিয়ে, GB200 NVL72 মাঝারি-দৈর্ঘ্যের আর্থিক প্রম্পটে প্রতি সেকেন্ডে ৩৭,৪৮০ শব্দ অর্জন করেছে, যেখানে দ্বৈত GH200 সিস্টেমের জন্য ৮,২৩৭ WPS।

কাঁচা সংখ্যাগুলি গল্প বলে

EDGAR4 ডেটা সহ Llama 3.1 8B মডেলে, Blackwell প্রতি সেকেন্ডে ২২৪টি অনুরোধ প্রক্রিয়া করেছে বনাম Hopper-এর জন্য ৫১.৫ RPS—সিস্টেম স্তরে ৪.৩x উন্নতি। গণনামূলকভাবে ভারী কাজে ব্যবধান প্রশস্ত হয়েছে: দীর্ঘ-প্রসঙ্গ EDGAR5 ফাইলিংয়ে ৭০B প্যারামিটার মডেল থ্রুপুট ৪১.৪ WPS থেকে ১৫০ WPS-এ লাফিয়ে উঠেছে।

এই লাভগুলি কী সম্ভব করে? NVIDIA-র নতুন NVFP4 কোয়ান্টাইজেশন ফরম্যাট, যা Blackwell-এর জন্য এক্সক্লুসিভ, মডেলগুলিকে নির্ভুলতার ত্যাগ না করে ছোট মেমরি ফুটপ্রিন্টে সংকুচিত করে। Hopper FP8 কোয়ান্টাইজেশন চালাতো; Blackwell-এ চার-বিট নির্ভুলতার স্থাপত্য লাফ থ্রুপুট ডেল্টা আনলক করে।

ট্রেডিংয়ের জন্য ইন্টারেক্টিভ পারফরম্যান্স গুরুত্বপূর্ণ

ব্যাচ প্রসেসিং একটি বিষয়। রিয়েল-টাইম ট্রেডিং সিদ্ধান্তগুলির জন্য দ্রুত প্রতিক্রিয়া প্রয়োজন। এখানে, Blackwell সর্বাধিক থ্রুপুটের দিকে ধাক্কা দেওয়া হলেও কম প্রতিক্রিয়া সময় (time-to-first-token-এর অনুরূপ) এবং আরও ভাল ইন্টারওয়ার্ড লেটেন্সি বজায় রেখেছে। মিলিত ব্যবহারের স্তরে, GB200 NVL72 বেশিরভাগ পরীক্ষা পরিস্থিতিতে প্রতিক্রিয়াশীলতা মেট্রিক্সে GH200-কে ধারাবাহিকভাবে হারিয়েছে।

আয়ের কল বিশ্লেষণ বা ব্রেকিং নিউজ বিশ্লেষণ চালানো ট্রেডিং ডেস্কের জন্য, সেই লেটেন্সি সুবিধা সরাসরি দ্রুত সিদ্ধান্ত গ্রহণে অনুবাদ করে। বেঞ্চমার্ক স্পষ্টভাবে টোকেনাইজেশন সহ সম্পূর্ণ ইনফারেন্স পাইপলাইন পরীক্ষা করেছে—কাজ যা বাস্তব স্থাপনাগুলি এড়াতে পারে না।

বাজার প্রসঙ্গ

NVIDIA শেয়ার ৫ মার্চ $১৮১.৪১ এ ব্যবসা করেছে, দিনে ১.১% বৃদ্ধি পেয়েছে, কোম্পানির মার্কেট ক্যাপ $৪.৪২ ট্রিলিয়নে বসে আছে। Blackwell আর্কিটেকচার, GTC 2024-এ ঘোষিত, বিশেষভাবে জেনারেটিভ AI ওয়ার্কলোডের জন্য ডিজাইন করা হয়েছিল। CEO Jensen Huang এটিকে "একটি নতুন শিল্প বিপ্লব" চালনা হিসাবে অবস্থান করেছেন, এবং এই বেঞ্চমার্ক ফলাফলগুলি আর্থিক খাতে সেই দাবির জন্য সুনির্দিষ্ট প্রমাণ প্রদান করে।

GB200 Grace Blackwell সুপারচিপ দুটি B200 GPU-কে একটি Grace CPU-এর সাথে একত্রিত করে, পুনঃডিজাইন করা AI Tensor Cores এবং ৫৭৬টি GPU পর্যন্ত স্কেল করার জন্য পঞ্চম প্রজন্মের NVLink সমন্বিত করে। পূর্ববর্তী MLPerf ফলাফলগুলি Llama 3.1 405B-এ ২.২x প্রশিক্ষণ লাভ দেখিয়েছে; এই STAC-AI সংখ্যাগুলি নিশ্চিত করে যে অনুরূপ সুবিধাগুলি ইনফারেন্সে প্রসারিত।

Hopper এখনও প্রাসঙ্গিক

উল্লেখযোগ্য: তিন বছর পুরানো Hopper আর্কিটেকচার সম্মানজনক সংখ্যা পোস্ট করেছে। বিদ্যমান GH200 স্থাপনা সহ ট্রেডিং ফার্মগুলি রাতারাতি অপ্রচলিত হয় না। কিন্তু নতুন নির্মাণ বা ফার্মের জন্য যেখানে ইনফারেন্স গতি সরাসরি রিটার্নকে প্রভাবিত করে, Blackwell-এর অর্থনীতি আকর্ষণীয় দেখায়—NVIDIA দাবি করে পূর্ববর্তী প্রজন্মের তুলনায় LLM ইনফারেন্স পরিচালনা খরচে ২৫x পর্যন্ত হ্রাস।

সম্পূর্ণ STAC রিপোর্ট, বিভিন্ন আগমন হারে বিস্তারিত ইন্টারেক্টিভ মোড মেট্রিক্স সহ, STAC-এর অফিশিয়াল চ্যানেলের মাধ্যমে উপলব্ধ। AI অবকাঠামো আপগ্রেড মূল্যায়নকারী আর্থিক প্রতিষ্ঠানগুলির এখন ক্রয় সিদ্ধান্ত জানাতে অডিট করা তৃতীয়-পক্ষ ডেটা রয়েছে।

• nvidia
• blackwell
• ai ইনফারেন্স
• আর্থিক ট্রেডিং
• llm