বিটটেন্সরের সাবনেট 3 বিকেন্দ্রীকৃত নেটওয়ার্কে 72B AI মডেল প্রশিক্ষণ দেয়

সংক্ষিপ্ত বিবরণ:

• Covenant-72B MMLU জিরো-শটে ৬৭.১ স্কোর করেছে, একই পরীক্ষার শর্তে LLaMA-2-70B এর ৬৫.৬ কে পরাজিত করেছে।
• SparseLoCo নোড জুড়ে স্পার্সিফিকেশন, ২-বিট কোয়ান্টাইজেশন এবং এরর ফিডব্যাক ব্যবহার করে যোগাযোগের ওভারহেড ১৪৬ গুণ কমিয়েছে।
• Gauntlet প্রতিটি নোডের অবদান লস ইভ্যালুয়েশন এবং OpenSkill র‍্যাঙ্কিংয়ের মাধ্যমে স্কোর করেছে, যা সবই ব্লকচেইনে রেকর্ড করা হয়েছে।
• ঘোষণার পর $TAO ১৪% বৃদ্ধি পেয়ে $২৩৬ এ পৌঁছেছে, Grayscale প্রাতিষ্ঠানিক বিনিয়োগকারীদের প্রবেশাধিকারের জন্য তার TAO ট্রাস্ট সম্প্রসারণ করেছে।
  

Bittensor এর Subnet 3 কেন্দ্রীয় ডেটা সেন্টার ছাড়াই ৭২-বিলিয়ন-প্যারামিটারের একটি AI মডেল প্রশিক্ষণ দিয়েছে। Covenant-72B নামের মডেলটি ৭০ এর বেশি বৈশ্বিক অংশগ্রহণকারীদের মাধ্যমে তৈরি করা হয়েছে।

সমস্ত নোড স্ট্যান্ডার্ড হোম ইন্টারনেটের মাধ্যমে সংযুক্ত ছিল। Covenant-72B MMLU বেঞ্চমার্কে Meta এর LLaMA-2-70B কে ছাড়িয়ে গেছে, ৬৫.৬ এর বিপরীতে ৬৭.১ স্কোর করেছে।

পরীক্ষাটি একই জিরো-শট শর্তে পরিচালিত হয়েছিল। এই ফলাফল বিকেন্দ্রীকৃত কম্পিউট কী অর্জন করতে পারে সে সম্পর্কে দীর্ঘস্থায়ী ধারণাকে চ্যালেঞ্জ করে।

দুটি প্রযুক্তিগত উদ্ভাবন বিকেন্দ্রীকৃত প্রশিক্ষণকে চালিত করেছে

বছরের পর বছর ধরে, AI ক্রিপ্টো প্রকল্পগুলো দাবি করেছিল যে বিকেন্দ্রীকৃত কম্পিউট কেন্দ্রীভূত ল্যাবের সাথে মিলতে পারে। Bittensor এর Subnet 3 এখন পরিমাপযোগ্য ফলাফলের মাধ্যমে সেই দাবিকে সমর্থন করে।

প্রশিক্ষণটি বিশ্বব্যাপী ৭০ এর বেশি নোড জুড়ে ১.১ ট্রিলিয়ন টোকেন কভার করেছে। প্রতিটি নোড ৫০০ Mb/s কমোডিটি ইন্টারনেট সংযোগে চলেছিল।

দুটি মূল উদ্ভাবন এই মাপের প্রশিক্ষণকে সম্ভব করেছে। SparseLoCo সম্পূর্ণ প্রক্রিয়া জুড়ে যোগাযোগের ওভারহেড ১৪৬ গুণ কমিয়েছে।

এটি সমস্ত নোডকে সিঙ্কে রাখতে টপ-k স্পার্সিফিকেশন, ২-বিট কোয়ান্টাইজেশন এবং এরর ফিডব্যাক সমন্বিত করেছে। নেটওয়ার্ক জুড়ে সমন্বয় পরিচালনা করতে কোনো কেন্দ্রীয় সার্ভারের প্রয়োজন ছিল না।

দ্বিতীয় উদ্ভাবন, Gauntlet, প্রশিক্ষণের সময় বিশ্বাস এবং অবদান স্কোরিং পরিচালনা করেছে। এটি লস ইভ্যালুয়েশন এবং OpenSkill র‍্যাঙ্কিংয়ের মাধ্যমে প্রতিটি নোড মূল্যায়ন করেছে।

সম্পূর্ণ স্বচ্ছতার জন্য সমস্ত স্কোর ব্লকচেইনে লগ করা হয়েছিল। এটি প্রতিটি অংশগ্রহণকারীকে তাদের অবদানের একটি যাচাইযোগ্য রেকর্ড দিয়েছে।

Milk Road সোশ্যাল মিডিয়ার মাধ্যমে ফলাফল সম্পর্কে রিপোর্ট করেছে, উল্লেখ করেছে যে বিতরণকৃত নেটওয়ার্কগুলো এখন প্রতিযোগিতামূলকভাবে বড় মডেল প্রশিক্ষণ দিতে পারে। মডেল ওজনগুলো Apache লাইসেন্সের অধীনে Hugging Face এ উপলব্ধ।

যে কেউ বিনা খরচে Covenant-72B অ্যাক্সেস, ব্যবহার বা নির্মাণ করতে পারে। এই উন্মুক্ত পদ্ধতি আজ উপলব্ধ অনেক সীমাবদ্ধ, মালিকানাধীন AI মডেল থেকে একে আলাদা করে।

বাজার Covenant-72B ফলাফলে সাড়া দেওয়ায় $TAO বৃদ্ধি পায়

Covenant-72B প্রশিক্ষণের খবর প্রকাশ্যে ছড়িয়ে পড়ার পর বাজার দ্রুত সরে গেছে। Bittensor এর নেটিভ টোকেন $TAO ঘোষণার পর ১৪% বৃদ্ধি পেয়ে $২৩৬ এ পৌঁছেছে।

টোকেনটি পূর্ববর্তী ৩০-দিনের সময়ে ৩৬% লাভও করেছিল। গত ছয় মাসে ট্রেডিং ভলিউম ১৬৭% বৃদ্ধি পেয়েছে।

ঘোষণার একই সপ্তাহে Grayscale তার TAO ট্রাস্ট সম্প্রসারণ করেছে। সেই পদক্ষেপটি সরাসরি টোকেনে বৃহত্তর প্রাতিষ্ঠানিক প্রবেশাধিকার খুলে দিয়েছে।

AI-লিঙ্কযুক্ত ক্রিপ্টো সম্পদে বিনিয়োগকারীদের আগ্রহ বাড়তে থাকায় এটি এসেছিল। সময়টি টোকেনের মূল্য আন্দোলনে আরও ঊর্ধ্বমুখী চাপ যোগ করেছে।

প্রযুক্তিগত ফলাফল এবং প্রাতিষ্ঠানিক আগ্রহের সমন্বয় ব্যাপক বাজার মনোযোগ আকর্ষণ করেছে। Covenant-72B এর MMLU স্কোর বিকেন্দ্রীকৃত কম্পিউটকে একটি বিশ্বাসযোগ্য, পরীক্ষাযোগ্য বেঞ্চমার্ক দেয়।

ফলাফলটি পরিমাপযোগ্য এবং স্ট্যান্ডার্ড শর্তে পুনরুৎপাদন করা যায়। এটি AI ক্রিপ্টো স্পেসে অনেক পূর্ববর্তী অযাচাইকৃত দাবি থেকে একে স্পষ্টভাবে আলাদা করে।

Hugging Face এ Apache-লাইসেন্সযুক্ত ওজন যেকোনো ডেভেলপারকে স্বাধীনভাবে কাজটি যাচাই করার অনুমতি দেয়। Bittensor এর পদ্ধতি কমিউনিটি-চালিত AI মডেল প্রশিক্ষণের জন্য একটি কার্যকরী কাঠামো দেখায়।

নেটওয়ার্কটি কোনো সময়ে কেন্দ্রীয় সমন্বয় ছাড়াই ৭০-এর বেশি অংশগ্রহণকারীদের মধ্যে চলেছিল। এটি সামনে বিতরণকৃত বৃহৎ-মডেল প্রশিক্ষণের জন্য একটি কার্যকরী নজির স্থাপন করে।

পোস্টটি Bittensor's Subnet 3 Trains 72B AI Model on Decentralized Network প্রথম Blockonomi তে প্রকাশিত হয়েছে।