গণনা, ডেটা এবং অ্যালগরিদমিক অগ্রগতি হল তিনটি মৌলিক বিষয় যা আধুনিক মেশিন লার্নিং (এমএল) এর অগ্রগতি নির্দেশ করে। গবেষকরা সবচেয়ে সহজে পরিমাপকৃত ফ্যাক্টর - গণনাতে প্রবণতাগুলি অধ্যয়ন করেছেন।
তারা প্রদর্শন :
2010 সালের আগে প্রশিক্ষণ কম্পিউট মুরের আইনের সাথে সঙ্গতি রেখে বৃদ্ধি পেয়েছিল, মোটামুটিভাবে প্রতি 20 মাসে দ্বিগুণ হয়।
ডিপ লার্নিং 2010 এর দশকের গোড়ার দিকে শুরু হয়েছিল এবং প্রশিক্ষণ গণনার স্কেলিং ত্বরান্বিত হয়েছে, প্রায় প্রতি 6 মাসে দ্বিগুণ হচ্ছে।
2015 সালের শেষের দিকে, একটি নতুন প্রবণতা আবির্ভূত হয় যখন ফার্মগুলি প্রশিক্ষণ গণনার ক্ষেত্রে 10 থেকে 100-গুণ বৃহত্তর প্রয়োজনীয়তা সহ বড় আকারের এমএল মডেল তৈরি করে।
এই পর্যবেক্ষণের উপর ভিত্তি করে তারা ML-এ গণনার ইতিহাসকে তিনটি যুগে বিভক্ত করেছে: প্রি ডিপ লার্নিং এরা, ডিপ লার্নিং এরা এবং লার্জ-স্কেল এরা। সামগ্রিকভাবে, কাজটি উন্নত এমএল সিস্টেমের প্রশিক্ষণের জন্য দ্রুত বর্ধনশীল গণনার প্রয়োজনীয়তা তুলে ধরে।
তারা সময়ের সাথে মাইলস্টোন এমএল মডেলের গণনার চাহিদা সম্পর্কে বিস্তারিত তদন্ত করেছে। তারা নিম্নলিখিত অবদানগুলি করে:
1. তারা 123 মাইলস্টোন মেশিন লার্নিং সিস্টেমের একটি ডেটাসেট কিউরেট করে, তাদের প্রশিক্ষণের জন্য যে কম্পিউটটি নেওয়া হয়েছিল তার সাথে টীকা করা।
2. তারা অস্থায়ীভাবে তিনটি স্বতন্ত্র যুগের পরিপ্রেক্ষিতে গণনার প্রবণতা তৈরি করে: প্রি ডিপ লার্নিং এরা, ডিপ লার্নিং এরা এবং লার্জ-স্কেল যুগ। তারা এই প্রতিটি যুগে দ্বিগুণ সময়ের অনুমান অফার করে।
3. তারা ব্যাপকভাবে পরিশিষ্টের একটি সিরিজে তাদের ফলাফলগুলি পরীক্ষা করে, ডেটার বিকল্প ব্যাখ্যা এবং পূর্ববর্তী কাজের সাথে পার্থক্য নিয়ে আলোচনা করে
তারা 100 টিরও বেশি মাইলস্টোন এমএল সিস্টেমের সাথে প্রশিক্ষণ গণনার একটি ডেটাসেট তৈরি করে গণনার প্রবণতাগুলি অধ্যয়ন করেছে এবং সময়ের সাথে প্রবণতা কীভাবে বেড়েছে তা বিশ্লেষণ করতে এই ডেটা ব্যবহার করেছে।
ফলাফলগুলি পূর্ববর্তী কাজের সাথে সামঞ্জস্যপূর্ণ বলে মনে হয়, যদিও তারা প্রশিক্ষণ গণনার আরও মাঝারি স্কেলিং নির্দেশ করে।
বিশেষ করে, তারা 18 এবং 1952-এর মধ্যে 2010-মাসের দ্বিগুণ সময়, 6 এবং 2010-এর মধ্যে 2022-মাসের দ্বিগুণ সময় এবং 2015 এবং 2022-এর শেষের মধ্যে বড় আকারের মডেলগুলির একটি নতুন প্রবণতা চিহ্নিত করে, যা 2 থেকে 3 মাত্রার অর্ডার শুরু করে। পূর্ববর্তী প্রবণতা থেকে এবং 10 মাসের দ্বিগুণ সময় প্রদর্শন করে।
একটি দিক যা তারা এই নিবন্ধে কভার করেনি তা হল মেশিন লার্নিং মডেলগুলিকে প্রশিক্ষণের জন্য ব্যবহৃত আরেকটি মূল পরিমাপযোগ্য সংস্থান — ডেটা। তারা ডেটাসেটের আকারের প্রবণতা এবং ভবিষ্যতের কাজে গণনার প্রবণতার সাথে তাদের সম্পর্ক দেখবে।
ব্রায়ান ওয়াং একজন ফিউচারিস্ট থট লিডার এবং প্রতি মাসে 1 মিলিয়ন পাঠক সহ একটি জনপ্রিয় বিজ্ঞান ব্লগার। তার ব্লগ Nextbigfuture.com স্থান পেয়েছে #1 বিজ্ঞান সংবাদ ব্লগ। এটি স্পেস, রোবোটিক্স, আর্টিফিশিয়াল ইন্টেলিজেন্স, মেডিসিন, অ্যান্টি-এজিং বায়োটেকনোলজি, এবং ন্যানো টেকনোলজিসহ অনেক ব্যাহতকারী প্রযুক্তি এবং প্রবণতা জুড়েছে।
অত্যাধুনিক প্রযুক্তি চিহ্নিত করার জন্য পরিচিত, তিনি বর্তমানে উচ্চ সম্ভাব্য প্রাথমিক পর্যায়ের কোম্পানিগুলির জন্য একটি স্টার্টআপ এবং তহবিল সংগ্রহের সহ-প্রতিষ্ঠাতা। তিনি গভীর প্রযুক্তি বিনিয়োগের জন্য বরাদ্দের জন্য গবেষণা প্রধান এবং স্পেস এঞ্জেলসে একজন দেবদূত বিনিয়োগকারী।
কর্পোরেশনে ঘন ঘন বক্তা, তিনি একজন TEDx বক্তা, এককত্ব বিশ্ববিদ্যালয়ের বক্তা এবং রেডিও এবং পডকাস্টের জন্য অসংখ্য সাক্ষাৎকারে অতিথি ছিলেন। তিনি জনসাধারণের বক্তৃতা এবং পরামর্শের জন্য উন্মুক্ত।