Mehryar Mohri, Afshin Rostamizadeh ও Ameet Talwalkar-এর Foundations of Machine Learning (দ্বিতীয় সংস্করণ, MIT Press, ২০১৮) লার্নিংকে সংজ্ঞায়িত করে অভিজ্ঞতা কাজে লাগিয়ে নির্ভুল পূর্বাভাস দেওয়া হিসেবে, এবং স্যাম্পল জটিলতা, Rademacher সীমা ও তাত্ত্বিক নিশ্চয়তার চারপাশে একটি কঠোর পাঠ্যক্রম গড়ে তোলে।
মেশিন লার্নিং নিয়ে বেশির ভাগ বই শুরু হয় এই প্রতিশ্রুতি দিয়ে যে আপনি কী বানাতে পারবেন। এই বইটি শুরু হয় একটি সংজ্ঞা দিয়ে, আর সেই রাশিগুলোর তালিকা দিয়ে যেগুলো ঠিক করে একজন লার্নার সফল হবে কি না। এই ক্রম বলে দেয় লেখকেরা বিষয়টিকে কী মনে করেন, এবং আমার মতে এটি সঠিক সিদ্ধান্ত। যে ক্ষেত্র নিজেকে পূর্বাভাসের জোরে বিক্রি করে, তার পাঠকদের কাছে এই হিসাব দেওয়ার দায় আছে যে পূর্বাভাসে কখন ভরসা করা যায়, আর বইটি ঠিক সেই হিসাব দিতে বেরিয়েছে।
এই নিবন্ধ বইটিকে পড়ে তার সূচনাংশ, ভূমিকা ও শুরুর পাতাগুলো আসলে যা বলে তার ভিত্তিতে। প্রতিটি অধ্যায়ের পর্যালোচনার চেয়ে এটি সংকীর্ণ কাজ, এবং নিজের সীমা নিয়ে সৎ: এখানকার উৎস হলো শিরোনাম পৃষ্ঠা, সূচিপত্র, ভূমিকা ও পরিচিতির প্রথম অংশ। এই সীমার মধ্যে অনুসরণ করার মতো একটি স্পষ্ট যুক্তি আছে। সেটি হলো মেশিন লার্নিং কী, তা কিসের ওপর নির্ভর করে, লেখকেরা কী অন্তর্ভুক্ত করতে বেছে নিয়েছেন আর কী বাদ দিতে বেছে নিয়েছেন।
নির্দিষ্ট বংশপরিচয়ের একটি বই #
শুরু করা যাক সেই তথ্যগুলো দিয়ে যেগুলো বস্তুটিকে নোঙর করে। বইটির শিরোনাম Foundations of Machine Learning, এবং এটি দ্বিতীয় সংস্করণ। এটি Adaptive Computation and Machine Learning সিরিজের অংশ, যার সম্পাদক Francis Bach। লেখক Mehryar Mohri, Afshin Rostamizadeh ও Ameet Talwalkar। প্রকাশক The MIT Press, Cambridge, Massachusetts, আর কপিরাইট Massachusetts Institute of Technology-এর, সাল ২০১৮। হার্ডকভার সংস্করণের ISBN 9780262039406।
নির্মাণের দুটি খুঁটিনাটি একটি করে বাক্যের যোগ্য। বইটি লেখকেরা নিজেরাই LaTeX-এ টাইপসেট করেছেন, যা সীমা, সংজ্ঞা ও প্রমাণে ঠাসা লেখার সঙ্গে মানানসই, আর এটি মার্কিন যুক্তরাষ্ট্রে ছাপা ও বাঁধাই হয়েছে। এর কোনোটিই বদলায় না আপনি গণিত কীভাবে পড়বেন। কিন্তু যে লেখকেরা নিজেদের বই নিজেরাই টাইপসেট করেছেন, তাঁদের হাত প্রতিটি পাতার ওপর দিয়ে গেছে, আর এ ধরনের বইয়ে সেটা ভরসা জোগায়।
উপাদানের উৎস এর চেয়ে বেশি গুরুত্বপূর্ণ। এর বেশির ভাগই এসেছে একটি স্নাতকোত্তর কোর্স থেকে, যার নামও Foundations of Machine Learning, এবং যা প্রথম লেখক গত চোদ্দো বছর ধরে New York University-র Courant Institute of Mathematical Sciences-এ পড়িয়েছেন। এটি একটি নির্দিষ্ট, যাচাইযোগ্য উৎস। যে পাঠ্যবই চোদ্দো বছর একটিই কোর্স পড়ানো থেকে জন্মেছে, তাকে সম্ভবত আকার দিয়েছে ছাত্রছাত্রীদের কাছে কী কঠিন লেগেছিল, আর নিচে বর্ণিত অনুশীলনী ও পরিশিষ্টগুলো সেভাবেই পড়া যায়। আমি এই অনুমানকে উৎস যতটা অনুমতি দেয় তার বাইরে টানব না। ভূমিকা বলে উপাদান কোথা থেকে এসেছে, আর বলে না কোর্সটি কতবার সংশোধিত হয়েছে বা ছাত্রছাত্রীরা কিসের সঙ্গে লড়েছে। যা বলে তা যথেষ্ট: এটি কোর্সের উপাদান, সাহিত্য থেকে জোড়া লাগানো কোনো সমীক্ষা নয়।
যে সংজ্ঞা সবচেয়ে ভারী কাজটা করে #
পরবর্তী সবকিছু একটি বাক্যের ওপর নির্ভর করে। লেখকেরা লেখেন, মেশিন লার্নিংকে মোটা দাগে সংজ্ঞায়িত করা যায় এমন গণনামূলক পদ্ধতি হিসেবে যা কর্মক্ষমতা বাড়াতে বা নির্ভুল পূর্বাভাস দিতে অভিজ্ঞতা কাজে লাগায়।
ওই বাক্যের প্রতিটি বিশেষ্যের নিজস্ব কাজ আছে। “গণনামূলক পদ্ধতি” বিষয়টিকে কম্পিউটার বিজ্ঞানের ভেতরে রাখে। তারপর “অভিজ্ঞতা”কে নির্দিষ্ট করা হয়: এর মানে লার্নারের কাছে থাকা অতীতের তথ্য। বাক্যটি দাবি করে না যে লার্নার কিছু বোঝে, আর বুদ্ধিমত্তা নিয়ে কিছুই বলে না। লার্নারের আছে অতীতের তথ্য আর একটি লক্ষ্য, যা হলো উন্নত কর্মক্ষমতা বা নির্ভুল পূর্বাভাস, আর গোটা শাস্ত্রটি এই দুইয়ের সম্পর্ক নিয়ে।
আমার যুক্তি হলো, প্রচলিত জমকালো সংজ্ঞাগুলোর চেয়ে প্রযুক্তিগত পাঠক ও প্রতিষ্ঠাতাদের জন্য এটি বেশি কাজের সংজ্ঞা, কারণ এটি সরাসরি সেই হাতলগুলোর দিকে আঙুল তোলে যেগুলো আপনার নিয়ন্ত্রণে। লার্নিং যদি অতীতের তথ্যের একটি ফাংশন হয়, তবে ফলাফলের ওপর আপনার প্রভাব থাকে আপনি কোন তথ্য আর কতটা তথ্য সংগ্রহ করেন তার মধ্যে। লেখার পরের দাবিটি সেটাই বলে: লার্নারের করা পূর্বাভাসের সাফল্যের জন্য ডেটার মান ও আকার নির্ণায়ক। লেখায় এই বক্তব্য দেখানো হয়েছে একটি সরল প্রক্রিয়া হিসেবে, কোনো শর্ত জুড়ে না দিয়ে।
লেখকেরা কৌশলগুলোরও বর্ণনা দেন। সেগুলো ডেটা-চালিত পদ্ধতি, যা কম্পিউটার বিজ্ঞানের মৌলিক ধারণাকে পরিসংখ্যান, সম্ভাবনা ও অপ্টিমাইজেশনের ভাবনার সঙ্গে মেলায়। এই বাক্যটি একই সঙ্গে পূর্বশর্তের তালিকা আর এই ক্ষেত্রের প্রতিবেশীদের মানচিত্র। যে দল লার্নিং সিস্টেম বানাতে চায়, সে কম্পিউটার বিজ্ঞান, পরিসংখ্যান, সম্ভাবনা ও অপ্টিমাইজেশন সবকিছুর ওপর একসঙ্গে ভর দেয়। এগুলোর যেকোনো একটিকে ঐচ্ছিক ধরে নেওয়া এমন একটি বাছাই যা বইটি সমর্থন করে না।
একটি কষে দেখানো উদাহরণ: নথি ও বিষয় #
পরিচিতি সংজ্ঞাটিকে দাঁড় করায় একটি মূর্ত লার্নিং সমস্যার ওপর। এলোমেলোভাবে বাছা নথির একটি সসীম স্যাম্পল নিন, যার প্রতিটিতে একটি বিষয়ের লেবেল দেওয়া। কাজ হলো সেই স্যাম্পল ব্যবহার করে না-দেখা নথির বিষয় সম্পর্কে পূর্বাভাস দেওয়া।
এই কাঠামো ধীরে পড়লে ফল দেয়। স্যাম্পলটি সসীম, তাই লার্নার কখনো সবকিছু দেখে না। নথিগুলো এলোমেলোভাবে বাছা, আর এটাই একটি সসীম স্যাম্পলকে না-দেখা নথি সম্পর্কে কিছু বলতে দেয়। প্রতিটিতে বিষয়ের লেবেল আছে, তাই লার্নারের তত্ত্বাবধান আছে। আর লক্ষ্য হলো সেই নথিগুলো যা সে দেখেনি, এটাই পূর্বাভাস আর মুখস্থের পার্থক্য।
তারপর লেখকেরা দুটি জিনিস তুলে আনেন যা কাজটিকে সহজ বা কঠিন করে। প্রথমটি আকার: স্পষ্টতই, স্যাম্পল যত বড়, কাজ তত সহজ। দ্বিতীয়টি লেবেলের মান। কাজের কাঠিন্য স্যাম্পলের নথিগুলোতে দেওয়া লেবেলের মানের ওপরও নির্ভর করে, কারণ সব লেবেল ঠিক না-ও হতে পারে, এবং সম্ভাব্য বিষয়ের সংখ্যার ওপরও।
ওই বাক্যে তিনটি আলাদা ডায়াল আছে। স্যাম্পলের আকার একটি। লেবেলের নির্ভুলতা আরেকটি। সম্ভাব্য বিষয়ের সংখ্যা তৃতীয়টি। এদের কোনোটিই অ্যালগরিদম নিয়ে নয়। এগুলো সবই সমস্যা ও ডেটার বৈশিষ্ট্য, আর কোনো পদ্ধতি বাছার আগেই এগুলো ঠিক করে দেয় সমস্যাটি কতটা কঠিন। বাজেট কোথায় খরচ করবেন তা ঠিক করছেন এমন প্রতিষ্ঠাতার জন্য এটি একটি তীক্ষ্ণ পর্যবেক্ষণ। আপনি যদি লেবেল উন্নত করতে পারেন বা স্যাম্পল বড় করতে পারেন, তবে আপনি ঠিক সেই উপাদানগুলোর ওপর কাজ করছেন যেগুলোকে লেখকেরা স্পষ্টভাবে কাঠিন্য নির্ধারক বলে চিহ্নিত করেন।
উদাহরণটি নিজের কাজের নামও বলে। একটি নথির লেবেলের পূর্বাভাসকে নথি শ্রেণিবিন্যাসও বলা হয়, আর লেখকেরা তৎক্ষণাৎ যোগ করেন যে এটি কোনোভাবেই একমাত্র লার্নিং কাজ নয়। এই সতর্কতা এড়িয়ে যাওয়া সহজ। নথির উদাহরণটি একটি বাহন, আর তার নিচের দাবিটি সাধারণ।
তিনটি জটিলতা, দুটি নয় #
এখানে বইটি তার সবচেয়ে স্বতন্ত্র পদক্ষেপ নেয়, আর এটি চোখ এড়িয়ে যাওয়া সহজ কারণ এটি আসে একটি ছোট মন্তব্য হিসেবে। লেখকেরা বলেন, মেশিন লার্নিং মানে দক্ষ ও নির্ভুল পূর্বাভাস অ্যালগরিদম নকশা করা। কম্পিউটার বিজ্ঞানের অন্য ক্ষেত্রগুলোর মতো, সময় ও স্থান জটিলতা এমন অ্যালগরিদমের মানের নির্ণায়ক পরিমাপ। যিনি অ্যালগরিদম পড়েছেন তিনি এই দুটি চিনবেন। এতে কত সময় লাগে, আর এর কত মেমরি দরকার?
তারপর আসে সংযোজন। মেশিন লার্নিংয়ের এর বাইরেও দরকার স্যাম্পল জটিলতার একটি ধারণা, যাতে মূল্যায়ন করা যায় ধারণার একটি পরিবার শিখতে অ্যালগরিদমের কত বড় স্যাম্পল লাগে। এটি সেই পরিমাপ যার কোনো সমতুল্য কোনো সর্টিং রুটিনে নেই। একটি সর্টিং অ্যালগরিদমকে বলে দিতে হয় না তার কতগুলো উদাহরণ লাগবে। একজন লার্নারকে দিতে হয়, কারণ তার আউটপুট হলো এমন ক্ষেত্র সম্পর্কে পূর্বাভাস যা সে দেখেনি, আর সেই পূর্বাভাসের পেছনের অভিজ্ঞতার পরিমাণ আপনি যার দাম দিচ্ছেন তার অংশ।
আমি এভাবে বলব: সময় ও স্থান বলে একটি অ্যালগরিদম চালাতে কত খরচ, আর স্যাম্পল জটিলতা বলে তাকে শেখাতে কত খরচ। যে লার্নার দ্রুত কিন্তু যার অবাস্তব রকম বড় স্যাম্পল দরকার, সে ডেটা সংগ্রহকারী মানুষের কাছে কোনো অর্থপূর্ণ অর্থেই দক্ষ নয়। তৃতীয় পরিমাপটিকে বাকি দুটির পাশে রাখা বইটির এটা বলার উপায় যে ডেটা একটি দামওয়ালা সম্পদ, যার বাজেট করতে হবে কম্পিউট আর মেমরির মতোই।
লেখা একই দিকে এগোয়। আরও সাধারণভাবে, একটি অ্যালগরিদমের তাত্ত্বিক লার্নিং নিশ্চয়তা নির্ভর করে বিবেচিত ধারণা শ্রেণির জটিলতা ও প্রশিক্ষণ স্যাম্পলের আকারের ওপর। নিশ্চয়তা কী দিয়ে তৈরি, এটি তার একটি সংক্ষিপ্ত বিবৃতি। দুটি ইনপুট আছে, ধারণার পরিবারটি কতটা সমৃদ্ধ আর আপনার কাছে কতটা প্রশিক্ষণ ডেটা আছে, আর নিশ্চয়তা হলো এদের কর্মক্ষমতার সঙ্গে যুক্ত করা একটি বিবৃতি। লক্ষ করুন, বইটির কাঠামোর জন্য এর মানে কী। পরের অধ্যায়গুলোকে একটি ধারণা শ্রেণির জটিলতা মাপার উপায় দিতে হবে, আর সূচিপত্র দেখায় যে সেগুলো দেয়।
লেখকেরা এটাও ব্যাখ্যা করেন কেন ক্ষেত্রটি যেখানে আছে সেখানে আছে। যেহেতু একটি লার্নিং অ্যালগরিদমের সাফল্য ব্যবহৃত ডেটার ওপর নির্ভর করে, মেশিন লার্নিং স্বভাবতই ডেটা বিশ্লেষণ ও পরিসংখ্যানের সঙ্গে যুক্ত। প্রক্রিয়াটি সরলভাবে বলা হয়েছে: সাফল্য ডেটার ওপর নির্ভর করে, তাই বিষয়টি ডেটা নিয়ে কাজ করা শাস্ত্রগুলোর সঙ্গে জড়িয়ে আছে। আমার কাছে এটিই পরিচিতির সবচেয়ে সৎ বাক্য। এটি পরিসংখ্যানকে প্রতিদ্বন্দ্বী বা পূর্বপুরুষ হিসেবে দেখায় না। এটি পরিসংখ্যানকে দেখায় লার্নিং যার ওপর নির্ভর করে তার একটি ফল হিসেবে।
| মাত্রা | সময় জটিলতা | স্থান জটিলতা | স্যাম্পল জটিলতা |
|---|---|---|---|
| কার্যকর সংজ্ঞা | হাইপোথিসিস $h$ বের করতে প্রয়োজনীয় অসীমতটীয় চলার সময় | প্রশিক্ষণ ও মূল্যায়নের সময় প্রয়োজনীয় মেমরি | ধারণার পরিবার শিখতে প্রয়োজনীয় প্রশিক্ষণ উদাহরণের সংখ্যা $m$ |
| নিয়ামক তত্ত্ব | গণনাগত জটিলতা (P বনাম NP, প্রশিক্ষণের কাঠিন্য) | আর্কিটেকচারের মেমরি সীমা ও ক্যাশ লোকালিটি | PAC লার্নিং, Rademacher জটিলতা ও VC-মাত্রা |
| খরচের তাৎপর্য | সার্ভার কম্পিউট ও GPU/CPU ইনফারেন্স বাজেট | RAM ও অন-চিপ SRAM ধারণক্ষমতা | ডেটা সংগ্রহ, অ্যানোটেশন ও লেবেলিংয়ের খরচ |
| তাত্ত্বিক ভূমিকা | অ্যালগরিদমের রানটাইম দক্ষতা মাপে | স্থান সম্পদের দক্ষতা মাপে | না-দেখা ডেটায় সাধারণীকরণ ত্রুটি ও সীমা নির্ধারণ করে |
তাত্ত্বিক মেরুদণ্ড #
ভূমিকা বলে বইটি কীভাবে গড়া। প্রথম তিন বা চারটি অধ্যায় পরবর্তী উপাদানের তাত্ত্বিক ভিত্তি স্থাপন করে। সূচিপত্র আমাদের দেখতে দেয় সেই ভিত্তি কী দিয়ে তৈরি, অন্তত শিরোনামের স্তরে।
সূচিপত্রের প্রথম অধ্যায়ের শিরোনাম “The PAC Learning Framework”, আর তার ভেতরে আসে “Guarantees for finite hypothesis sets - consistent case” ও “Guarantees for finite hypothesis sets - inconsistent case” শিরোনামের অনুচ্ছেদ। অনুচ্ছেদের নামগুলো আমাদের দুটি কথা বলে। একটি হলো কাঠামোটি নিশ্চয়তা দেয়, যা পরিচিতির জোরের সঙ্গে মেলে। অন্যটি হলো নিশ্চয়তাগুলো ভাগ করা হয়েছে ক্ষেত্রটি সংগত না অসংগত তার ভিত্তিতে, আর বইটি দুটিকে আলাদাভাবে দেখে। সংগত ও অসংগত ক্ষেত্রে কী আছে তা নিয়ে আমি জল্পনা করব না, কারণ এখানকার উৎস কেবল অনুচ্ছেদের শিরোনাম দেয়। কিন্তু এই জোড়া দেখায় যে লেখকেরা একটি পরিচ্ছন্ন উপপাদ্য রেখে এগিয়ে যান না। তাঁরা কঠিনতর, এলোমেলো ক্ষেত্রটিকে তার নিজের অনুচ্ছেদ দেন।
তালিকার পরের অধ্যায় “Rademacher Complexity and VC-Dimension”। এর অনুচ্ছেদগুলো Rademacher জটিলতা, বৃদ্ধি ফাংশন, VC-মাত্রা ও নিম্ন সীমা নিয়ে। পরিচিতির পাশে রেখে পড়লে এই অধ্যায় পরিচিতির তোলা একটি প্রশ্নের স্বাভাবিক উত্তর। নিশ্চয়তা যদি বিবেচিত ধারণা শ্রেণির জটিলতার ওপর নির্ভর করে, তবে সেই জটিলতা মাপার হাতিয়ার দরকার। Rademacher জটিলতা, বৃদ্ধি ফাংশন ও VC-মাত্রা সেই অনুচ্ছেদ হিসেবে তালিকাভুক্ত যেগুলো এই ভার বয়। অনুচ্ছেদের তালিকায় নিম্ন সীমার অন্তর্ভুক্তিও লক্ষ করার মতো। যে বই কেবল ঊর্ধ্ব সীমা দেখায়, সে বলে কী অর্জন করা যায়। যে বইয়ে নিম্ন সীমাও আছে, সে এটাও বলে কী যায় না।
তারপর আসে অধ্যায় ৪, “Model Selection”, যার অনুচ্ছেদে আছে empirical risk minimization (ERM) ও structural risk minimization (SRM)। দ্বিতীয় সংস্করণের দিকে তাকানোর সময় আমরা এই অধ্যায়ে ফিরব, কারণ নতুন সংস্করণ যেসব জায়গায় সবচেয়ে বেশি বদলায় এটি তার একটি।
কাঠামোটি সুচিন্তিত। আগে ভিত্তি, তারপর জটিলতা মাপার যন্ত্রপাতি, তারপর মডেল নির্বাচন, আর কেবল তার পরেই অ্যালগরিদম। পড়ানোর এটি একটি সমর্থনযোগ্য উপায়, আর এটি বইটির নিজের বর্ণনার সঙ্গে মেলে যে এটি কীভাবে কাজ করে: শুরুর অধ্যায়গুলো তত্ত্ব স্থাপন করে, আর বাকিটা তার ওপর গড়ে ওঠে।
তত্ত্ব থেকে অ্যালগরিদম: সাপোর্ট ভেক্টর মেশিন ও কার্নেল #
সূচিপত্র পরের অ্যালগরিদম-বিষয়ক অধ্যায়গুলোর নামও দেয়। একটির শিরোনাম “Support Vector Machines”, যাতে পৃথকযোগ্য ক্ষেত্র ও অপৃথকযোগ্য ক্ষেত্রের অনুচ্ছেদ আছে। ওই অনুচ্ছেদগুলোর প্রতিটি প্রাইমাল অপ্টিমাইজেশন সমস্যা, সাপোর্ট ভেক্টর ও ডুয়াল অপ্টিমাইজেশন সমস্যা নিয়ে। আরেকটির শিরোনাম “Kernel Methods”।
সাপোর্ট ভেক্টর মেশিন অধ্যায়ের গড়ন নিজেই তথ্যপূর্ণ। একই তিনটি বিষয় পৃথকযোগ্য ও অপৃথকযোগ্য, দুই শিরোনামের নিচেই আসে: প্রাইমাল অপ্টিমাইজেশন সমস্যা, সাপোর্ট ভেক্টর ও ডুয়াল অপ্টিমাইজেশন সমস্যা। এই পুনরাবৃত্তি একটি সমান্তরাল আলোচনার ইঙ্গিত দেয়, ভিন্ন অনুমানের অধীনে একই প্রশ্ন দুবার করা। এই সমান্তরালতা PAC অধ্যায়ের সংগত ও অসংগত বিভাজনের প্রতিফলন, তাই গোটা বই জুড়ে একটি ছাঁদ ফুটে ওঠে: আগে পরিচ্ছন্ন ক্ষেত্র, তারপর সেই ক্ষেত্র যেখানে পরিচ্ছন্ন অনুমানটি খাটে না।
একটি সূচিপত্র থেকে খুব বেশি পড়ে নেওয়ার ব্যাপারে আমি সতর্ক থাকব। এটি বলতে পারে বইটি কী কী অন্তর্ভুক্ত করে আর উপাদানকে কীভাবে ভাগ করে। এটি বলতে পারে না কোনো অনুচ্ছেদ কতটা ভালো লেখা, আর এই উৎসগুলোর কিছুই তা বলে না। এটি যা দেখায় তা হলো, সাপোর্ট ভেক্টর মেশিন অধ্যায়ের অপ্টিমাইজেশনের ভাষা, প্রাইমাল ও ডুয়াল, পরিচিতির সেই বর্ণনার সঙ্গে ফিরে যুক্ত হয় যেখানে কৌশলগুলোকে কম্পিউটার বিজ্ঞানকে পরিসংখ্যান, সম্ভাবনা ও অপ্টিমাইজেশনের ভাবনার সঙ্গে মেলানো বলে বর্ণনা করা হয়েছে। ওই তালিকার অপ্টিমাইজেশনের সুতোটি এই অনুচ্ছেদ-শিরোনামগুলোতে মূর্তভাবে দেখা দেয়।
বইটি মাল্টি-ক্লাস শ্রেণিবিন্যাস, র্যাঙ্কিং ও রিগ্রেশনের প্রতিটির জন্য আলাদা অধ্যায়ও রাখে। এটি সমর্থন করার মতো একটি নকশাগত সিদ্ধান্ত। এগুলোকে বাইনারি শ্রেণিবিন্যাসের পাদটীকা হিসেবে দেখা সহজ হতো। প্রতিটিকে নিজস্ব অধ্যায় দেওয়া ইঙ্গিত দেয় যে লেখকেরা এগুলোকে নিজস্ব বিশ্লেষণসহ আলাদা সমস্যা মনে করেন, আর এটি একাধিক বিষয়ের একীভূত উপস্থাপনার ঘোষিত লক্ষ্যের সঙ্গে মেলে, কোনো একটি দৃষ্টিভঙ্গিকে প্রাধান্য দেওয়া উপস্থাপনার সঙ্গে নয়।
বইটি কী অন্তর্ভুক্ত না করা বেছে নেয় #
ভূমিকার সবচেয়ে আকর্ষণীয় অংশটি বাদ দেওয়া নিয়ে। লেখকেরা বলেন, বইটি মেশিন লার্নিংয়ের একটি সাধারণ পরিচিতি, যা গবেষকদের জন্য রেফারেন্স বই আর শিক্ষার্থীদের জন্য পাঠ্যবই হিসেবে কাজ করতে পারে। এই বিস্তৃত দাবি করার পর তাঁরা একটি সীমা যোগ করেন: তাঁরা কয়েকটি গুরুত্বপূর্ণ বিষয় বাদ রাখতে বেছে নিয়েছেন, যার মধ্যে আছে গ্রাফিক্যাল মডেল ও নিউরাল নেটওয়ার্ক।
খুব কম পাঠ্যবই এত সরাসরি এ কথা বলে, আর আমার যুক্তি হলো এই অকপটতা একটি শক্তি। যে পাঠক আগে থেকেই জানেন কী নেই, তিনি সেই অনুযায়ী পরিকল্পনা করতে পারেন। যাঁর নিউরাল নেটওয়ার্ক দরকার তিনি জানেন অন্যত্র খুঁজতে হবে, অধ্যায় নয়ে গিয়ে ঘাটতিটা আবিষ্কার করার বদলে।
কারণগুলোও বলা হয়েছে। এই বাদ দেওয়া সংক্ষিপ্ততার জন্যও, আর কিছু পদ্ধতির জন্য বর্তমানে দৃঢ় তাত্ত্বিক নিশ্চয়তার অভাবের কারণেও। দুটি কারণ দেওয়া হয়েছে। সংক্ষিপ্ততা যেকোনো বইয়ের ওপর একটি ব্যবহারিক সীমাবদ্ধতা। দ্বিতীয় কারণটিই বইটির দর্শন সম্পর্কে কিছু বলে।
এটিকে পরিচিতির সঙ্গে জুড়ুন। তাত্ত্বিক লার্নিং নিশ্চয়তাই সেই জিনিস যার চারপাশে এই বই সংগঠিত। নিশ্চয়তা নির্ভর করে ধারণা শ্রেণির জটিলতা ও প্রশিক্ষণ স্যাম্পলের আকারের ওপর, আর তাত্ত্বিক অধ্যায়গুলো আগে আসে কারণ বাকি সবকিছু তাদের ওপর গড়া। যে পদ্ধতির জন্য বর্তমানে দৃঢ় নিশ্চয়তা নেই, সেটি এভাবে গড়া বইয়ে অস্বস্তিকরভাবে বসে। তাই এই বাদ দেওয়া বইটির কেন্দ্রীয় অঙ্গীকার থেকেই আসে। লেখকেরা যে সংজ্ঞা দিয়ে শুরু করতে বেছে নিয়েছিলেন, বিষয়ের সেই সংজ্ঞার সঙ্গে এটি সংগত।
এখানে সতর্কতার একটি বিষয় আছে। লেখায় বলা হয়েছে “কিছু পদ্ধতি”, তাই দাবিটি কিছু পদ্ধতির জন্য দৃঢ় নিশ্চয়তার অভাব নিয়ে, সব বাদ দেওয়া বিষয় নিয়ে নয়, আর বলা হয়েছে “বর্তমানে”, যা রায়টিকে লেখার সময়ের সঙ্গে বাঁধে। একে “নিউরাল নেটওয়ার্কের কোনো তত্ত্ব নেই” বলে সংক্ষেপ করার প্রলোভন আমি ঠেকাব। উৎস তা বলে না। উৎস বলে কিছু পদ্ধতির নিশ্চয়তা বর্তমানে অনুপস্থিত, আর এই কারণেই, সংক্ষিপ্ততার সঙ্গে মিলে, গ্রাফিক্যাল মডেল ও নিউরাল নেটওয়ার্ক বাদ পড়েছে।
কী পড়বেন তা বাছাই করছেন এমন প্রযুক্তিগত পাঠকদের জন্য ব্যবহারিক ফল সরল। এই বই আপনাকে নিশ্চয়তার শব্দভান্ডার দেয়, আর স্পষ্ট করে বলে কোন ক্ষেত্রগুলো সে অন্তর্ভুক্ত করে না।
দ্বিতীয় সংস্করণ কী বদলায় #
দ্বিতীয় সংস্করণ সংশোধনীসহ পুনর্মুদ্রণের চেয়ে বেশি কিছু। ভূমিকা সংযোজনের তালিকা দেয়, আর প্রতিটি বলে লেখকদের মতে প্রথম সংস্করণ কোথায় পাতলা ছিল।
প্রধান পরিবর্তন হলো মডেল নির্বাচন নিয়ে একটি পূর্ণ অধ্যায়, অধ্যায় ৪, এমন একটি বিষয়ে যাকে লেখকেরা গুরুত্বপূর্ণ বলেন এবং আগের সংস্করণে যা কেবল সংক্ষেপে আলোচিত হয়েছিল। ভাষা সরাসরি। তাঁরা দাবি করেন না যে প্রথম সংস্করণ এটি ভালোভাবে কভার করেছিল। তাঁরা বলেন এটি কেবল সংক্ষেপে আলোচিত হয়েছিল এবং এখন তাঁরা একে একটি পূর্ণ অধ্যায় দিয়েছেন। সূচিপত্রে যেমন দেখা যায়, অনুচ্ছেদে আছে empirical risk minimization (ERM) ও structural risk minimization (SRM)।
মডেল নির্বাচন কেন এই পদোন্নতির যোগ্য? উৎস তা বলে না, আর আমি লেখকদের হয়ে কোনো কারণ বানাব না। কিন্তু এর অবস্থান অনেক কিছু বলে। অধ্যায় ৪ সরাসরি আসে PAC কাঠামো এবং Rademacher জটিলতা ও VC-মাত্রার অধ্যায়গুলোর পরে, যা একে রাখে সেই প্রথম তিন বা চারটি অধ্যায়ের ভেতরে যাদের ভূমিকা তাত্ত্বিক ভিত্তি স্থাপনকারী বলে। তাই লেখকেরা মডেল নির্বাচনকে পরে মনে পড়া জিনিস হিসেবে জুড়ে দেননি। তাঁরা একে তাত্ত্বিক ভিত্তির মধ্যে গেঁথে দিয়েছেন।
পরের সংযোজনগুলো হলো Maximum Entropy মডেল নিয়ে একটি নতুন অধ্যায়, অধ্যায় ১২, এবং Conditional Maximum Entropy মডেল নিয়ে একটি নতুন অধ্যায়, অধ্যায় ১৩। দুটি সম্পূর্ণ নতুন অধ্যায় একটি উল্লেখযোগ্য সম্প্রসারণ, আর বইটি এখন এই জোড়াকে পরপর অধ্যায় দেয়।
পরিশিষ্টগুলোও বদলায়। লেখকেরা উত্তল অপ্টিমাইজেশন নিয়ে পরিশিষ্ট B-তে Fenchel দ্বৈততা নিয়ে একটি পূর্ণ অনুচ্ছেদ যোগ করেছেন, এবং তথ্য তত্ত্ব নিয়ে পরিশিষ্ট E যোগ করেছেন। বইটিতে রৈখিক বীজগণিতের একটি সংক্ষিপ্ত পর্যালোচনা উপস্থাপনকারী একটি বিস্তৃত পরিশিষ্টও আছে। এই পরিবর্তনগুলো একটি সংগত দিকে নির্দেশ করে: সহায়ক গণিত অধ্যায়গুলোর পাশাপাশি বেড়েছে। Fenchel দ্বৈততা উত্তল অপ্টিমাইজেশনের পরিশিষ্টে যোগ দেয়, আর তথ্য তত্ত্ব পায় নিজস্ব পরিশিষ্ট। তথ্য তত্ত্ব বিশেষভাবে Maximum Entropy অধ্যায়গুলোকে সমর্থন করতেই আছে, এ কথা বলা থেকে আমি বিরত থাকব, কারণ উৎস এমন কোনো যোগসূত্র বলে না, আর ভূমিকায় দুটি সংযোজন আলাদা দফা হিসেবে আসে। একই সংস্করণে এদের আসাটা একটি কাকতালীয় ব্যাপার, যাকে আমি কাকতালীয়ই থাকতে দেব।
বইটি কার জন্য, আর এটি কীভাবে পড়া হবে বলে আশা করে #
বইটি তার পাঠকগোষ্ঠী জানায়: এটি মেশিন লার্নিং, পরিসংখ্যান ও অন্যান্য সংশ্লিষ্ট ক্ষেত্রের শিক্ষার্থী ও গবেষকদের জন্য। ওই তালিকায় পরিসংখ্যানের নাম আছে, যা পরিচিতির এই কথার প্রতিধ্বনি যে মেশিন লার্নিং স্বভাবতই ডেটা বিশ্লেষণ ও পরিসংখ্যানের সঙ্গে যুক্ত।
এটি এটাও জানায় যে এটি কী ধরে নেয়। পাঠকের কাছে প্রত্যাশা, রৈখিক বীজগণিত, সম্ভাবনা ও অ্যালগরিদম বিশ্লেষণের মৌলিক ধারণার সঙ্গে পরিচিতি। এটি একটি ছোট তালিকা, আর এটি পরিচিতির উপাদান-তালিকার সঙ্গে মেলে, যদিও হুবহু নয়। পরিচিতি কৌশলগুলোর উৎস হিসেবে কম্পিউটার বিজ্ঞান, পরিসংখ্যান, সম্ভাবনা ও অপ্টিমাইজেশনের নাম করে। পূর্বশর্তগুলো নাম করে রৈখিক বীজগণিত, সম্ভাবনা ও অ্যালগরিদম বিশ্লেষণের। অপ্টিমাইজেশন পূর্বশর্তের মধ্যে নেই, আর বইটি এটিকে অন্য দিক থেকে সামলায়: পরিশিষ্ট B উত্তল অপ্টিমাইজেশন কভার করে, নতুন Fenchel দ্বৈততা অনুচ্ছেদসহ। রৈখিক বীজগণিত পটভূমি হিসেবে প্রত্যাশিত, আর তবুও বইটি তার পর্যালোচনার বিস্তৃত পরিশিষ্ট দেয়। তাই পূর্বশর্ত ও পরিশিষ্টগুলো ইচ্ছাকৃতভাবে একে অপরের ওপর পড়ে, আর যে পাঠকের রৈখিক বীজগণিতে মরচে ধরেছে, তাঁর জন্য একই মলাটের ভেতরে একটি সংক্ষিপ্ত পর্যালোচনা আছে।
শিক্ষণপদ্ধতিও সরলভাবে বলা হয়েছে। প্রতিটি অধ্যায় শেষ হয় একগুচ্ছ অনুশীলনী দিয়ে, যার পূর্ণ সমাধান আলাদাভাবে উপস্থাপিত। দুই ধরনের পাঠকের সেবা করা বইয়ের জন্য এটি একটি বুদ্ধিদীপ্ত ব্যবস্থা। একজন শিক্ষার্থী অনুশীলনী চেষ্টা করে সমাধানের সঙ্গে মিলিয়ে নিতে পারে, আর বইটিকে রেফারেন্স হিসেবে ব্যবহার করা গবেষককে প্রতিটি পাতায় কষে দেওয়া উত্তর পেরিয়ে যেতে হয় না। সমাধানগুলো আলাদা খণ্ড হিসেবে আসে না অন্য কোনো নথি হিসেবে, উৎস তা বলে না, কেবল বলে যে সেগুলো আলাদাভাবে উপস্থাপিত, তাই আমি এখানেই থামছি।
সব মিলিয়ে, পাঠকগোষ্ঠী, পূর্বশর্ত, অনুশীলনী ও পরিশিষ্ট এমন একটি বইয়ের বর্ণনা দেয় যা কষে কষে পেরোনোর জন্য নকশা করা। Courant Institute-এ চোদ্দো বছরের শিক্ষকতা এই নকশার পেছনে দাঁড়িয়ে। যে কোর্স বারবার পড়ানো হয়েছে তা এ ধরনের সরঞ্জাম তৈরি করে, যদিও ভূমিকা স্পষ্টভাবে এই যোগসূত্রের দাবি করে না, আর আমি এটি দিচ্ছি কেবল প্রমাণের একটি পাঠ হিসেবে, কোনো সিদ্ধান্ত হিসেবে নয়।
প্রয়োগ বিস্তৃত, আর বইটি তা বলে #
এত তাত্ত্বিক একটি বইকে ব্যবহার থেকে দূরের কিছু বলে ভুল করা যেতে পারে। পরিচিতি একটি সরল বিবৃতিতে সেটা আটকায়: মেশিন লার্নিংয়ের ব্যবহারিক প্রয়োগের পরিসর খুবই বিস্তৃত। যেটির নাম করা হয়েছে তা হলো লেখা বা নথি শ্রেণিবিন্যাস, যার মধ্যে স্প্যাম শনাক্তকরণ আছে।
স্প্যাম শনাক্তকরণ উদাহরণ হিসেবে একটি ভালো বাছাই, এমন একটি কারণে যা লেখকদের নিজেদের কাঠামোই ব্যাখ্যা করে। এটি ঠিক আগের উদাহরণের অর্থে একটি নথি শ্রেণিবিন্যাস সমস্যা: লেবেলযুক্ত নথি ভেতরে, না-দেখা নথি সম্পর্কে পূর্বাভাস বাইরে। স্যাম্পল আকার ও লেবেলের মানের উপাদানগুলো এর ওপর সরাসরি খাটে। বড় স্যাম্পল কাজটিকে সহজ করে, আর ভুল লেবেলের বার্তা একে কঠিন করে। সম্ভাব্য বিভাগের সংখ্যা কম, যা আগের অংশের যুক্তি অনুযায়ী কাঠিন্যের ওপরও প্রভাব ফেলে। আমি বইটির ঘোষিত উপাদানগুলো তার ঘোষিত উদাহরণে প্রয়োগ করছি, আর বাস্তব জগতের স্প্যাম ফিল্টার সম্পর্কে কোনো দাবি করছি না।
এই অংশের অবস্থানে একটি নিঃশব্দ যুক্তিও আছে। লেখকেরা নথি শ্রেণিবিন্যাসকে একটি লার্নিং কাজ হিসেবে পরিচয় করিয়ে দেন এবং তারপর তৎক্ষণাৎ উল্লেখ করেন যে এটি কোনোভাবেই একমাত্র নয়। প্রয়োগ বিস্তৃত কারণ মূল সংজ্ঞাটি বিস্তৃত। “কর্মক্ষমতা বাড়াতে বা নির্ভুল পূর্বাভাস দিতে অভিজ্ঞতা কাজে লাগানো গণনামূলক পদ্ধতি” যার সঙ্গে খাপ খায়, সবই যোগ্য। এই সাধারণতাই বইটির তত্ত্ব নিয়ে মাথা ঘামানোর কারণও। প্রয়োগের খুবই বিস্তৃত পরিসর ধারণ করার জন্য তৈরি কাঠামো কোনো একটির খুঁটিনাটির সঙ্গে বাঁধা থাকতে পারে না, আর ধারণা-শ্রেণির জটিলতা ও স্যাম্পল আকারের ভাষায় বলা নিশ্চয়তাগুলো ঠিক সেই ধরনের, যা সমস্যা থেকে সমস্যায় ভ্রমণ করে।
বইটির বাজি #
সুতোগুলো একসঙ্গে টানুন, আর একটি সংগত অবস্থান ফুটে ওঠে, যা বেশির ভাগ পাঠ্যবইয়ের সূচিপত্র দাবি করতে পারে না। বইটি লার্নিংকে সংজ্ঞায়িত করে অভিজ্ঞতা ও পূর্বাভাসের ভাষায়। এটি তিনটি জটিলতা, সময়, স্থান ও স্যাম্পল, মানের পরিমাপ হিসেবে চিহ্নিত করে। এটি নিশ্চয়তাকে বাঁধে ধারণা-শ্রেণির জটিলতা ও স্যাম্পল আকারের সঙ্গে, আর সেই নিশ্চয়তা জোগানো তত্ত্বকে রাখে একেবারে সামনে। তারপর এটি অ্যালগরিদমের অধ্যায়গুলো সেই ভিত্তির ওপর গড়ে এবং খোলাখুলি বলে কোন জনপ্রিয় ক্ষেত্রগুলো এটি বাদ রাখে, কারণ কিছু পদ্ধতির নিশ্চয়তা আপাতত দৃঢ় নয়।
এটি তত্ত্বের ওপর একটি বাজি, যা টিকে থাকে তার বাজি। বছরের পর বছর একটি স্নাতকোত্তর কোর্স পড়ানো লেখকদের একটি দল কেন এই বাজি ধরবে, তা আমি বুঝতে পারি। বাজিটির একটি মূল্য আছে, আর লেখকেরা তার নাম করেন: গ্রাফিক্যাল মডেল ও নিউরাল নেটওয়ার্ক বাদ পড়া দৃঢ় নিশ্চয়তার ওপর জোর দেওয়ার মূল্য। পাঠকের উচিত সেই মূল্য সৎভাবে মেপে দেখা। আপনার কাজে যদি বাদ পড়া ক্ষেত্রগুলোর আধিপত্য থাকে, তবে এই বই একটি ম্যানুয়াল নয়, একটি ভিত্তি। আপনার কাজে যদি যুক্তি দিতে হয় একজন লার্নার একটি সসীম স্যাম্পল থেকে সাধারণীকরণ করবে কি না, তবে বইটির শব্দভান্ডারই এর উদ্দেশ্য।
প্রতিষ্ঠাতাদের জন্য কাজের শিক্ষাটি সবচেয়ে কম চকচকে। পূর্বাভাসের সাফল্যের জন্য ডেটার মান ও আকার নির্ণায়ক, আর একটি কাজের কাঠিন্য নির্ভর করে লেবেলের মান ও সম্ভাব্য বিষয়ের সংখ্যার ওপর। এগুলো এমন ইনপুট সম্পর্কে বিবৃতি যেগুলোকে আপনি প্রায়ই প্রভাবিত করতে পারেন। বইটি প্রতিশ্রুতি দেয় না যে কোনো নির্দিষ্ট অ্যালগরিদম একটি পাতলা বা ভুল লেবেলের স্যাম্পলকে উদ্ধার করবে, আর না দেওয়াটাই ঠিক।
প্রযুক্তিগত পাঠকদের জন্য বেশি আকর্ষণীয় প্রশ্ন সেটি, যা ভূমিকা খোলা রাখে। লেখকেরা কিছু পদ্ধতি বাদ দিয়েছেন দৃঢ় তাত্ত্বিক নিশ্চয়তার বর্তমান অভাবের কারণে। “বর্তমান” শব্দটি একে লেখার সময়ের অবস্থা হিসেবে উপস্থাপন করে, আর উৎস বলে না এটি বদলাবে কি না, বা কীভাবে। ওই নিশ্চয়তাগুলো একটি অধ্যায়ের যোগ্য হওয়ার মতো দৃঢ় হতে কী লাগবে? বইটি এর উত্তর দিতে পারে না। কী বাদ রাখে আর কেন, সে বিষয়ে নির্ভুল থেকে, এটি অন্তত দেখায় কোথায় খুঁজতে হবে।
খাতভিত্তিক তাৎপর্য #
পরিসংখ্যানগত লার্নিং নিশ্চয়তা ও স্যাম্পল জটিলতার ওপর জোর বেশ কয়েকটি সফটওয়্যার ও গবেষণা ক্ষেত্রে কাজে লাগানোর মতো সীমারেখা দেয়।
একাডেমিক মেশিন লার্নিং ও পাঠ্যক্রম নকশা #
শিক্ষামূলক কার্যক্রমগুলোকে মেশিন লার্নিংকে পরীক্ষামূলক প্রম্পট ইঞ্জিনিয়ারিং বা ফ্রেমওয়ার্ক প্লাম্বিং হিসেবে দেখার চাপ প্রতিরোধ করতে হবে। শিক্ষার্থীদের PAC কাঠামো, Rademacher জটিলতা ও structural risk minimization-এ ভিত গড়ে দেওয়া টেকসই গাণিতিক সহজাত বোধ তৈরি করে, যা ক্ষণস্থায়ী ডিপ লার্নিং আর্কিটেকচারের ঘূর্ণি পেরিয়েও টিকে থাকে।
এন্টারপ্রাইজ AI প্রকৌশল ও ডেটার মূল্যায়ন #
পূর্বাভাস ব্যবস্থা মোতায়েনকারী প্রকৌশল প্রতিষ্ঠানগুলো প্রায়ই কম্পিউটে (মডেলের আকার) প্রয়োজনের চেয়ে বেশি পুঁজি ঢালে, আর স্যাম্পল জটিলতা ও লেবেলের বিশ্বস্ততা উপেক্ষা করে। যেহেতু সাধারণীকরণ ত্রুটি স্যাম্পল আকারের তুলনায় ধারণা-শ্রেণির জটিলতা দিয়ে কঠোরভাবে সীমাবদ্ধ, দলগুলো বড় অনিয়মিত মডেলের বদলে পরিষ্কার অ্যানোটেশন ও স্যাম্পল নিরীক্ষায় বিনিয়োগ করে উন্নততর ROI পায়।
অগ্রসর AI গবেষণা ও মডেল নিরীক্ষা #
EU AI Act-এর মতো নিয়ন্ত্রক কাঠামো স্বয়ংক্রিয় সিদ্ধান্ত ব্যবস্থার ওপর পূর্বানুমানযোগ্য সীমা বাধ্যতামূলক করায়, Foundations of Machine Learning-এ আনুষ্ঠানিক রূপ পাওয়া পরিসংখ্যানগত লার্নিং নিশ্চয়তা সম্মতির প্রয়োজনীয়তা হয়ে ওঠে। নিয়ন্ত্রক ও নিরাপত্তা নিরীক্ষকদের দরকার অনুমানভিত্তিক যাচাই স্কোরের বদলে প্রমাণযোগ্য সাধারণীকরণ সীমা ও কঠোর মডেল নির্বাচন প্রোটোকল।
উপসংহার #
কাঁচা অভিজ্ঞতাবাদের প্রলোভনে প্রায়ই পড়া একটি ক্ষেত্রে Foundations of Machine Learning একটি অপরিহার্য নোঙর হয়ে আছে। PAC লার্নিং, Rademacher জটিলতা ও VC-মাত্রার চারপাশে গোটা পাঠ্যক্রম গড়ে, Mehryar Mohri, Afshin Rostamizadeh ও Ameet Talwalkar গবেষকদের মনে করিয়ে দেন যে অ্যালগরিদমের সৌকর্য গাণিতিক নিশ্চয়তার বিকল্প হতে পারে না। বদ্ধ-রূপ নিশ্চয়তার অনুপস্থিতির কারণে নিউরাল নেটওয়ার্ক ও গ্রাফিক্যাল মডেল লেখকদের অকপটে বাদ দেওয়া কোনো ত্রুটি নয় - এটি বইটির সংজ্ঞায়ক শক্তি, যা স্পষ্ট রেখা টানে শাস্ত্রটি কঠোরভাবে কী প্রমাণ করতে পারে আর কী কেবল পর্যবেক্ষণ করে তার মধ্যে।
সচরাচর জিজ্ঞাসা #
লেখকেরা দ্বিতীয় সংস্করণ থেকে নিউরাল নেটওয়ার্ক ও গ্রাফিক্যাল মডেল কেন বাদ দিলেন?
লেখকেরা ইচ্ছাকৃতভাবে নিউরাল নেটওয়ার্ক ও গ্রাফিক্যাল মডেল বাদ দিয়েছেন সংক্ষিপ্ততার জন্য, আর সেই সময়ে ওই পদ্ধতিগুলোর কয়েকটির জন্য দৃঢ় তাত্ত্বিক নিশ্চয়তার অভাবের কারণেও। বইটি কঠোরভাবে সংগঠিত সেই অ্যালগরিদমগুলোর চারপাশে যেগুলো কঠোর সাধারণীকরণ সীমা মেনে নেয়।
স্যাম্পল জটিলতাকে সময় ও স্থান জটিলতা থেকে কী আলাদা করে?
সময় জটিলতা নির্বাহের গতি যাচাই করে আর স্থান জটিলতা মেমরির ব্যবহার মাপে, অন্যদিকে স্যাম্পল জটিলতা পরিমাপ করে প্রশিক্ষণ ডেটার সেই গাণিতিক পরিমাণ, যা একটি অ্যালগরিদমের নির্দিষ্ট ত্রুটি ও আস্থার সহনসীমার মধ্যে ধারণার একটি পরিবার শিখতে লাগে।
empirical risk minimization ও structural risk minimization-এর মূল পার্থক্য কী?
Empirical risk minimization (ERM) সেই হাইপোথিসিস বাছে যা প্রশিক্ষণ ত্রুটিকে সরাসরি সর্বনিম্ন করে, আর হাইপোথিসিসের জটিলতা বেশি হলে ওভারফিটিংয়ের ঝুঁকি নেয়। Structural risk minimization (SRM) প্রশিক্ষণ ত্রুটিকে হাইপোথিসিসের জটিলতার (যেমন VC-মাত্রা বা Rademacher জটিলতা) সঙ্গে ভারসাম্যে রাখে, আর সাধারণীকরণ ঝুঁকির ওপর আনুষ্ঠানিক সীমা দেয়।
তথ্যসূত্র #
- Mehryar Mohri, Afshin Rostamizadeh, and Ameet Talwalkar, (2018). Foundations of Machine Learning, দ্বিতীয় সংস্করণ ⧉. The MIT Press.
- Leslie G. Valiant, (1984). শেখার যোগ্যতার একটি তত্ত্ব ⧉. Communications of the ACM.
- Vladimir N. Vapnik, (1998). পরিসংখ্যানগত লার্নিং তত্ত্ব ⧉. John Wiley & Sons.
সর্বশেষ পর্যালোচনা .
সর্বশেষ পর্যালোচনা .
এই নিবন্ধটি ক্রস-পোস্ট করুন
Medium-এর জন্য ফরম্যাট কপি করুন
# মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau > Originally published at [https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/](https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/) Mohri, Rostamizadeh ও Talwalkar-এর Foundations of Machine Learning (দ্বিতীয় সংস্করণ, ২০১৮) লার্নিংকে ডেটা, স্যাম্পল জটিলতা ও তাত্ত্বিক নিশ্চয়তার চারপাশে সংজ্ঞায়িত করে। Read the full article on sebastienrousseau.com: https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/
Mastodon-এর জন্য ফরম্যাট কপি করুন
মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau Mohri, Rostamizadeh ও Talwalkar-এর Foundations of Machine Learning (দ্বিতীয় সংস্করণ, ২০১৮) লার্নিংকে ডেটা, স্যাম্পল জটিলতা ও তাত্ত্বিক নিশ্চয়তার চারপাশে সংজ্ঞায়িত করে। https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/
LinkedIn-এর জন্য বিন্যাসিত কপি করুন
মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau Mohri, Rostamizadeh ও Talwalkar-এর Foundations of Machine Learning (দ্বিতীয় সংস্করণ, ২০১৮) লার্নিংকে ডেটা, স্যাম্পল জটিলতা ও তাত্ত্বিক নিশ্চয়তার চারপাশে সংজ্ঞায়িত করে।. এখানে মূল কৌশলগত টেকওয়েগুলি রয়েছে: - নির্দিষ্ট বংশপরিচয়ের একটি বই. শুরু করা যাক সেই তথ্যগুলো দিয়ে যেগুলো বস্তুটিকে নোঙর করে। বইটির শিরোনাম Foundations of Machine Learning, এবং এটি দ্বিতীয় সংস্করণ। এটি Adaptive Computation and Machine Learning সিরিজের অংশ, যার সম্পাদক Francis Bach।… - যে সংজ্ঞা সবচেয়ে ভারী কাজটা করে. পরবর্তী সবকিছু একটি বাক্যের ওপর নির্ভর করে। লেখকেরা লেখেন, মেশিন লার্নিংকে মোটা দাগে সংজ্ঞায়িত করা যায় এমন গণনামূলক পদ্ধতি হিসেবে যা কর্মক্ষমতা বাড়াতে বা নির্ভুল পূর্বাভাস দিতে অভিজ্ঞতা কাজে লাগায়।. - একটি কষে দেখানো উদাহরণ: নথি ও বিষয়. পরিচিতি সংজ্ঞাটিকে দাঁড় করায় একটি মূর্ত লার্নিং সমস্যার ওপর। এলোমেলোভাবে বাছা নথির একটি সসীম স্যাম্পল নিন, যার প্রতিটিতে একটি বিষয়ের লেবেল দেওয়া। কাজ হলো সেই স্যাম্পল ব্যবহার করে না-দেখা নথির বিষয় সম্পর্কে… - তিনটি জটিলতা, দুটি নয়. এখানে বইটি তার সবচেয়ে স্বতন্ত্র পদক্ষেপ নেয়, আর এটি চোখ এড়িয়ে যাওয়া সহজ কারণ এটি আসে একটি ছোট মন্তব্য হিসেবে। লেখকেরা বলেন, মেশিন লার্নিং মানে দক্ষ ও নির্ভুল পূর্বাভাস অ্যালগরিদম নকশা করা। কম্পিউটার বিজ্ঞানের… এই নিবন্ধে উল্লিখিত চ্যালেঞ্জগুলির প্রতি আপনার প্রতিষ্ঠানের পদ্ধতি কী? → https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/ #মেশিনলার্নিং #পাঠ্যবই #FoundationsOfMachineLearning #স্যাম্পলজটিলতা #Pacলার্নিং Sebastien Rousseau | CC-BY-4.0
এই নিবন্ধটি উদ্ধৃত করুন
মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau
Mohri, Rostamizadeh ও Talwalkar-এর Foundations of Machine Learning (দ্বিতীয় সংস্করণ, ২০১৮) লার্নিংকে ডেটা, স্যাম্পল জটিলতা ও তাত্ত্বিক নিশ্চয়তার চারপাশে সংজ্ঞায়িত করে।
BibTeX
@online{rousseau2026ম,
author = {Rousseau, Sebastien},
title = {{মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau}},
year = {2026},
url = {https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/},
urldate = {2026}
}RIS
TY - GEN AU - Rousseau, Sebastien TI - মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau PY - 2026 UR - https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/ ER -
Vancouver
Rousseau S. মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau. sebastienrousseau.com. 2026 Oct 10. Available from: https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/
Chicago
Rousseau, Sebastien. "মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau." sebastienrousseau.com. October 10, 2026. https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/.
APA
Rousseau, S. (2026, October 10). মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau. sebastienrousseau.com. https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/
এই নিবন্ধটি পুনঃপ্রকাশ করুন
মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau
Mohri, Rostamizadeh ও Talwalkar-এর Foundations of Machine Learning (দ্বিতীয় সংস্করণ, ২০১৮) লার্নিংকে ডেটা, স্যাম্পল জটিলতা ও তাত্ত্বিক নিশ্চয়তার চারপাশে সংজ্ঞায়িত করে।
এই নিবন্ধটি লাইসেন্স করা হয়েছে Creative Commons Attribution 4.0 International. পুনঃপ্রকাশনার জন্য মূল URL-এর কৃতিত্ব আবশ্যক।
মেশিন লার্নিং পাঠ্যবইয়ের সূচিপত্র এই ক্ষেত্র সম্পর্কে কী বলে — Sebastien Rousseau Mohri, Rostamizadeh ও Talwalkar-এর Foundations of Machine Learning (দ্বিতীয় সংস্করণ, ২০১৮) লার্নিংকে ডেটা, স্যাম্পল জটিলতা ও তাত্ত্বিক নিশ্চয়তার চারপাশে সংজ্ঞায়িত করে। Originally published at https://sebastienrousseau.com/bn/2026-10-10-meshin-larning-pathyaboiyer-suchipatr-ei-kshetr/ by Sebastien Rousseau. Licensed under CC-BY-4.0.