00:01डियर स्टूडेंट्स, वेलकम टू द क्लास। आज की इस क्लास में मैं एक्सप्लेन करने जा रहा हूं सपोर्ट वेक्टर मशीन। सपोर्ट वेक्टर मशीन, या जिसे हम SVM भी बोलते हैं, इसका पहले आपको बेसिक इन्ट्रोडक्शन देना जरूरी है। इसमें बहुत सारी टर्म्स हैं जिन्हें समझना जरूरी है। सीधे न्यूमेरिकल पे मत कूदना। कभी भी किसी भी टॉपिक में जब हम मशीन लर्निंग के बारे में बात करते हैं, तो कई बार हमें लगता है कि सीधे न्यूमेरिकल कर लें और फिर बाद में समझेंगे। नहीं। पहले आपको टर्म्स समझना जरूरी है कि SVM करता क्या है, कैसे काम करता है, और इसका प्रयोग कहां-कहां होता है। तो सबसे पहले देखते हैं, SVM है क्या? यह सुपरवाइज्ड मशीन लर्निंग का एल्गोरिदम है। यह अनसुपरवाइज्ड में नहीं आता, बल्कि सुपरवाइज्ड में आता है, जहां पे हम लेबल्ड डेटा प्रोवाइड करते हैं। क्लासिफिकेशन और रिग्रेशन दोनों के काम में आ जाता है। या आप क्लासिफाई भी करवा सकते हो। रिग्रेशन दोनों टास्क के लिए उपयोग होता है। अब मैं अगर बात करूं, जैसे क्लासिफिकेशन के पॉइंट ऑफ व्यू से, तो हमें क्या करना है? एक तरह से हमने मान लीजिए लीनीयरली सेपरेबल कर दिया, मैंने दो टाइप के डेटा को, जैसे ईमेल स्पैम है या ईमेल नॉट स्पैम है। तो अगर मैं पूरा लीनीयरली सेपरेबल कर रहा हूं स्ट्रेट लाइन के थ्रू, यानी मैं आसानी से क्लासिफाई कर सकता हूं। तो वही चीज है। लेकिन यहां पर टर्मिनोलॉजीस को पहले ध्यान से समझो, कि कौन-कौन से टर्म्स आते हैं। तो सबसे पहली टर्म है यहां पर हाइपरप्लेन। बहुत जरूरी। यहीं से कहानी आपकी शुरू होती है, SVM की। हाइपरप्लेन क्या है? हाइपरप्लेन एक डिसीजन बाउंड्री है, जो डेटा पॉइंट्स को अलग-अलग क्लासेस में सेपरेट करता है फीचर स्पेस में। स्पेस। मतलब, हमें यहाँ पे मान लीजिए कि इस तरह से मेरे पास दो डायमेंशन में डेटा दिया हुआ है। और मान लीजिए कि मेरा कुछ डेटा इस तरह का आता है। मान लीजिए कि मैं उसको प्लस की फॉर्म में या मल्टीप्लिकेशन की फॉर्म में, या किसी भी फॉर्म में ले सकता हूं। इस तरह से मेरे पास कुछ डेटा पॉइंट्स हैं जो स्टार की फॉर्म में हैं। ठीक है? और मान लीजिए कि ऐसे ही मेरे पास कुछ डेटा पॉइंट्स हैं जो माइनस की फॉर्म में, माइनस-माइनस इस तरह से हैं। इस तरह से, हम लोग यहाँ पे दो डेटा सेट ले लेते हैं। ठीक है? अब मैंने क्या किया? मान लीजिए कि मेरे को एक स्ट्रेट लाइन, यानी हाइपरप्लेन मिल गया, जो आसानी से दो पॉइंट्स को सेपरेट कर रहा है। मान लीजिए कि मेरे यह मान लीजिए कि ईमेल स्पैम और नॉट स्पैम वाला उदाहरण लें। तो मैंने इस तरह से स्पैम वाले को अलग कर दिया। और नॉट स्पैम वाले अलग कर दिए। तो क्लासिफाई कर दिया, अपने डेटा को दो क्लासेस में डिफाइन कर दिया, दो क्लासेस में डिफाइन कर दिया—पॉजिटिव क्लास और नेगेटिव क्लास, लाइक दैट। तो यहां पे जो ये स्ट्रेट लाइन इनको क्लासिफाई कर रही है, यह किस तरह का हाइपरप्लेन है? तो मैं इसको क्या बोल सकता हूं—इस लाइन को, 'यह मेरी हाइपरप्लेन है।' तो एक तरह से यह डिसीजन बाउंड्री होगी ना। डिसीजन बाउंड्री का मतलब है, इससे ऊपर वाले लेट्स 'सपैम' हैं, इससे नीचे वाले लेट्स 'सपैम' हैं। कुछ भी आप उदाहरण के तौर पर कह सकते हो कि कोई भी पॉइंट, अगर मान लो, कोई पॉइंट आता है और उसे यहां पर लाई कर रहा है, तो आप कह सकते हो कि वो इस वाली क्लास में है, क्योंकि यह सारे पॉइंट इस तरह से इकट्ठे हैं। ठीक है? तो आप इसको इस तरह से समझ सकते हो। अब, मान लो, ऐसा ही किसी और पॉइंट का नीचे की तरफ आता है। आप समझ सकते हो कि वो नीचे वाले से बिलॉंग कर रहा है। तो ये आपका जो है वो सिंपल सा कॉन्सेप्ट इसमें आता है। अब मान लीजिए मैं बात करूं कि नेक्स्ट मेरे पास कौन सा आता है? हाइपरप्लेन तो हमें समझ में आ गया। हाइपरप्लेन को यहाँ पर देखो, मैथेमैटिकल रिप्रेजेंटेशन। अगर हम बात करें, तो व्हाट इज़ द स्ट्रेट लाइन? हमने पहले भी किया है। वही mx + b, यहाँ पर wx + b हम सामान्यतः कह देते हैं। w क्या है? हमारा वेट है। वेट एक तरह से आप कह सकते हो कि जो मेरा x फीचर है, जो मेरा इनपुट फीचर है, उसके कॉमोन्डिंग जो भी वेट है, वो क्या है? w है। तो मल्टीपल फीचर्स हैं, तो मल्टीपल वेट्स होंगे। जैसे w1, अगर मान लीजिए, वेट है जो x1 का है। वैसे ही w2 वेट है x2 का। और फाइनली, मेरा जो है, वो b क्या है? बायस है। बायस इंटरसेप्ट, आपको ही पता है। स्ट्रेट लाइन में आपका आता ही है। तो वो वाला आपका बायस है, और ये वेट्स हैं, और ये आपके। फीचर्स हो गए। अब लेट्स सपोज़ मैं बात करूं, उदाहरण के तौर पर, कि अगर मुझे क्लासिफाई करना है कि कोई डेटा आपको दिया गया है, इस तरीके से आपने लेबल्ड करके ट्रेन कर दिया। उसके बाद आपको चेक करना है कि क्या वह क्लास कैट वाली क्लास में आएगा या डॉग वाली क्लास। तो कैट वाली, लेट्स सपोज़, मैंने प्लस वन मान ली। डॉग वाली, मैंने माइनस वन मान ली। तो बेस्ड ऑन द वेटेड एंड हाइड। तो मेरे पास यहाँ पे दो फीचर हो गए, एक उनका वेट और दूसरा उनकी हाइट के हिसाब से। तो मेरा हाइपरप्लेन क्या हो सकता है? 3 * वेट + 2 * हाइट – 50। ये जो है, वो एक तरह से आपका ट्रेनिंग करने के बाद, यह एक समीकरण इस तरीके से आया है। उदाहरण के तौर पर ले लो। तो यहाँ पे W1 क्या हो गया? तीन। और ये वेट उसका फीचर है, उसका कॉम्पोज़न वेट कितना हो गया? तीन। मतलब जो भी वेट आपको दिया होगा, उसको तीन से मल्टीप्लाई करना है। इसी तरह हाइट को भी। दिया हो उसका वेट कॉम्पोनेंट कितना हो गया? 2, और -50 क्या है यहाँ पर, 22 क्या है यहाँ पर? -50 तो ये वाली इक्वेशन आपकी इस तरीके से रिप्रेजेंट की जाती है, जिससे आप आसानी से अपने डेटा को क्लासेस में डिवाइड कर सकते हो। अब यहाँ पर दूसरा, यहाँ पर कहानी आती है सपोर्ट वेक्टर्स की। या उससे पहले लेट्स सपोज मार्जिन पढ़ लो। मार्जिन क्या कहता है? मार्जिन है, द डिस्टेंस बिटवीन हाइपरप्लेन और द नियरेस्ट डेटा पॉइंट ऑफ़ आइडर क्लास। ध्यान से सुनना, व्हाट इज़ द मार्जिन? मार्जिन है, द डिस्टेंस बिटवीन द हाइपरप्लेन और द नियरेस्ट डेटा पॉइंट ऑफ़ आइडर क्लास। कहने का मतलब क्या है? हाइपरप्लेन तो हमें समझ में आ गया, जो दो क्लासेस को इस तरीके से आसानी से बॉउंड्री की तरह काम कर रहा है। या तो उधर जाओ या इधर जाओ, लाइक दैट। लेकिन, मार्जिन पता है क्या है? मार्जिन क्या है? कि एक तरह से यह मेरे जितने भी डेटा पॉइंट हैं, मान लीजिए यह मेरी क्लास है, प्लस वाली यानी सकारात्मक क्लास, जिसमें जितने भी डेटा पॉइंट्स हैं, उनमें से जो डेटा पॉइंट हाइपरप्लेन के बिल्कुल पास हैं, एक तरह से उससे क्रॉस करती हुई एक मेरी लाइन यहां पर मैंने और ड्रॉ कर दी। ऐसे ही नेगेटिव क्लास में भी, यहां पर मेरी इस तरीके से, नेगेटिव वाले में भी एक स्ट्रेट लाइन है, मतलब हाइपरप्लेन के पैरेलेल में ही है। हाइपरप्लेन के पैरेलेल में ही एक मार्जिनल लाइन मैंने इस तरीके से ड्रॉ की, और यह जो मार्जिनल लाइन है, हमेशा याद रखना, जो नेरेस्ट डेटा पॉइंट होगा हाइपरप्लेन के जैसे, यह नेरेस्ट डेटा पॉइंट है, तो उससे क्रॉस करती हुई जाएगी। एक भी हो सकता है, मल्टीपल भी हो सकते हैं। जैसे यहां पर यह मेरे, एक और यह मेरे, दो लाइट्स suppose, यह मेरे, सबसे निकट डेटा पॉइंट थे। तो यह… मार्जिन लाइन इन दोनों को क्रॉस करती हुई जा रही है। तो एक तरह से यह मार्जिन लाइन मेरी पॉजिटिव के केस में होगी, यह मार्जिन लाइन मेरे नेगेटिव के केस में होगी। और यह होती है हाइपरप्लेन के पैरेलल ही है। तो यहाँ पे मेरे को जो है वो मार्जिन इस तरीके से निकालना है कि मेरा जो है वो सेपरेट कर रही है डाटा पॉइंट्स ऑफ डि यह वाली, यह वाली। तो बिटवीन द हाइपरप्लेन एंड द नियरेस्ट डेटा पॉइंट। तो वह आपका क्या हो गया? मार्जिन हो गया। और SVM कोशिश करता है कि इस मार्जिन को मैक्सिमाइज़ करे। अगर आप थ्योरी में पूछ ले कि मुझे मार्जिन को मैक्सिमाइज़ करना है या मिनिमाइज़ करना है, तो जाहिर तौर पर आप ही सोचिए कि यदि मान लीजिए मेरा इस तरीके से कोई डाटा सेट है और मान लीजिए कुछ भी आप डाटा सेट ले लो और उसमें आपकी जो है वो मार्जिन लाइन इस तरीके से जा रही है। ठीक है? और मान लीजिए यह हाइपरप्लेन है। जा रहा है। और इस तरीके से आपका एक और नेगेटिव वाला जो है, वह दूसरी क्लास ले लो। और वहां पे आपके बहुत सारे डेटा पॉइंट हैं, और एक मार्जिन लाइन आपकी इस तरीके से जा रही है। तो देखो, यहां पे जो मार्जिन है, इनके बीच में डिस्टेंस देखो, कितना कम है। तो हम लोग क्या चाहते हैं कि मेरा हाइपर प्लेन से मार्जिन के बीच में डिस्टेंस, जो है, ये जो डिस्टेंस है ना, यह दोनों के बीच में डिस्टेंस d है, यह जितना ज्यादा हो, उतना बेहतर। क्योंकि जितना ज्यादा होगा, हम उतना ही आसानी से दोनों क्लासेस को सेपरेट कर सकते हैं। तो यानी अगर मैं इन दोनों में से पूछूं कि कौन सा बेहतर है, यह वाला तुम्हारा बेहतर है। क्योंकि यहां पे, जो एक तरह से डिस्टेंस है, हाइपर प्लेन और मार्जिन के बीच में, वो ज्यादा है, कंपेरेटिवली, इस लिए। तो इसीलिए, हम इस चीज को ज्यादा से ज्यादा बढ़ाना चाहते हैं। और ये जो सपोर्ट वेक्टर्स हैं, फिर..

07:43क्या हो गए? सपोर्ट वेक्टर क्या है? ये जो डेटा पॉइंट्स हैं, ये सबसे करीब होते हैं हाइपरप्लेन के। इन पॉइंट्स को हम क्यों बोलते हैं? सपोर्ट वेक्टर ये पॉइंट्स हैं जो हाइपरप्लेन का दिशा और स्थिति प्रभावित करते हैं। तो ये मदद करते हैं, यहां पे मैं यदि आपको दिखाऊं तो ये और यहां पे, कोई भी ऐसा पॉइंट जो मार्जिन को मदद कर रहा है, यानी लाइन को ड्रॉ करने में, वो सारे सबसे करीब वाले डेटा पॉइंट होते हैं, जिन्हें हम सपोर्ट वेक्टर कहते हैं। इसी नाम से इसका नाम पड़ा है। दूसरा है हार्ड मार्जिन। हार्ड मार्जिन क्या है? मान लीजिए कि डेटा पूरी तरह से हाइपरप्लेन से अलग-थलग है, यानी कि वे पूरी तरह से अलग हो रहा है। सभी पॉइंट्स मार्जिन के बाहर हैं। इसका मतलब है कि अगर हम लीनियरली सेपरेबल कर रहे हैं, तो..

08:28क्लास इधर चली गई। आधी क्लास इधर, मैंने दोनों को आसानी से डिवाइड कर दिया। तो ये मेरा एक तरह से हार्ड मार्जिन है। सॉफ्ट मार्जिन में क्या हो गया? हम लीनियरली सेपरेबल नहीं कर पा रहे हैं। जैसे, उदाहरण के लिए, मेरे इस तरीके से कुछ स्टार-स्टार, इस तरीके से कुछ पॉइंट्स हैं। ठीक है? और उन्हीं के बीच में, मान लीजिए, कुछ मेरे पॉइंट्स इस तरीके से माइनस माइनस, माइनस माइनस, ये माइनस माइनस, इस तरीके से कुछ माइनस पॉइंट्स आ गए। तो यहां पे मैं सही से सेपरेट नहीं कर पा रहा हूँ। अगर मैं इस तरीके से एक हाइपरप्लेन बना भी दूं, तो कुछ मेरे एक क्लास के पॉइंट्स दूसरे क्लास में भी ओवरलैप कर रहे हैं। तो काइंड ऑफ, ये मेरा जो है, वो हार्ड मार्जिन नहीं है। हम लोग चाहते हैं कि हम this तरीके से कर सकें। लेकिन ऐसा लीनियरली सेपरेबल करना आसान नहीं है। कई बार आपका डेटा इस तरीके से नहीं होता। तो उसको कई बार क्या करना पड़ता है? जैसे, हमें..

09:12डायमेंशन को इंक्रीज़ करना पड़ता है ताकि हम ना टू डायमेंशन में हैं, तो उसको थ्री डायमेंशन में कर सकें। तो अगर थ्री डायमेंशन में करके उसको लीनियरली सेपरेबल किया जाए, तो वह आसान हो जाता है, या और भी फ़र्दर डायमेंशन में उसको बढ़ाया जा सकता है। तो ये जो है, वह आपका किरनल फंक्शंस के थ्रू किया जाता है। तो देयर आर वेरियस किरनल फंक्शंस। लीनियर किरनल फंक्शन तो आपका सिंपली सूटेबल है, क्योंकि वह तो लीनियरली सेपरेबल डेटा आपका, जब है ही, तो उसमें कोई दिक्कत ही नहीं है। लेकिन अगर आपका लीनियर सेपरेबल नहीं है, एक-दूसरे में ओवरलैप कर रहा है, तो फिर आप पोलिनोमियल किरनल या रेडियल बेसिस फंक्शन है, ये मेथड्स हम लोग यूज करके अपने जो टू डायमेंशन या थ्री डायमेंशन का डेटा है, उसको उसके डाइमेंशंस को बढ़ाते हैं और बढ़ाने के बाद उनको हम आसानी से सेपरेट कर सकते हैं। तो ये हम फ़र्दर भी इन..

09:55चीजों को यूज़ करते हैं। तो यहां पे सिर्फ एक बेसिक थ्योरिटीकल इन्ट्रोडक्शन है कि हमें जो जेनरलाइज्ड मॉडल चाहिए, एसवीएम का ताकि हम उसे लीनियरली सेपरेबल कर सकें। तो मार्जिन जितना ज्यादा होगा, उतना ही अच्छा होगा। और ये सारे पॉइंट अच्छे से नोट कर लो। फिर एक न्यूमेरिकल एक्सample इसके ऊपर करेंगे, जिससे तुम्हें और कहानी अच्छे से क्लियर हो जाएगी। धन्यवाद। [संगीत]