- ट्रेनिंग बिंदु
- टेस्ट बिंदु
- निर्णय सीमा
- ट्रेनिंग लॉस
- टेस्ट लॉस
न्यूरल नेटवर्क सैंडबॉक्स
न्यूरल नेटवर्क सरल इकाइयों का एक ढेर है जो वेट वाले इनपुट को जोड़ती हैं और योग को एक मोड़ से गुज़ारती हैं। अकेले हर इकाई केवल एक सीधी रेखा खींच सकती है, लेकिन मिलकर वे एक वृत्त, एक सर्पिल या कोई भी और आकृति बना सकती हैं। एक डेटासेट चुनें, अधिकतम चार हिडन लेयर वाला नेटवर्क बनाएँ, ट्रेन करें दबाएँ और देखें कि नीले और नारंगी के बीच की सीमा एपॉक-दर-एपॉक कैसे आकार लेती है, जबकि हर न्यूरॉन पैटर्न का वह हिस्सा दिखाता है जिसे पहचानना उसने सीखा है। एक डेटासेट और एक नेटवर्क चुनें, फिर ट्रेन करें दबाएँ और देखें कि नेटवर्क नीले बिंदुओं को नारंगी बिंदुओं से अलग करना कैसे सीखता है। भरे हुए बिंदु नेटवर्क को ट्रेन करते हैं; छल्ले टेस्ट बिंदु हैं जिन पर नेटवर्क कभी ट्रेन नहीं होता। पृष्ठभूमि तल के हर बिंदु के लिए नेटवर्क का उत्तर दिखाती है, और रेखा वह जगह है जहाँ नेटवर्क अपना फ़ैसला बदलता है। आरेख में हर न्यूरॉन दिखाता है कि वह किस पर प्रतिक्रिया देता है, और हर कनेक्शन धनात्मक वेट के लिए नीला और ऋणात्मक वेट के लिए नारंगी है, और वेट जितना बड़ा, कनेक्शन उतना मोटा। क्लिक से जोड़ें में चुने गए रंग के बिंदु जोड़ने के लिए तल पर क्लिक करें।
यह कैसे काम करता है
- एक डेटासेट चुनें, दो गुच्छों से जिन्हें एक सीधी रेखा अलग कर सकती है, उस सर्पिल तक जिसे कई लेयर चाहिए, या अपने बिंदु रखने के लिए तल पर क्लिक करें।
- हिडन लेयर, प्रति लेयर न्यूरॉन, एक्टिवेशन, लर्निंग रेट और नेटवर्क को मिलने वाले इनपुट तय करें।
- ट्रेन करें दबाएँ और सीमा, न्यूरॉन और लॉस को देखें; ओवरफ़िटिंग पहचानने के लिए ट्रेनिंग लॉस की तुलना टेस्ट लॉस से करें।
नेटवर्क क्या करता है
हर न्यूरॉन अपने इनपुट को वेट से गुणा करता है, एक बायस जोड़ता है और कुल योग को tanh या ReLU जैसे किसी एक्टिवेशन फ़ंक्शन से गुज़ारता है। पहली हिडन लेयर का हर न्यूरॉन तल को एक सीधी रेखा के साथ बाँटता है, जो एक धीरे-धीरे बदलते रंग में नरम हो जाती है। अगली लेयर इन अर्ध-तलों को फानों, पट्टियों और धब्बों में जोड़ती है, और आउटपुट न्यूरॉन नतीजे को नीले की प्रायिकता में बदल देता है। तल की पृष्ठभूमि हर जगह यह प्रायिकता दिखाती है, और गहरी रेखा वहाँ है जहाँ यह ठीक आधी है: निर्णय सीमा।
यह कैसे सीखता है
ट्रेनिंग यादृच्छिक वेट से शुरू होती है। ट्रेनिंग बिंदुओं के एक छोटे बैच के लिए नेटवर्क अपने उत्तरों की तुलना असली रंगों से करता है, और बैकप्रोपेगेशन आउटपुट से पीछे इनपुट की ओर चलते हुए निकालता है कि त्रुटि में हर वेट का कितना योगदान था। फिर हर वेट लॉस घटाने वाली दिशा में एक छोटा कदम चलता है, जिसका आकार लर्निंग रेट है। सभी ट्रेनिंग बिंदुओं पर एक पूरा चक्कर एक एपॉक है। बहुत छोटी लर्निंग रेट से प्रगति धीमी होती है; बहुत बड़ी से लॉस उछलने लगता है या बेकाबू हो जाता है। टेस्ट बिंदु कभी ट्रेनिंग में इस्तेमाल नहीं होते, इसलिए टेस्ट लॉस दिखाता है कि नेटवर्क कितनी अच्छी तरह सामान्यीकरण करता है।
अक्सर पूछे जाने वाले प्रश्न
हिडन लेयर के बिना नेटवर्क वृत्त या XOR क्यों नहीं सीख सकता?
हिडन लेयर के बिना आउटपुट इनपुट के एक ही वेट वाले योग का फ़ंक्शन होता है, इसलिए सीमा एक सीधी रेखा होती है। कोई भी सीधी रेखा वृत्त के अंदरूनी हिस्से को एक तरफ़ और छल्ले को दूसरी तरफ़ नहीं रख सकती, न ही XOR के दो विकर्णों को अलग कर सकती है। मार्विन मिंस्की और सेमुर पैपर्ट ने 1969 में एक-लेयर परसेप्ट्रॉन के बारे में यही बात कही थी। एक हिडन लेयर इसे ठीक कर देती है, और एक अतिरिक्त इनपुट भी: x² और y² के साथ वृत्त एक सीधा कट बन जाता है, और x·y के साथ XOR भी।
ओवरफ़िटिंग क्या है, और मैं इसे यहाँ कैसे देख सकता हूँ?
नेटवर्क ओवरफ़िट तब करता है जब वह ट्रेनिंग बिंदुओं के पीछे के पैटर्न के बजाय उन बिंदुओं को ही, शोर समेत, रट लेता है। कम बिंदुओं वाला शोर भरा डेटासेट और एक बड़ा नेटवर्क चुनें, और लंबे समय तक ट्रेन करें: ट्रेनिंग लॉस घटता रहता है जबकि टेस्ट लॉस थम जाता है और बढ़ने लगता है, और सीमा अकेले बिंदुओं के चारों ओर छोटे-छोटे द्वीप बना लेती है। कम न्यूरॉन, ज़्यादा बिंदु या जल्दी रुक जाना मदद करता है।
मुझे कौन सा एक्टिवेशन फ़ंक्शन इस्तेमाल करना चाहिए?
Tanh चिकनी, गोल सीमाएँ देता है और इन छोटी समस्याओं पर अच्छी तरह ट्रेन होता है। ReLU, जो ऋणात्मक योग के लिए शून्य और बाकी स्थितियों में स्वयं योग होता है, आधुनिक डीप लर्निंग में डिफ़ॉल्ट है और सीधे टुकड़ों से बनी सीमाएँ देता है। सिग्मॉइड हिडन लेयर में धीरे सीखता है क्योंकि उसकी ढलान छोटी होती है। रैखिक एक्टिवेशन हर हिडन लेयर को बेकार कर देता है: रैखिक लेयरों का ढेर फिर भी एक ही रैखिक फ़ंक्शन होता है, इसलिए सीमा सीधी ही रहती है।
नेटवर्क आरेख में छोटे चित्रों का क्या अर्थ है?
हर चित्र तल के हर बिंदु के लिए एक न्यूरॉन का आउटपुट दिखाता है, ऊँचे मान के लिए नीला और निम्न मान के लिए नारंगी। इनपुट न्यूरॉन x, y और बाकी इनपुट दिखाते हैं, पहली हिडन लेयर नरम अर्ध-तल दिखाती है, और गहरे न्यूरॉन उनसे बनी अधिक जटिल आकृतियाँ दिखाते हैं। कनेक्शन धनात्मक वेट के लिए नीले और ऋणात्मक वेट के लिए नारंगी होते हैं, और वेट जितना बड़ा, कनेक्शन उतना मोटा।
क्या कुछ सर्वर पर भेजा जाता है?
नहीं। डेटा, नेटवर्क और ट्रेनिंग सब आपके ब्राउज़र में सादे JavaScript में चलते हैं, बिना किसी मशीन लर्निंग लाइब्रेरी के। आपकी सेटिंग्स और आपके क्लिक करके जोड़े गए बिंदु इसी ब्राउज़र के लोकल स्टोरेज में रहते हैं।
आज़माने के लिए तैयार?
अपने ब्राउज़र में PictorX खोलें — शुरू करने के लिए इंस्टॉल या क्रेडिट कार्ड की ज़रूरत नहीं।
एडिटर पर जाएँ