شرح الشبكات العصبية

الأنظمة التي تتعرف على الوجوه وتترجم النصوص وتكتب الأجوبة مبنية على فكرة بسيطة على نحو مدهش: وحدات صغيرة كثيرة، تجمع كل منها أعدادًا، وتثني النتيجة قليلًا، ثم تمررها إلى ما بعدها. لا أحد يبرمج القواعد. تبدأ الشبكة بإعدادات عشوائية وتعدّلها، خطوة صغيرة في كل مرة، حتى تطابق أجوبتها الأمثلة المعروضة عليها. يتتبع هذا المقال تلك الفكرة من عصبون واحد إلى شبكة تتعلم الحلزون.

شبكة عصبية صغيرة من مدخلات وطبقتين مخفيتين ومخرج واحد، بوصلات زرقاء وبرتقالية، بجوار مستوى يفصل فيه حد منحنٍ بين نقاط زرقاء ونقاط برتقالية
شبكة عصبية صغيرة من مدخلات وطبقتين مخفيتين ومخرج واحد، بوصلات زرقاء وبرتقالية، بجوار مستوى يفصل فيه حد منحنٍ بين نقاط زرقاء ونقاط برتقالية

عصبون واحد

يأخذ العصبون الاصطناعي بضعة أعداد، ويضرب كلًا منها في وزن، ويجمعها مع انحياز، ثم يمرر المجموع عبر دالة تنشيط. وصف وارن مكولوك (Warren McCulloch) ووالتر بيتس (Walter Pitts) وحدة كهذه عام 1943، وفي عام 1958 بنى فرانك روزنبلات (Frank Rosenblatt) البيرسبترون، وهو آلة تعلمت أوزانها بنفسها من الأمثلة. مع مدخلين x وy يساوي المجموع الموزون صفرًا على طول خط مستقيم، فيقسم العصبون الواحد المستوى إلى نصفين: جانب هو «نعم» لديه، والآخر «لا»، مع انتقال ناعم بينهما حين تكون دالة التنشيط ناعمة.

وارن ماكولوك (يسار، ذو اللحية) وزملاؤه
وارن ماكولوك (يسار، ذو اللحية) وزملاؤه

دوال التنشيط

دالة التنشيط هي ما يجعل الشبكة أكثر من مجرد مجموع. تضغط السيغمويد أي عدد إلى المجال من 0 إلى 1، وتضغطه tanh إلى المجال من −1 إلى 1؛ وكلتاهما منحنى ناعم على شكل حرف S. أما ReLU، أي الوحدة الخطية المقوَّمة، فتُخرج صفرًا للأعداد السالبة والعدد نفسه في غير ذلك؛ ومنذ نحو عام 2010 صارت الخيار المعتاد للشبكات العميقة لأنها رخيصة الحساب وتمنع التدرجات من التلاشي. ومن دون انثناء من هذا النوع يصبح تكديس الطبقات بلا معنى: فسلسلة من الدوال الخطية تبقى دالة خطية واحدة، وحدّها يبقى خطًا مستقيمًا.

الطبقات

ضع عدة عصبونات جنبًا إلى جنب تحصل على طبقة؛ وأدخل مخرجات طبقة في الطبقة التالية تحصل على شبكة. في المختبر تقطع الطبقة المخفية الأولى المستوى على طول عدة خطوط، وتجمع الطبقة التالية أنصاف المستويات هذه في أسافين وجزر، ويوازن عصبون المخرج ذلك كله في احتمال واحد. في عام 1969 بيّن مارفن مينسكي (Marvin Minsky) وسيمور بابيرت (Seymour Papert) أن البيرسبترون الخالي من الطبقات المخفية لا يستطيع تعلم XOR، مما أسهم في توقف هذا المجال سنوات. وبعد عشرين عامًا أثبت جورج سيبنكو (George Cybenko) وآخرون العكس للشبكات ذات الطبقة المخفية الواحدة: فمع عدد كافٍ من العصبونات تستطيع أن تقارب أي دالة متصلة بالدقة التي تريدها.

قياس الخطأ

لكي تتعلم الشبكة، تحتاج إلى عدد يخبرها بمقدار خطئها: الخسارة. وفي حالة صنفين يكون الخيار المعتاد هو الإنتروبيا المتقاطعة. إذا أعطت الشبكة نقطةً زرقاء احتمالًا p لأن تكون زرقاء، فإن كلفة تلك النقطة هي −log p، وهي صغيرة حين يقترب p من 1 وتكبر بلا حدود كلما اقترب p من 0. والخسارة هي متوسط الكلفة على النقاط. والشبكة التي تخمّن النصف في كل مكان تكون خسارتها log 2، أي نحو 0.693، وهي قريبة من النقطة التي يبدأ منها مخطط المختبر.

الانحدار التدرجي والانتشار العكسي

تخيّل الخسارة تضاريس ممتدة فوق جميع الأوزان. يجد الانحدار التدرجي اتجاه النزول، أي سالب التدرج، ويخطو فيه خطوة صغيرة، مرة بعد مرة. يبدو حساب التدرج لآلاف الأوزان مكلفًا، لكن الانتشار العكسي ينجزه في تمريرة عكسية واحدة: انطلاقًا من الخطأ عند المخرج، تسلّم قاعدة السلسلة كل طبقة نصيبها من المسؤولية، طبقةً بعد طبقة رجوعًا إلى المدخلات. وُصفت الطريقة عدة مرات، وجعلتها ورقة ديفيد روملهارت (David Rumelhart) وجيفري هينتون (Geoffrey Hinton) ورونالد ويليامز (Ronald Williams) عام 1986 الطريقة المعيارية لتدريب الشبكات. واستخدام دفعة عشوائية صغيرة من النقاط في كل خطوة بدلًا من جميعها، أي الانحدار التدرجي العشوائي، أسرع ويعمل بالجودة نفسها.

جيفري هينتون، أحد مؤسسي الشبكات العصبية الحديثة
جيفري هينتون، أحد مؤسسي الشبكات العصبية الحديثة

معدل التعلم

يسمى حجم الخطوة معدل التعلم، وهو الإعداد الذي يحسم في أغلب الأحيان نجاح التدريب. إذا كان صغيرًا جدًا، تنخفض الخسارة ببطء شديد حتى يبدو أن شيئًا لا يحدث. وإذا كان كبيرًا جدًا، تتجاوز كل خطوة الوادي الذي كانت تقصده: فتتأرجح الخسارة صعودًا وهبوطًا، أو تنفجر في الشبكات الأكبر حتى تفيض الأعداد. ومع ReLU قد تدفع الخطوة الكبيرة العصبونات أيضًا إلى حيث يكون مجموعها سالبًا لكل النقاط؛ فتُخرج حينها صفرًا، ولا تتلقى أي تدرج، ولا تتعافى أبدًا. جرّب الحلزون بمعدل 3 في المختبر: مع tanh تقفز الخسارة صعودًا وهبوطًا، ومع ReLU تخمد عصبونات كثيرة وتعلق الخسارة قرب 0.69. ثم جرّب 0.001 لتراها تزحف.

فرط التخصيص

تستطيع الشبكة ذات الأوزان الكافية أن تحفظ نقاط تدريبها بضوضائها كلها، وأن ترسم حدًا يلتوي حول كل نقطة شاردة. عندها تحسن الأداء على النقاط التي رأتها وتسيئه على النقاط الجديدة. ولهذا يُحجز جزء من البيانات بوصفه بيانات اختبار لا تُستخدم في التدريب أبدًا. ما دامت الخسارتان تنخفضان فالشبكة تتعلم النمط؛ وحين تعود خسارة الاختبار إلى الارتفاع بينما تواصل خسارة التدريب الانخفاض، تكون قد بدأت الحفظ. تساعد الشبكات الأصغر، والبيانات الأكثر، وإضافة الضوضاء، أو ببساطة التوقف في اللحظة المناسبة.

استكشفها بنفسك

افتح مختبر الشبكات العصبية لتدرّب شبكة من أربع طبقات مخفية على الأكثر، في كل منها ثمانية عصبونات، على ست مجموعات بيانات، منها نقاط تضيفها بنفسك بالنقر. يُرسم كل عصبون خريطةً صغيرة لما يستجيب له، وكل وزن وصلةً زرقاء أو برتقالية، فتستطيع أن تشاهد الشبكة تبتكر سماتها الخاصة. جرّب الدائرة بلا طبقات مخفية، ثم أضف x² وy² مدخلاتٍ؛ وجرّب الحلزون بطبقة واحدة، ثم بثلاث؛ وأضف ضوضاء إلى مجموعة بيانات صغيرة لتقع في فرط التخصيص.

الأسئلة المتداولة

هل هكذا تعمل نماذج الذكاء الاصطناعي الكبيرة؟

اللبنات الأساسية هي نفسها: المجاميع الموزونة، ودوال التنشيط، والخسارة، والانحدار التدرجي مع الانتشار العكسي. لكن النماذج الكبيرة فيها مليارات الأوزان بدلًا من بضع عشرات، وطبقات مصممة للصور أو النصوص مثل الالتفافات والانتباه، وتُدرَّب على مجموعات بيانات ضخمة بمُحسِّنات أفضل. أما الحلقة الأساسية التي تراها في المختبر فلم تتغير.

لماذا يبدأ التدريب من أوزان عشوائية؟

لو بدأت جميع الأوزان متساوية، لحسب كل عصبون في الطبقة الشيء نفسه وتلقى التحديث نفسه، ولبقيت العصبونات متطابقة إلى الأبد. تكسر الأوزان العشوائية الصغيرة هذا التماثل، فيستطيع كل عصبون أن يتعلم سمة مختلفة. ولحجمها أهمية: إذ يضبطه المختبر وفق عدد المدخلات، كما اقترح كزافييه غلورو (Xavier Glorot) ويوشوا بنجيو (Yoshua Bengio) عام 2010.

لماذا ينتهي تشغيلان بحدين مختلفين؟

كل تشغيل يبدأ من أوزان عشوائية مختلفة ويرى النقاط بترتيب عشوائي مختلف، وفي تضاريس الخسارة وديان كثيرة جيدة بالقدر نفسه تقريبًا. يمكن لشبكتين أن تصنّفا نقاط التدريب بالجودة نفسها بحدود مختلفة الأشكال، وقد تختلفان في المناطق التي لا بيانات فيها.

هل المزيد من الطبقات أفضل دائمًا؟

لا. تستطيع الشبكات الأعمق أن تمثل أشكالًا أعقد بعصبونات أقل، لكنها أصعب تدريبًا وأسرع وقوعًا في فرط التخصيص على مجموعات البيانات الصغيرة. ففي مسائل المختبر تكفي عادةً طبقة مخفية واحدة أو اثنتان؛ والحلزون هو الذي يستفيد بوضوح من طبقات أكثر.

هل أنت مستعد لتجربتها؟

افتح PictorX في متصفحك - بدون تثبيت، ولا يلزم وجود بطاقة ائتمان للبدء.

افتح مختبر الشبكات العصبية