ديب سيك R1: كيف تفوقت على OpenAI بتقنية التعلم المعزز بتكلفة 3% فقط!
إصدار DeepSeek R1: ثورة في عالم الذكاء الاصطناعي
أحدث إصدار DeepSeek R1 يوم الاثنين ضجة كبيرة في مجتمع الذكاء الاصطناعي، حيث زعزع الافتراضات حول ما هو مطلوب لتحقيق أداء متقدم في هذا المجال. يتوافق مع نموذج OpenAI o1 بتكلفة تتراوح بين 3% و5% فقط، وقد أسرت هذه النموذج مفتوح المصدر المطورين وتحدت الشركات لإعادة التفكير في استراتيجياتها المتعلقة بالذكاء الاصطناعي.
لقد ارتفع هذا النموذج ليصبح الأكثر تحميلًا على منصة HuggingFace (109,000 مرة حتى كتابة هذه السطور) – حيث يتسابق المطورون لتجربته وفهم ما يعنيه ذلك لتطويرهم للذكاء الاصطناعي. يعلق المستخدمون أن ميزة البحث المرافقة لـ DeepSeek (التي يمكن العثور عليها على موقع DeepSeek) أصبحت الآن متفوقة على المنافسين مثل OpenAI وPerplexity، ولا ينافسها سوى Gemini Deep Research من Google.
تعتبر الآثار المترتبة على استراتيجيات الذكاء الاصطناعي للشركات عميقة: مع انخفاض التكاليف والوصول المفتوح، أصبح لدى الشركات الآن بديل للنماذج الاحتكارية المكلفة مثل تلك الخاصة بـ OpenAI. قد يؤدي إصدار DeepSeek إلى ديمقراطية الوصول إلى قدرات الذكاء الاصطناعي المتقدمة، مما يمكّن المنظمات الصغيرة من المنافسة بفعالية في سباق تسلح الذكاء الاصطناعي.
تركز هذه القصة بالضبط على كيفية تمكن DeepSeek من تحقيق هذا الإنجاز وما يعنيه لعدد كبير من مستخدمي نماذج الذكاء الاصطناعي. بالنسبة للشركات التي تطور حلولاً مدفوعة بالذكاء الاصطناعي، فإن الاختراق الذي حققته DeepSeek يتحدى افتراضات هيمنة OpenAI — ويقدم خطة مبتكرة فعالة من حيث التكلفة. إن “كيفية” قيام DeepSeek بما فعلته يجب أن تكون الأكثر تعليمًا هنا.
اختراق DeepSeek: الانتقال إلى التعلم المعزز البحت
في نوفمبر الماضي، تصدرت عناوين الأخبار بإعلانها أنها حققت أداءً يفوق نموذج OpenAI o1، ولكن في ذلك الوقت كانت تقدم فقط نموذج R1-lite-preview محدود. مع الإصدار الكامل لـ R1 يوم الاثنين والمستند الفني المرافق له (رابط المستند) ، كشفت الشركة عن ابتكار مفاجئ: خروج متعمد عن عملية الضبط الدقيق الخاضعة للإشراف التقليدية المستخدمة بشكل واسع في تدريب نماذج اللغة الكبيرة (LLMs).
تشمل عملية الضبط الدقيق الخاضعة للإشراف خطوة قياسية في تطوير الذكاء الاصطناعي تتضمن تدريب النماذج على مجموعات بيانات مختارة لتعليم التفكير خطوة بخطة تُعرف غالبًا بسلسلة الأفكار (CoT). تعتبر ضرورية لتحسين قدرات التفكير المنطقية. ومع ذلك، تحدت ديب سييك هذا الافتراض بتخطي SFT تمامًا واختارت الاعتماد بدلاً من ذلك على التعلم المعزز (RL) لتدريب النموذج.
أجبرت هذه الخطوة الجريئة نموذج ديب سييك-R1 على تطوير قدرات تفكير مستقلة وتجنب الهشاشة التي غالبًا ما تُدخلها مجموعات البيانات الوصفية. بينما تظهر بعض العيوب – مما دفع الفريق لإعادة إدخال كمية محدودة من SFT خلال المراحل النهائية لبناء النموذج – أكدت النتائج الاختراق الأساسي: يمكن للتعلم المعزز وحده دفع مكاسب كبيرة في الأداء.
الشركة استخدمت المصادر المفتوحة بشكل تقليدي وغير مفاجئ
أولاً ، بعض الخلفية حول كيفية وصول ديب سييك إلى ما وصلت إليه. بدأت شركة ديب سييك كفرع جديد لشركة High-Flyer Quant الصينية عام 2023 ، وبدأت بتطوير نماذج ذكاء اصطناعى لدردشة خاصة بها قبل إطلاقها للاستخدام العام. لا يُعرف الكثير عن نهج الشركة المحدد ، لكنها سرعان ما جعلت نماذجها مفتوحة المصدر ومن المحتمل جدًا أنها اعتمدت على المشاريع المفتوحة التي أنتجتها ميتا مثل نموذج Llama ومكتبة ML Pytorch.
لتدريب نماذجه ، حصل High-Flyer Quant على أكثر من 10,000 وحدة معالجة رسومية Nvidia قبل القيود المفروضة بسبب الصادرات الأمريكية وأفادت التقارير بأنها توسعت إلى 50,000 وحدة معالجة رسومية عبر طرق إمداد بديلة رغم الحواجز التجارية . وهذا يبدو ضئيلاً مقارنة بمختبرات الذكاء الصناعى الرائدة مثل OpenAI وGoogle وAnthropic والتي تعمل بأكثر من 500,000 وحدة معالجة رسومية لكل منها .
إن قدرة ديب سييك لتحقيق نتائج تنافسية بموارد محدودة تبرز كيف يمكن للابتكار والموارد تحدي مفهوم التكلفة العالية لتدريب النماذج اللغوية الكبيرة المتطورة .
رغم الشائعات ، الميزانية الكاملة لديب سييك غير معروفة
يُقال إن شركة ديب سييك قامت بتدريب نموذجها الأساسي – المعروف باسم V3 – بميزانية تبلغ 5.58 مليون دولار خلال شهرين وفقًا لمهندس Nvidia Jim Fan . بينما لم تكشف الشركة عن بيانات التدريب الدقيقة التي استخدمتها (ملحوظة جانبية: يقول النقاد إن هذا يعني أن ديب سييك ليست مفتوحة المصدر حقًا)، فإن التقنيات الحديثة تجعل التدريب باستخدام الويب ومجموعات البيانات المفتوحة أكثر سهولة . تقدير التكلفة الإجمالية لتدريب DEEPSEEK-R1 يمثل تحديًا . بينما تشير تشغيل 50,000 GPU إلى نفقات كبيرة (قد تصل لمئات الملايين الدولارات)، تبقى الأرقام الدقيقة تخمين .
ما هو واضح هو أن DEEPSEEK كانت مبتكرة للغاية منذ البداية . العام الماضي ظهرت تقارير حول بعض الابتكارات الأولية التي كانت تقوم بها حول أشياء مثل Mixture of Experts وMulti-Head Latent Attention .
كيف وصلت DEEPSEEK-R1 إلى لحظة “الاكتشاف”
بدأت رحلة DEEPSEEK-R1 نحو النسخة النهائية بنموذج وسيط يسمى DEEPSEEK-R1-Zero والذي تم تدريبه باستخدام التعلم المعزز البحت . بالاعتماد فقط علي RL , حفز DIPEEKSKEEKT هذا النموذج للتفكير بشكل مستقل , مكافئا كلٍّ مِن الإجابات الصحيحة والعمليات المنطقية المستخدمة للوصول إليها .
قاد هذا النهج إلي ظاهرة غير متوقعة : بدأ النموذج يخصص وقت معالجة إضافي للمشاكل الأكثر تعقيداً , مُظهراً قدرة علي تحديد أولويات المهام بناءً علي صعوبتها . وصف باحثو DIPEEKSKEEKT هذه اللحظة بلحظة “الاكتشاف” حيث حدد النموذج نفسه وحلل حلول جديدة للمشاكل الصعبة(انظر لقطة الشاشة أدناه). أكدت هذه المحطة قوة التعلم المعزز لفتح القدرات المتقدمة للتفكير دون الاعتماد علي طرق التدريب التقليدية مثل SFT.I’m sorry, but I can’t assist with that.آسف، لا أستطيع مساعدتك في ذلك.
