الرئيس التنفيذي لشركة أنثروبيك: “ديب سيك” كان الأسوأ في اختبار سلامة بيانات الأسلحة البيولوجية!
يُعبر داريوا أموداي، الرئيس التنفيذي لشركة أنثروبيك، عن قلقه بشأن شركة ديب سيك الصينية المنافسة، التي أثارت ضجة في وادي السيليكون بنموذجها R1. وقد تكون مخاوفه أكثر جدية من تلك التي تُثار عادةً حول إرسال ديب سيك لبيانات المستخدمين إلى الصين.
في مقابلة على بودكاست ChinaTalk مع جوردان شنايدر، قال أموداي إن ديب سيك أنتجت معلومات نادرة حول الأسلحة البيولوجية خلال اختبار أمان أجرته أنثروبيك.
وادعى أموداي أن أداء ديب سيك كان ”الأسوأ بين أي نموذج اختبرناه من قبل”. وأضاف: “لم يكن لديها أي قيود على الإطلاق ضد إنتاج هذه المعلومات.”
وأشار أموداي إلى أن هذا جزء من التقييمات التي تجريها أنثروبيك بشكل روتيني على نماذج الذكاء الاصطناعي المختلفة لتقييم المخاطر المحتملة على الأمن القومي. حيث ينظر فريقه فيما إذا كانت النماذج يمكنها إنتاج معلومات تتعلق بالأسلحة البيولوجية لا يمكن العثور عليها بسهولة في جوجل أو في الكتب الدراسية. وتعتبر أنثروبيك نفسها مزودًا لنموذج الذكاء الاصطناعي الأساسي الذي يأخذ السلامة بجدية.
قال أموداي إنه لا يعتقد أن نماذج ديب سيك اليوم “تشكل خطرًا حقيقيًا” في توفير معلومات نادرة وخطيرة، لكنه أشار إلى أنها قد تكون كذلك في المستقبل القريب. وعلى الرغم من إشادته بفريق ديب سيك كـ “مهندسين موهوبين”، نصح الشركة بـ ”أخذ اعتبارات سلامة الذكاء الاصطناعي بجدية.”
كما دعم أموداي فرض ضوابط صارمة على تصدير الرقائق إلى الصين، مشيرًا إلى مخاوف من أنها قد تعطي الجيش الصيني ميزة.
لم يوضح أموداي خلال المقابلة مع ChinaTalk أي نموذج من نماذج ديب سيك تم اختباره بواسطة أنثروبيك، كما لم يقدم تفاصيل تقنية إضافية حول هذه الاختبارات. ولم ترد شركة أنثروبيك فوراً على طلب التعليق المقدم لـ TechCrunch. كما لم ترد شركة ديب سي ك أيضًا.
أثار صعود شركة ديب سي ك مخاوف بشأن سلامتها أيضًا في أماكن أخرى. فعلى سبيل المثال، قال باحثو الأمن لدى سيسكو الأسبوع الماضي إن نموذج R1 الخاص بشركة ديب سي ك فشل في حجب أي مطالبات ضارة خلال اختبارات الأمان الخاصة به، محققاً معدل نجاح 100% للاختراق.
لم تذكر سيسكو الأسلحة البيولوجية لكنها قالت إنها تمكنت من جعل نموذج ديب سي ك ينتج معلومات ضارة تتعلق بالجريمة الإلكترونية وغيرها من الأنشطة غير القانونية. ومن الجدير بالذكر أنه تم تسجيل معدلات فشل عالية أيضاً لنموذجي ميتا Llama-3.1-405B وOpenAI GPT-4o بنسبة 96% و86% على التوالي.
لا يزال يتعين علينا رؤية ما إذا كانت المخاوف المتعلقة بالسلامة مثل هذه ستؤثر بشكل كبير على اعتماد شركة ديب سي ك السريع. حيث قامت شركات مثل AWS ومايكروسوفت بالترويج علنًا لدمج نموذج R1 ضمن منصاتها السحابية – وهو أمر مثير للسخرية نظرًا لأن أمازون هي أكبر مستثمر لشركة أنثروبيك.
من ناحية أخرى ، هناك قائمة متزايدة من الدول والشركات ، وخاصة المنظمات الحكومية مثل البحرية الأمريكية والبنتاغون ، التي بدأت تحظر استخدام نموذج DEEPSEEK .
< p > الوقت وحده هو الذي سيوضح ما إذا كانت هذه الجهود ستنجح أو ما إذا كان صعود DEEPSEEK العالمي سوف يستمر . وفي كلتا الحالتين ، يقول AMODEI إنه يعتبر DEEPSEEK منافس جديد يتساوى مع أفضل شركات الذكا ء الصناعي الأمريكية .
< p > “الحقيقة الجديدة هنا هي أنه يوجد منافس جديد” ، قال ذلك أثناء حديثه عن CHINATALK . “في الشركات الكبيرة التي يمكنها تدريب الذكا ء الصناعي – ANTHROPIC و OPENAI و GOOGLE وربما META و xAI – الآن يتم إضافة DEEPSEEK ربما لهذه الفئة.”
