مواجهة أمان الذكاء الاصطناعي: يان لوكون ينتقد مشروع قانون كاليفورنيا SB 1047 بينما يدعم جيفري هينتون التنظيمات الجديدة!
انضم إلى نشراتنا اليومية والأسبوعية للحصول على آخر التحديثات والمحتوى الحصري حول تغطية الذكاء الاصطناعي الرائدة في الصناعة. تعرف على المزيد
قام يان ليكون، كبير علماء الذكاء الاصطناعي في شركة ميتا، بتوبيخ علني لمؤيدي مشروع قانون سلامة الذكاء الاصطناعي المثير للجدل في كاليفورنيا، SB 1047، يوم الأربعاء. جاءت انتقاداته بعد يوم واحد فقط من تأييد جيفري هينتون، المعروف بـ “أب الذكاء الاصطناعي”، للتشريع. يبرز هذا الاختلاف الواضح بين رائدين في مجال الذكاء الاصطناعي الانقسامات العميقة داخل مجتمع الذكاء الاصطناعي حول مستقبل التنظيم.
لقد مرر مجلس تشريع كاليفورنيا SB 1047، الذي ينتظر الآن توقيع حاكم الولاية غافن نيوسوم. أصبح هذا القانون محور جدل حول تنظيم الذكاء الاصطناعي. سيحدد المسؤولية لمطورين نماذج ذكاء اصطناعي كبيرة النطاق تسبب أضرارًا كارثية إذا فشلوا في اتخاذ تدابير السلامة المناسبة. ينطبق التشريع فقط على النماذج التي تكلف تدريبها ما لا يقل عن 100 مليون دولار وتعمل في كاليفورنيا، خامس أكبر اقتصاد عالمي.
معركة عمالقة الذكاء الاصطناعي: ليكون ضد هينتون بشأن SB 1047
جادل ليكون، المعروف بأعماله الرائدة في التعلم العميق، بأن العديد من مؤيدي مشروع القانون لديهم “رؤية مشوهة” لقدرات الذكاء الاصطناعي القريبة الأجل. كتب على تويتر (الذي يعرف الآن باسم X): “التشويه ناتج عن عدم خبرتهم وسذاجتهم بشأن مدى صعوبة الخطوات التالية في مجال الذكاء الإصتناعى”.
كانت تعليقاته ردًا مباشرًا على تأييد هينتون لرسالة مفتوحة وقع عليها أكثر من 100 موظف حالي وسابق من شركات ذكاء اصطناعى رائدة مثل OpenAI وGoogle DeepMind وAnthropic. الرسالة المقدمة إلى الحاكم نيوسوم بتاريخ 9 سبتمبر دعت إلى توقيع SB 1047 لتصبح قانونًا بسبب المخاطر المحتملة “<اhref='https://calltolead.org/' target='_blank' rel='noreferrer noopener'>الشديدة التي تشكلها نماذج AI القوية”، مثل الوصول الموسع للأسلحة البيولوجية والهجمات الإلكترونية على البنية التحتية الحيوية.
This public disagreement between two AI pioneers underscores the complexity of regulating a rapidly evolving technology. يمثل هينتون – الذي <اhref='https://www.nytimes.com/2023/05/01/technology/artificial-intelligence/google-chatbot-engineer-quits-hinton.html' target='_blank' rel='noreferrer noopener'>ترك جوجل العام الماضي للتحدث بحرية أكبر عن مخاطر AI – مجموعة متزايدة من الباحثين الذين يعتقدون أن أنظمة AI قد تمثل قريباً تهديدات وجودية للبشرية . بينما يجادل ليكون باستمرار بأن هذه المخاوف مبكرة وقد تكون ضارة بالبحث المفتوح.
داخل SB 1047: مشروع القانون المثير للجدل الذي يعيد تشكيل تنظيم AI
The debate surrounding SB 1047 has scrambled traditional political alliances, with supporters includingإيلون ماسک ، رغم انتقاده السابقلمؤلف المشروع ، السيناتور سكوت وينر . المعارضون يشملون المتحدثة السابقةنانسي بيلوسي وعمدة سان فرانسيسكو لندن بريد ، بالإضافة إلى العديد من شركات التكنولوجيا الكبرى ورأس المال الاستثماري.
The company Anthropic ، وهي شركة ذكاءات اصطناعيا كانت تعارض المشروع أولاً ، غيرت موقفها بعد إجراء عدة تعديلات ، قائلة إن فوائد المشروع “
Critics of SB 10 argue that it could stifle innovation and disadvantage smaller companies and open-source projects, while proponents insist that the potential risks of unregulated AI development far outweigh these concerns.
They argue that the bill’s focus on models with budgets exceeding $100 million ensures that it primarily affects large, well-resourced companies capable of implementing robust safety measures.
سيلكون فالي مقسم: كيف يقسم sb –10 العالم التكنولوجي
The involvement of current employees from companies opposing the bill adds another layer of complexity to the debate, suggesting internal disagreements within these organizations about the appropriate balance between innovation and safety.
As Governor Newsom considers whether to sign SB –10 , he faces a decision that could shape the future of AI development not just in California but potentially across the United States.
With the European Union already moving forward with its own ‘AI Act’, California’s decision could influence whether the U.S takes a more proactive or hands-off approach to AI regulation at federal level.
The clash between LeCun and Hinton serves as microcosm larger debate surrounding safety regulation highlights challenge policymakers face crafting legislation addresses legitimate safety concerns without unduly hampering technological progress.
As field continues advance breakneck pace outcome legislative battle California may set crucial precedent societies grapple promises perils increasingly powerful artificial intelligence systems tech world policymakers public alike will watching closely Governor Newsom weighs his decision coming weeks.
