قال أحد كبار القادة في OpenAI إنه يجب على الناس الاستعداد للدفاع ضد الهجمات السيبرانية “المستمرة والمستمرة” من الذكاء الاصطناعي، حيث تكتسب نماذج الذكاء الاصطناعي المتطورة قدرات متقدمة للتخطيط وشن الهجمات.
أعلنت شركة الذكاء الاصطناعي الرائدة هذا الأسبوع عن توقف مؤقت في تطوير نماذجها الداخلية الأكثر تقدما وسط مخاوف السلامة المتزايدة، وقال كريس ليهان، كبير مسؤولي الشؤون العالمية في الشركة: “إننا نصل إلى فصل مختلف، ولحظة مختلفة داخل الذكاء الاصطناعي، من حيث ما يمكن أن تفعله قدرات هذه التكنولوجيا”.
لقد تحدث إلى صحيفة The Guardian بعد أن قام عملاء الذكاء الاصطناعي المتدربون المتطورون بشكل غير متوقع باختراق بيئة “sandbox” التي يُفترض أنها آمنة، وتمكنوا من الوصول إلى الإنترنت، واخترقوا شركة أخرى، Hugging Face، في أواخر يوليو. وقالت OpenAI أيضًا إنها لا تستطيع استبعاد نموذج جديد آخر، Astra، يتمتع “بقدرة مهمة على الأمن السيبراني”.
وبموجب تعريفها الخاص، قد يعني هذا أنها تشن هجمات إلكترونية “يمكن أن تؤدي إلى كارثة من جهات فاعلة أحادية الجانب، أو اختراق الأنظمة العسكرية أو الصناعية، أو البنية التحتية لـ OpenAI”.
أعلنت شركة OpenAI يوم الثلاثاء أنها أوقفت مؤقتًا تدريب بعض نماذج الذكاء الاصطناعي الحدودية لتنفيذ ضمانات جديدة، وليس من الواضح متى سيتم استئناف التدريب بعد وضع حواجز حماية جديدة.
وقالت ميا جليز، التي تقود أعمال السلامة والمواءمة: “نحن بعيدون جدًا عن عودة كل شيء إلى طبيعته”. وقال سام ألتمان، الرئيس التنفيذي: “إن تحقيق سلامة الذكاء الاصطناعي بشكل صحيح هو أكثر أهمية من زخم أي شركة”.
واعترف ليهان بأن الناس لن “يشعروا بالارتياح” إزاء تهديد الهجمات، ووصف الخطر بأنه يأتي من نماذج مفتوحة المصدر – تم تطوير الكثير منها في الصين – والتي لا تتخلف سوى بضعة أشهر عن النماذج المغلقة الحدودية التي بنتها شركات مثل OpenAI.
“سيكون الناس قادرين على الوصول إلى هذه النماذج مفتوحة المصدر وسيكونون قادرين على شن هجمات مستمرة ومستمرة عليك، وسوف تحتاج إلى نماذج متفوقة حقًا لصدهم والدفاع عنهم”. [yourself]قال. “هذا لن يجعل الجمهور يشعر بالرضا تجاه الأشياء بالضرورة. إنها مجرد حقيقة إلى أين نحن ذاهبون
لقد ارتفع التهديد المتمثل في الهجمات السيبرانية التي تشل الشركات والبنية التحتية وعامة الناس بسرعة إلى أعلى قائمة المخاوف الملحة بشأن الذكاء الاصطناعي. هذا الأسبوع، حث المركز الوطني للأمن السيبراني التابع لحكومة المملكة المتحدة على توخي الحذر بشأن استخدام عملاء الذكاء الاصطناعي، محذرًا من إمكانية تجاوز ضوابط السلامة الخاصة بهم وأن وكيل الذكاء الاصطناعي “ليس لديه منطق سليم”. ونصحت المؤسسات بالحد من استقلاليتها: “يجب أن تكون دائمًا قادرًا على “سحب القابس” وإيقاف نشاط وكيل الذكاء الاصطناعي المستقل على الفور”.
جدد ليهان دعوات حكومة الولايات المتحدة لتشريع لإنشاء قواعد لسلامة الذكاء الاصطناعي الحدودي، وقال إن حقيقة أن معظم نماذج الذكاء الاصطناعي المتطورة والتي لم يتم إصدارها يبدو أنها تعمل على تحسين الجريمة السيبرانية بشكل أسرع من الدفاع، كانت “من بين الأسباب التي تجعلني أعتقد أنه من الضروري للغاية أن يصدر هذا البلد قانونًا وطنيًا ينشئ معايير أمان إلزامية مطلوبة، وضمن ذلك سيكون عنصر الإيقاف المؤقت متأصلًا ومستوطنًا في تلك العملية”.
واقترح قائلاً: “لن تتمكن من إطلاق النماذج أو نشرها ما لم تثبت وتضمن مستوى من الأمان قبل خروجها إلى الجمهور”. “أعتقد أنه يجب أن يكون لديك نسخة وطنية هنا في الولايات المتحدة، ومن هناك، يمكنك إنشاء نسخة دولية، لأنني أعتقد، في نهاية المطاف، أنك ستحتاج إلى نوع ما من البنية الدولية هنا”.
تقدمت شركة OpenAI بطلب لإدراجها في سوق الأوراق المالية بتقييم مُعلن عنه يزيد عن 850 مليار دولار، على الأرجح هذا العام أو العام المقبل. لقد دخلت في سباق مع شركة Anthropic المنافسة، صانعة برنامج Claude chatbot، لتطوير المزيد والمزيد من نماذج الذكاء الاصطناعي القادرة. ومن المتوقع أيضًا أن تظهر Anthropic لأول مرة في سوق الأسهم الأمريكية خلال العام المقبل بتقييم ضخم.
في إشارة إلى أن إدارة دونالد ترامب تتحول من نهج عدم التدخل في تنظيم الذكاء الاصطناعي وسط سباق مكثف للبقاء في صدارة التقدم الصيني، أصدر الرئيس الأمريكي في يونيو أمرًا تنفيذيًا يشجع اختبار ما قبل النشر للنماذج الحدودية ونماذج الأوزان المفتوحة عندما تقترب من الطليعة.
وسيكون النظام طوعياً، وقد تعرض هذا النهج لانتقادات بسبب افتقاره إلى الشفافية، لكن المراقبين يعتقدون أنه يمكن أن يمهد الطريق لخطوات أكثر صرامة. اقترح ديميس هاسابيس، رئيس جوجل ديب مايند، هيئة معايير جديدة على غرار هيئة تنظيم الصناعة المالية، وهي فكرة يدعمها داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك.
وقال ليهان: “إن النافذة التي يمكنك من خلالها رؤية التشريع يحدث من المحتمل أن تكون في الجزء الأول من العام المقبل، عندما يأتي الكونجرس الجديد”. “أعتقد أن هناك إجماعًا سياسيًا متزايدًا يتجاوز الأحزاب السياسية”.
ويعتبر اتفاق السلامة مع الصين مهمًا أيضًا مع الرئيس شي جين بينغ، المقرر أن يجتمع مع ترامب في واشنطن في 24 سبتمبر.
قال ليهان: “بالنظر إلى مدى أهمية هذه التكنولوجيا، ونظرًا لسرعة تحركها، ونظرًا للإمكانيات، كلما بدأت هذه المحادثات بشكل أسرع، كلما تمكنا من أن نشمر عن سواعدنا بشكل أسرع ونبدأ في العمل الشاق والصعب ونرى ما إذا كان بإمكاننا اكتشاف شيء ما”.
بعد الترويج للنشرة الإخبارية
أثارت حادثة “الوجه المعانق”، والحالات الأخيرة المماثلة التي اعترفت بها شركات الذكاء الاصطناعي الأخرى، ادعاءات متزايدة من خبراء السلامة بأن شركات الذكاء الاصطناعي تصرفت بتهور بينما كانت تتسابق للفوز بسباق الذكاء الاصطناعي، وفي حالة OpenAI وAnthropic، تستعد لإدراج أسهمها في سوق الأوراق المالية.
دانييل كوكوتاجلو، باحث سابق في OpenAI استقال في عام 2024 وأسس العام الماضي منظمة غير ربحية حذر قال قادة المختبرات الحدودية إن التقدم غير المقيد في مجال الذكاء الاصطناعي سيؤدي إلى احتمالية تتراوح بين 10 و30% لانقراض الإنسان، وقد “وضعوا العالم في الزاوية”.
وتتوقع منظمته، مشروع الذكاء الاصطناعي المستقبلي، إمكانية تحقيق الذكاء الفائق بحلول عام 2030، لكنها تدعو الحكومات إلى منع حدوث ذلك حتى مرور عقد من الزمن لإعطاء علماء الذكاء الاصطناعي الوقت الكافي ليحسبوا مخاطر القدرات المتقدمة.
وقال لصحيفة الغارديان: “إن أنظمة الذكاء الاصطناعي الحالية خطيرة إلى حد ما، لكنها لا شيء مقارنة بأجهزة الذكاء الاصطناعي في العام المقبل ومقارنتها بأجهزة الذكاء الاصطناعي في العام التالي”. وتريد منظمته أن تقوم الولايات المتحدة والحكومات الدولية بتأخير التقدم لتجنب “انفجار استخباراتي” غير منضبط، والذي يمكن أن تكون أسوأ نتائجه “كارثة وجودية يقودها الذكاء الاصطناعي” ناجمة، على سبيل المثال، عن سيطرة الذكاء الاصطناعي على الأصول العسكرية أو الأسلحة البيولوجية.
قال كوكوتاجلو إنه كان قلقًا جدًا بشأن المخاطر لدرجة أنه كان يؤجل إنجاب المزيد من الأطفال حتى يكون هناك توقف مؤقت في أبحاث الذكاء الاصطناعي الحدودية.
وقال ديفيد كروجر، أستاذ الذكاء الاصطناعي وناشط السلامة والمدير المؤسس السابق لمعهد أمن الذكاء الاصطناعي التابع لحكومة المملكة المتحدة: “لا ينبغي لأحد أن يبني أنظمة ذكاء اصطناعي أكثر قوة، لأننا لا نعرف كيفية التحكم فيها، ومواءمتها، والنظر إلى الداخل ورؤية ما يفكرون فيه بشكل جيد بما فيه الكفاية”.
ووصف موقف شركات الذكاء الاصطناعي تجاه السلامة بأنه “فظيع” و”غير معقول”.
وقال: “إنهم متهورون حقًا ويرفعون أيديهم عن عجلة القيادة بشكل متزايد”. “لقد رأينا للتو ما يحدث عندما تفعل ذلك”.
أجاب ليهان: “هذا هو أهم شيء نفكر فيه ونفعله عندما نتطور. أعتقد أن حقيقة أننا توقفنا بالفعل عن هذه الأشياء تتحدث عن نفسها
