واشنطن والمملكة المتحدة تتعاونان لاختبار سلامة نماذج الذكاء الاصطناعى

تستمر شركات OpenAI وGoogle وAnthropic وغيرها من الشركات التي تعمل على تطوير الذكاء الاصطناعي التوليدي في تحسين تقنياتها وإصدار نماذج لغوية كبيرة أفضل وأفضل، ومن أجل إيجاد نهج مشترك لتقييم مدى سلامة هذه النماذج بشكل مستقل عند ظهورها، حكومتا المملكة المتحدة والولايات المتحدة وقعت مذكرة تفاهم.

وسوف يعمل معهد سلامة الذكاء الاصطناعي في المملكة المتحدة ونظيره في الولايات المتحدة، والذي أعلنت عنه نائبة الرئيس كامالا هاريس ولكن لم يبدأ تشغيله بعد، على تطوير مجموعات من الاختبارات لتقييم المخاطر وضمان سلامة “نماذج الذكاء الاصطناعي الأكثر تقدما”.

إنهم يخططون لتبادل المعرفة التقنية والمعلومات وحتى الموظفين كجزء من الشراكة، ويبدو أن أحد أهدافهم الأولية هو إجراء تمرين اختبار مشترك على نموذج متاح للجمهور. وقالت وزيرة العلوم البريطانية ميشيل دونيلان، التي وقعت على الاتفاق، لصحيفة فايننشال تايمز: “عليهم أن يتحركوا”. “بسرعة” لأنهم يتوقعون ظهور جيل جديد من نماذج الذكاء الاصطناعي خلال العام المقبل.

وهم يعتقدون أن هذه النماذج يمكن أن “تغير قواعد اللعبة بالكامل”، وما زالوا لا يعرفون ما يمكنهم فعله.

وبحسب صحيفة التايمز، فإن هذه الشراكة هي أول ترتيب ثنائي بشأن سلامة الذكاء الاصطناعي في العالم، على الرغم من أن الولايات المتحدة والمملكة المتحدة تعتزمان التعاون مع دول أخرى في المستقبل. وقالت وزيرة التجارة الأمريكية جينا ريموندو: “الذكاء الاصطناعي هو التكنولوجيا المميزة لجيلنا”.

“ستعمل هذه الشراكة على تسريع عمل كل معهد من معاهدنا عبر مجموعة كاملة من المخاطر، سواء بالنسبة لأمننا القومي أو لمجتمعنا الأوسع.” “إن شراكتنا تثبت أننا لا نهرب من هذه المخاوف – بل نتعامل معها. وسيتم إصدار تقييمات أكثر قوة ومبادئ توجيهية أكثر صرامة. “

وبينما تركز هذه الشراكة بشكل خاص على الاختبار والتقييم، فإن الحكومات في جميع أنحاء العالم تعمل أيضًا على وضع لوائح لإبقاء أدوات الذكاء الاصطناعي تحت المراقبة، وفي مارس الماضي، وقع البيت الأبيض على أمر تنفيذي يهدف إلى ضمان أن الوكالات الفيدرالية تستخدم أدوات الذكاء الاصطناعي فقط. الذكاء الاصطناعي الذي “لا يعرض حقوق أو سلامة الشعب الأمريكي للخطر”.

قبل أسبوعين، وافق البرلمان الأوروبي على تشريع شامل لتنظيم الذكاء الاصطناعي، والذي سيحظر “الذكاء الاصطناعي الذي يتلاعب بالسلوك البشري أو يستغل نقاط ضعف الناس”، و”أنظمة التصنيف البيومترية القائمة على الخصائص الحساسة”، فضلا عن “الاستخراج غير المستهدف” للوجوه. من… لقطات المراقبة وكاميرات الويب لإنشاء قواعد بيانات للتعرف على الوجه. بالإضافة إلى ذلك، يجب تصنيف الصور ومقاطع الفيديو والصوت الأخرى التي يتم إنشاؤها بواسطة الذكاء الاصطناعي بشكل واضح على هذا النحو بموجب قواعده.