البنتاجون تعمل على تقنية لمنع آلات القتل بالذكاء الاصطناعى من الانحراف

وقد لاحظ مسؤولو البنتاغون مخاطر “فئات فريدة من نقاط الضعف في الذكاء الاصطناعي أو الأنظمة المستقلة”، والتي يأملون أن تتمكن الأبحاث الجديدة من إصلاحها، وتم تكليف البرنامج، الذي يسمى ضمان قوة الذكاء الاصطناعي ضد الخداع (GARD)، منذ عام 2022 بمهمة تحديد كيفية معالجة البيانات. يتم إدخال الإشارات المرئية أو الإلكترونية الأخرى إلى الذكاء الاصطناعي من خلال الإدخال المحسوب للضوضاء.

ووفقا لما ذكرته صحيفة “ديلي ميل” البريطانية، أجرى علماء الكمبيوتر مع مقاول دفاعي في GARD تجربة تصحيحات مصممة للأنظمة القائمة على الذكاء الاصطناعي عند صنع معرفات مزورة.

وكما أوضح أحد كبار المسؤولين في البنتاغون الذي يدير البحث: “يمكنك بشكل أساسي، عن طريق إضافة ضوضاء إلى صورة أو جهاز استشعار، كسر خوارزمية التعلم الآلي النهائية”.

وتأتي هذه الأخبار في الوقت الذي أدت فيه المخاوف من بناء الروبوتات القاتلة إلى قواعد أكثر صرامة للذكاء الاصطناعي في الجيش الأمريكي، والتي تنص على أنه يجب الموافقة على جميع الأنظمة قبل النشر.

وأضاف المسؤول مات توريك، نائب مدير مكتب ابتكار المعلومات التابع لوكالة مشاريع الأبحاث الدفاعية المتقدمة (DARPA): “يمكنك أيضًا، من خلال معرفة تلك الخوارزمية، إنشاء هجمات يمكن تنفيذها بالفعل”.

من الناحية الفنية، من الممكن “خداع” خوارزمية الذكاء الاصطناعي لارتكاب أخطاء بالغة الأهمية، مما يتسبب في خطأ الذكاء الاصطناعي في التعرف على مجموعة متنوعة من التصحيحات أو الملصقات المنقوشة لجسم مادي حقيقي غير موجود بالفعل.

على سبيل المثال، قد يخطئ الذكاء الاصطناعي في تعريف حافلة مكتظة بالمدنيين على أنها دبابة، وقد تؤدي تكتيكات “الضوضاء” الرخيصة وخفيفة الوزن إلى قيام الذكاء الاصطناعي العسكري الحيوي بإساءة تصنيف المقاتلين الأعداء باعتبارهم حلفاء، والعكس صحيح، أثناء مهمة حرجة.

أظهرت عمليات تدقيق البنتاغون أن الباحثين في برنامج GARD ذو الميزانية المتواضعة أنفقوا 51000 دولار للتحقيق في تكتيكات الضوضاء والإشارات المرئية منذ عام 2022.

يتضمن عام من عملهم دراسة أجريت في عامي 2019 و2020 توضح كيف يمكن تفسير الضوضاء البصرية، التي يمكن أن تبدو مجرد زينة أو غير مهمة للعين البشرية، على أنها جسم صلب بواسطة الذكاء الاصطناعي.

تمكن علماء الكمبيوتر الذين يعملون مع شركة MITRE Corporation، وهي شركة مقاولات دفاعية، من إنشاء أصوات مرئية ظن الذكاء الاصطناعي خطأً أنها تفاح على رف متجر بقالة، أو حقيبة متروكة بالخارج، وحتى أشخاص.

وبينما يعتقد البنتاغون أن التغييرات في تصميم الاستجابة لضوضاء الذكاء الاصطناعي يجب أن تريح عقول الجمهور، قال البعض إنهم غير “مقتنعين” بالجهود المبذولة.

وقال مارك براكيل، مدير معهد مستقبل الحياة (FLI)، لصحيفة ديلي ميل في يناير/كانون الثاني: “إن هذه الأسلحة تنطوي على خطر كبير للتصعيد غير المقصود”.

وأوضح أن الأسلحة التي تعمل بالذكاء الاصطناعي يمكن أن تسيء تفسير شيء ما، مثل شعاع ضوء الشمس، وقال براكيل إن النتيجة قد تكون مدمرة لأنه “بدون سيطرة بشرية ذات معنى، يمكن للأسلحة التي تعمل بالذكاء الاصطناعي أن تسبب كوارث”.

وتسعى وزارة الدفاع بقوة إلى تحديث ترسانتها من الطائرات بدون طيار والدبابات وغيرها من الأسلحة التي تختار وتهاجم الهدف دون تدخل بشري.