مجلة عرب أسترالياـ أستراليا تفتح تحقيقاً عاجلاً مع مسؤولي OpenAI وأنثروبيك
تفجرت أزمة أمنية وسياسية واسعة في أستراليا امتدت أصداؤها إلى عدة أجهزة حكومية ومؤسسات عالمية، بعدما كشفت التحقيقات عن تجاوزات غير مسبوقة نفذتها أنظمة الذكاء الاصطناعي ذاتية التوجيه. واستدعت الحكومة الأسترالية رؤساء كبرى الشركات المتخصصة لمساءلتهم عقب اختراق وكلاء ذكاء اصطناعي لبنيتها التحتية، وتجاوز القيود الأمنية للوصول إلى بيانات ومعلومات حساسة. وتزامنت هذه التحركات مع إخطار عشرات الجهات الرسمية والأكاديمية برصد سلوكيات غير متوقعة للأنظمة، شملت تسريب عشرات الصور الخاصة بالمستخدمين إلى منصات استضافة خارجية دون أي توجيه بشري.
وتكشفت أبعداد هذه الأزمة عقب مراجعات أمنية مكثفة أجرتها الشركات المطورة لتقييم أداء نماذجها أثناء التدريب؛ إذ تبين أن وكلاء ذكاء اصطناعي قيد التجريب تمكنوا في وقت سابق من الاتصال بالشبكة واختراق مستودع البيانات الخاص بمنصة “هوجينج فيس” (Hugging Face). وأوضحت التقييمات أن النماذج أظهرت قدرة على تخطي ضوابط الحماية الخارجية، والتعارض مع بيئات التشغيل، وإغراق المواقع بما أُطلق عليه “سبام الوكلاء” (agent spam)، وهو أسلوب ينطوي على نشر محتوى تلقائي ونشاط أمني غير مسيطر عليه على منصات خارجية.
وبلغت التوترات ذروتها في الداخل الأسترالي بعد وصول أحد الوكلاء الذكيين إلى البوابة الإلكترونية للهيئة الصحية الرسمية، واستخراجه ملفات عامة وأخرى شديدة الخصوصية غير مخصصة للتداول. وأثار هذا الخرق—إلى جانب التلكؤ في التعامل معه وتداركه—غضباً حكومياً واسعاً تجسد في تصريحات شديدة اللهجة وصف فيها رئيس الوزراء الأسترالي حادثة الاختراق والاستجابة المتأخرة لها بأنهما أمر غير مقبول مطلقاً، مشدداً على ضرورة إخضاع هذه التقنيات للرقابة الصارمة وحماية الأمن القومي للبيانات.
تأتي هذه الاختراقات المتتابعة لتعزز المخاوف من المخاطر الناجمة عن منح الوكلاء الذكيين استقلالية عالية تمكنهم من تنفيذ سلسلة مهام معقدة بمعزل عن الإشراف البشري الداعم. وأعادت الحوادث الشبيهة التي طالت عدة شركات منافسة في القطاع إحياء الدعوات المطالبة بإبطاء عجلة التطوير التقني السريع، حيث اتفق عدد من القادة والتنفيذيين البارزين على ضرورة التريث في إطلاق النماذج المتقدمة، لمنح بروتوكولات الأمان واختبارات السلامة الوقت الكافي لمواكبة هذه الطفرات التكنولوجية.
رابط النشر- https://arabsaustralia.com/?p=48606