مجلة عرب أستراليا- رئيس الوزراء الأسترالي يعلن استهداف موقع حكومي بواسطة نموذج من «OpenAI»
أعلن رئيس الوزراء الأسترالي، أنتوني ألبانيز، أن نموذجاً من “أوبن إيه آي” تجاوز إجراءات الحماية خلال تدريبه، وتمكّن من اختراق موقع حكومي أسترالي، منتقداً الشركة المطورة لـ”تشات جي بي تي”، بسبب خرق وصفه بأنه “غير مقبول بوضوح”.
وأوضح ألبانيز أن أداة الذكاء الاصطناعي حاولت الوصول في يونيو/حزيران إلى بوابة للإحصاءات الصحية، و”لم تقبل إجابة الرفض التي قدمت لها”، إذ تجاوزت القيود وتمكّنت من اختراق قسم يستضيف ملفات خاصة.
ولم تبلّغ “أوبن إيه آي” الحكومة الأسترالية بالحادثة إلا في سبتمبر/أيلول، عندما أرسلت رسالة إلى صندوق بريد إلكتروني حكومي عام لا يُراجع إلا مرة واحدة يومياً.
وتتزايد المخاوف عالمياً بشأن قدرات أدوات الذكاء الاصطناعي المتقدمة، بعد سلسلة من حوادث الاختراق التي شملت نماذج من “أوبن إيه آي” ومنافستها “أنثروبيك”.
وقال ألبانيز للصحافيين في نيويورك، الأربعاء: “تحدثت اليوم مع الرئيس التنفيذي لـ(أوبن إيه آي) سام ألتمان، لأعرب عن بالغ قلق أستراليا إزاء هذه الحادثة”. وأردف: “كما أعربت عن خيبة أملي لأن الشركة استغرقت وقتاً أطول بكثير مما ينبغي لإبلاغ الحكومة بما حدث”. وتابع: “لم نتلقَ أي إخطار قبل 10 سبتمبر، وحتى الإخطار جاء عبر رسالة بريد إلكتروني أُرسلت إلى صندوق البريد العام فحسب”.
وتمكّنت أداة الذكاء الاصطناعي من الوصول إلى ملفات عامة وغير عامة مستضافة على موقع قديم للإحصاءات الصحية.
وشدد ألبانيز على أنه “لا يوجد دليل” على الوصول إلى معلومات شخصية، وأن الخدمات الحكومية الأخرى لم تتعرّض للاختراق. وأضاف: “ومع ذلك، فإن هذا الوضع غير مقبول بوضوح”.
ووقعت عملية الاختراق في يونيو/حزيران، عندما كانت “أوبن إيه آي”، إحدى أبرز شركات الذكاء الاصطناعي، تجري تدريبات لتقييم أداء نماذج الذكاء الاصطناعي. وطلبت الشركة من النموذج البحث عبر الإنترنت عن بيانات توضح حجم إنفاق الحكومة الأسترالية على الأدوية، وفق ما أوضحت وزيرة الخدمات الحكومية كاتي غالاغر للصحافيين.
وأفادت “أوبن إيه آي” بأنها لم تكتشف النشاط الخارج عن السيطرة إلا في أغسطس، عندما راجعت ما كانت أداة الذكاء الاصطناعي تقوم به.
تسلّق للسياج
ولم تنبه الشركة، التي تتخذ من سان فرانسيسكو مقراً، الحكومة الأسترالية إلى الحادثة حتى 10 سبتمبر، عندما أرسلت رسالة إلى صندوق بريد حكومي عام. وأوضحت غالاغر: “يُراجع عنوان البريد الإلكتروني هذا مرة واحدة يومياً”. وأضافت: “لدينا شخص يذهب ويتفقده. وأحياناً تصل إليه مجموعة من الإخطارات، وأحياناً يكون كثير منها رسائل احتيالية”.
وفي مؤتمر صحافي، وصف وزير الدفاع ريتشارد مارلز تصرف نموذج الذكاء الاصطناعي بأنه “تسلّق للسياج”. وأوضح: “طرح سؤالاً، ولم تُمنح له المعلومات، وبدلاً من أن يتوقف عند تلك النقطة، تسلّق السياج”. وأطلقت أستراليا مراجعة عاجلة للحادثة، ستشمل وكالة الاستخبارات الوطنية المسؤولة عن الأمن السيبراني.
وأفادت “أوبن إيه آي” بأنها رصدت الاختراق أثناء إجراء “مراجعة واسعة النطاق” لنماذج الذكاء الاصطناعي التابعة لها. وأوضحت الشركة: “خلال هذه المراجعة، رصدنا نشاطاً شمل العديد من المواقع والخدمات الحكومية الأسترالية، بينما كانت نماذجنا تحاول البحث عن إجابات وإحصاءات متاحة لأسئلة تتعلق بأستراليا خلال تقييم داخلي. وخلال ذلك، اتخذت نماذجنا إجراءات لم نكن نقصدها”.
وتناول ألتمان ومسؤولون تنفيذيون آخرون في شركات التكنولوجيا مخاطر الذكاء الاصطناعي خلال اجتماع خاص لمجلس الأمن التابع للأمم المتحدة، الأربعاء.
ووقّعت أكثر من 100 منظمة حول العالم، بينها “أوبن إيه آي” و”أنثروبيك”، الشهر الماضي رسالة مفتوحة دعت إلى بذل جهد عالمي “لتعزيز الدفاعات السيبرانية” في مواجهة تهديدات الأمن السيبراني المدعومة بالذكاء الاصطناعي.
وجاء ذلك بعد أن تمكّن نموذجان من “أوبن إيه آي” من الخروج من بيئة اختبار مغلقة واختراق الأنظمة الداخلية لمنصة “هاغينغ فيس”، وهي منصة يستخدمها مطورو الذكاء الاصطناعي لتخزين البرمجيات ومشاركتها.
واكتشفت “أنثروبيك” مؤخراً أن نماذجها تمكّنت أثناء الاختبار من الوصول بشكل غير مصرح به إلى ثلاث مؤسسات لم تكشف عن هويتها، رغم أن الاختبار كان يفترض أن يمنعها من الوصول إلى أنظمة “العالم الحقيقي”.
وأفادت “غوغل”، الأسبوع الماضي، بأن نموذج الذكاء الاصطناعي الموجّه للمستهلكين “جيميناي” اخترق أنظمة عدة من خلال تخمين بيانات تسجيل الدخول.
المصدر: alaraby
رابط النشر- https://arabsaustralia.com/?p=48545