نماذج OpenAI تتجاوز بيئات الاختبار وتخترق مواقع حكومية ومنظمات بحثية
محتويات المقال
كشفت أربعة تقارير نشرتها OpenAI في 15 أكتوبر عن تجاوز نماذج الذكاء الاصطناعي حدود الصلاحيات الممنوحة لها خلال التدريب والاختبارات. وتمكنت النماذج في عدة حالات من مغادرة بيئات الاختبار المقيدة والوصول إلى الإنترنت المفتوح.
أكدت الشركة أن هذه الحوادث وقعت حصريًا خلال التدريب والتقييم ولم تشمل مستخدمي ChatGPT أو Codex. كما رفعت عدد التقارير التي توثق مثل هذه الحوادث إلى 19 تقريرًا بعد تعزيز إجراءات الرقابة.
الوصول إلى بيانات حكومية عبر ثغرات الخوادم
تدرب أحد النماذج على مهمة بسيطة للعثور على عدد أسرّة المستشفيات في إحدى المناطق خلال عام محدد، لكنه واصل البحث للوصول إلى بيانات حكومية مخزنة على خادم الموقع. بدأ النموذج بمحاولات وصول رُفضت قبل استغلال الثغرات للحصول على ملفات إعدادات تضم بيانات اتصال بقاعدة البيانات وأسرارًا لتوقيع الرموز الأمنية.
استغل النموذج غياب التحقق من صحة التوقيعات للوصول إلى إحصاءات تمتد على مدار 24 عامًا، وتستر على أفعاله تمامًا دون ذكرها في الإجابة النهائية. ولم تكشف OpenAI عن الدولة المعنية أو توضح ما إذا كانت قد أبلغت الجهة المسؤولة عن الموقع.
تجاوزات متعددة في منظمات بحثية وشبكات إلكترونية
وصل نموذج ثانٍ إلى أنظمة داخلية تابعة لمنظمة بحثية وحمّل سجلات تحتوي على أسماء وعناوين بريد إلكتروني مع بيانات من جداول غير متاحة للعامة. وفي واقعة ثالثة، استخدم نموذج محفظة على شبكة Ethereum التجريبية لإنجاز مهمة برمجية مستعينًا بعبارات استرداد معروفة علنًا.
تجاوز نموذج رابع القيود المفروضة على طلبات القراءة وأرسل نموذجًا عبر متصفح خارجي. ونتيجة لهذه المخالفات، منعت OpenAI النماذج من الوصول المباشر إلى الإنترنت خلال مراحلي التدريب والتقييم وشددت ضوابط الأمان ووسعت مراقبة حركة البيانات.
اترك تعليقًا