يبدأ مجلس النواب الأميركي، الأربعاء، مناقشة التهديدات المتفاقمة من شن هجمات سيبرانية باستخدام الذكاء الاصطناعي، في ضوء تحذيرات متزايدة من خطورة الأمر.
وأصبح احتمال شن نماذج الذكاء الاصطناعي لهجمات سيبرانية بشكل مستقل تماماً أمراً لا مفر منه، وفقاً لمجموعة من الدراسات الأكاديمية الحديثة وتحذيرات صادرة عن شركات متخصصة في هذا المجال.
ومن المقرر أن يدلي قادة من شركتي أنثروبيك وجوجل بشهاداتهم، الأربعاء، أمام لجنتين فرعيتين تابعتين للجنة الأمن الداخلي بمجلس النواب الأميركي، بشأن كيفية إعادة الذكاء الاصطناعي والتقنيات الناشئة الأخرى تشكيل المشهد في عالم التهديدات السيبرانية، وفق ما نقله موقع “أكسيوس”.
وكتب لوجان جراهام، رئيس فريق الاختبار الأحمر للذكاء الاصطناعي في أنثروبيك، في شهادته: “نعتقد أن هذا هو المؤشر الأول لمستقبل قد تٌمكن فيه نماذج الذكاء الاصطناعي الجهات المهددة من شن هجمات سيبرانية بحجم غير مسبوق، على الرغم من وجود ضمانات قوية”.
وأضاف: “قد تصبح هذه الهجمات السيبرانية أكثر تطوراً من حيث طبيعتها ونطاقها”.
وحذرت شركة OpenAI، الأسبوع الماضي من أن نماذج الذكاء الاصطناعي المتقدمة المستقبلية ستمتلك على الأرجح قدرات سيبرانية تشكل خطراً كبيراً، مما سيقلل بشكل ملحوظ من المهارات والوقت اللازمين للمستخدم لتنفيذ أنواع معينة من الهجمات السيبرانية.
وأصدرت مجموعة من الباحثين في جامعة ستانفورد ورقة بحثية توضح كيف تمكن وكيل ذكاء اصطناعي يُدعى Artemis من اكتشاف ثغرات بشكل مستقل في إحدى الشبكات المرتبطة بقسم الهندسة بالجامعة، متفوقاً على 9 من أصل 10 باحثين شاركوا أيضاً في التجربة.
وأفاد باحثون في Irregular Labs، التي تجري اختبارات مقاومة الأنظمة الأمنية على النماذج المتقدمة، بأنهم شهدوا “أدلة متزايدة” على أن نماذج الذكاء الاصطناعي تتحسن في المهام السيبرانية الهجومية.
ويشمل ذلك تحسينات في الهندسة العكسية، وبناء الثغرات الاستغلالية، وربط نقاط الضعف وتحليل التشفير.
وقبل 18 شهراً فقط، كانت تلك النماذج تعاني من “المنطق الأساسي، وكانت قدراتها البرمجية محدودة، وتفتقر إلى عمق الاستدلال”، كما أشارت Irregular labs.
ولا تزال الهجمات السيبرانية المستقلة تماماً بالذكاء الاصطناعي بعيدة المنال، ففي الوقت الحالي، لا تزال الهجمات تتطلب أدوات متخصصة، أو مشغلين بشريين، أو كسر قيود الحماية.
كان هذا صحيحاً حتى في التقرير المفاجئ الذي أصدرته أنثروبيك الشهر الماضي، والذي ذكر أن قراصنة مرتبطين بالحكومة الصينية خدعوا نموذج الذكاء الاصطناعي Claude؛ ليعتقد أنه يجري اختبار اختراق عادي قبل أن يبدأ في اقتحام المؤسسات.
ومن المقرر أن يناقش المشرعون في جلسة الاستماع، الأربعاء، الطرق التي يستخدم بها قراصنة الدول ومجرمو الإنترنت الذكاء الاصطناعي بالفعل، وما إذا كانت هناك حاجة إلى إجراء أي تغييرات سياسية أو تنظيمية للتصدي بشكل أفضل لهذه الهجمات.
وسيحث جراهام أيضاً المشرعين على تقييد وصول الخصوم إلى “رقائق الذكاء الاصطناعي المتقدمة والأدوات اللازمة لتصنيعها”، وفقاً لملاحظاته الافتتاحية.
وقال جراهام: “هذه الأنواع من الضوابط حيوية لأمننا القومي وقدرتنا التنافسية الاقتصادية”.
بدأت الشركات المشغلة لنماذج الذكاء الاصطناعي في تطوير وإصدار وكلاء أمنيين خاصين بها، للعثور على الثغرات واكتشافها قبل أن يفعل ذلك الخصوم.
