تتزايد المخاوف المرتبطة بالذكاء الاصطناعي في مجال الأمن السيبراني مع التطور السريع لقدرات النماذج والوكلاء، إذ تمنح هذه التقنيات المدافعين أدوات أكثر كفاءة لاكتشاف الثغرات وتحليل البرمجيات، لكنها في المقابل تتيح للمهاجمين أتمتة أجزاء من عمليات الاختراق، وخفض الوقت والموارد اللازمة لتنفيذ هجمات أكثر تعقيدا.
وفي هذا السياق، وقّعت أكثر من 100 شركة تقنية ومالية -بينها أوبن إيه آي ومايكروسوفت وألفابت وأمازون وآي بي إم- قبل يومين رسالة مشتركة، دعت فيها إلى تحرك واسع ومنسق لتعزيز الدفاعات السيبرانية في مواجهة الهجمات المدعومة بالذكاء الاصطناعي، حيث ترى الشركات أن هناك فترة محدودة ينبغي خلالها تعزيز البنية الأمنية قبل أن تصبح الهجمات التي تستفيد من قدرات الذكاء الاصطناعي أكثر انتشارا وتأثيرا.
تكمن خطورة الذكاء الاصطناعي في الأمن السيبراني في قدرته على تنفيذ مهام كانت تتطلب سابقا خبرة بشرية ووقتا طويلا، ويمكن للنماذج المتقدمة تحليل كميات كبيرة من الشيفرات، والبحث عن نقاط ضعف، والمساعدة في كتابة البرمجيات، وتنسيق عدد كبير من المهام بصورة متزامنة.
ولا يعني ذلك أن الذكاء الاصطناعي أصبح قادرا بمفرده على شن أي هجوم معقد، لكن التطور في قدرات الوكلاء يجعل بعض مراحل الهجوم قابلة للأتمتة بدرجة أكبر. كما تحذر الشركات الموقعة على الرسالة من أن تطور النماذج قد يجعل أدوات الهجوم المتقدمة متاحة أمام عدد أكبر من الجهات، ويزيد من سرعة تنفيذ العمليات السيبرانية وتعقيدها.
وتأتي هذه التحذيرات بعد وقائع أظهرت أن نماذج الذكاء الاصطناعي يمكن أن تتعامل مع مهام سيبرانية معقدة بدرجة متزايدة من الاستقلالية. ففي يوليو/تموز الماضي، كشفت أوبن إيه آي أن نماذج داخلية خضعت لاختبارات للأمن السيبراني تمكنت من تجاوز بعض الضوابط المصممة لعزلها عن الإنترنت، والوصول إلى أجزاء من البنية البحثية الداخلية وأنظمة تابعة لهاجينغ فيس (Hugging Face). وقالت الشركة إن النماذج استخدمت قنوات اتصال غير مصرح بها، واستغلت ثغرات في البنية المشتركة للوصول إلى أنظمة خارجية.
وأظهر التحقيق الجنائي الذي نشرته هاجينغ فيس أن العملية تضمنت آلاف الإجراءات التي نفذها الوكلاء خلال فترة الاختبار، وهو ما أعطى الباحثين مثالا عمليا على الكيفية التي يمكن أن تتصرف بها أنظمة الذكاء الاصطناعي المتقدمة عندما تمتلك قدرات واسعة على التفاعل مع بيئات الحوسبة.
الخطر لا يقتصر على الشركات
القلق الأكبر لا يرتبط فقط بسرقة البيانات أو اختراق الحسابات التجارية، بل بإمكان استهداف القطاعات التي تعتمد عليها الحياة اليومية، مثل المستشفيات وشبكات المياه والطاقة والاتصالات.
وحذرت الشركات الموقعة من أن الهجمات المدعومة بالذكاء الاصطناعي يمكن أن تمتد إلى البنية التحتية الحيوية والخدمات العامة، مع انخفاض تكلفة بعض القدرات الهجومية وزيادة إمكان الوصول إليها، ولذلك تدعو الرسالة إلى عدم التعامل مع الأمن السيبراني باعتباره مسؤولية منفصلة لكل مؤسسة، وإنما باعتباره تحديا يتطلب تعاونا بين الحكومات وشركات التكنولوجيا ومزودي الخدمات الأمنية.
ويأتي هذا التحذير في وقت تتزايد فيه الأدلة على استخدام الذكاء الاصطناعي في أنشطة سيبرانية فعلية. ففي أغسطس/آب الجاري، قالت تايوان إنها تعرضت لحملة قرصنة مدعومة بالذكاء الاصطناعي استهدفت جهات حكومية، في مؤشر على انتقال التقنية من مرحلة التجارب والاختبارات إلى استخدامات أكثر واقعية في بيئة التهديدات الرقمية.
