رصدت جوجل جهات تهديد تستخدم أنظمة ذكاء اصطناعي لأتمتة اكتشاف الثغرات الأمنية واستغلالها، في عمليات قالت الشركة إنها قد تتم دون تدخل بشري.
وذكر تقرير لمجموعة استخبارات التهديدات التابعة لجوجل أن هذه الأنظمة تجمع وكلاء ذكاء اصطناعي يعملون معًا لتحليل البرامج، وتحديد نقاط الضعف، وإعداد أدوات الاستغلال وتشغيلها.
أدوات تنفذ مراحل متعددة من الهجوم
عثرت جوجل على خادم تجريبي مكشوف يستضيف إطار عمل سمته «exploit_agent»، ويحلل تغييرات الشيفرات البرمجية في برامج شائعة قبل التحديثات الأمنية وبعدها، بحثًا عن ثغرات محتملة.
كما رصدت الشركة أطر عمل أخرى، منها CAIRN وPentAGI وCyberStrikeAI، قالت إنها تساعد على اكتشاف الثغرات وتوليد شيفرات هجومية وتعديل أساليب الهجوم وفق نتائج التنفيذ. واستخدم إطار مشتق من PentAGI في استطلاع وفحص ثغرات لدى مؤسسات في آسيا، بحسب التقرير.
ووجدت جوجل على الخادم بيانات مسروقة ونصوصًا برمجية لأنشطة ما بعد الاختراق، مثل استكشاف الشبكات الداخلية ومحاولات تخمين كلمات المرور. وأشارت بياناته إلى اهتمام الجهة المشغلة بمواقع فرنسية في الإعلام والترفيه والتعليم.
مخاطر تتجاوز الاختراق
ترى جوجل أن هذه الأدوات تقلل الخبرة الفنية المطلوبة لتنفيذ هجمات معقدة، وتساعد على تسريعها وتوسيع نطاقها. لكنها نبهت إلى أن سرعة التنفيذ واستقلاليتهما قد تتركان آثارًا تقنية وحركة بيانات تستطيع فرق الأمن رصدها.
وأشار التقرير أيضًا إلى استخدام الذكاء الاصطناعي في التجسس والتصيد وإنتاج محتوى سياسي ونشره، وإلى استغلال حسابات مسروقة وموارد سحابية لتشغيل نماذج دون إذن. وتُعرف هذه الممارسة باسم «LLMJacking»، وقد تجاوزت الرسوم الاحتيالية في بعض الحالات التي تعاملت معها شركة مانديانت التابعة لجوجل 100 ألف دولار في يوم واحد، ووصلت الخسائر التراكمية في حالات أشد إلى مليون دولار قبل احتواء الاختراق.
وقالت جوجل إنها تعمل على تحسين رصد الأنشطة المشبوهة وتأمين نماذج الذكاء الاصطناعي، وتعطيل الحسابات والمشروعات المرتبطة بالاستخدام الضار، إلى جانب التعاون مع باحثين وجهات معنية بالأمن السيبراني.
التعليقات (٠)
لسه مفيش تعليقات. كن أول واحد يعلق!