تزايد حوادث الأمن المتعلقة بوكلاء الذكاء الاصطناعي
تواجه العديد من الشركات تحديات أمنية متزايدة مع انتشار وكلاء الذكاء الاصطناعي الذين يتمتعون بصلاحيات واسعة للوصول إلى الأنظمة والبيانات. تشير دراسة حديثة أجريت على 107 شركة إلى أن أكثر من نصف هذه الشركات (54%) تعرضت بالفعل لحادث أمني مؤكد يتعلق بوكيل ذكاء اصطناعي، أو حادث وشيك تم تداركه قبل وقوع ضرر.
هذا الوضع يكشف عن فجوة أمنية كبيرة، حيث تتسارع الشركات في تبني وكلاء الذكاء الاصطناعي المستقلين، بينما تظل آليات التحكم والحماية متأخرة عن هذا التطور.
مشكلة مشاركة بيانات الاعتماد
أحد الأسباب الرئيسية وراء هذه الفجوة هو ضعف إدارة الهوية لوكلاء الذكاء الاصطناعي. تظهر الدراسة أن:
- حوالي ثلث الشركات فقط (32%) تمنح كل وكيل ذكاء اصطناعي هوية مستقلة خاصة به.
- الشركات الأخرى تسمح لوكلاء الذكاء الاصطناعي بمشاركة بيانات الاعتماد، مثل مفاتيح واجهة برمجة التطبيقات المشتركة أو بيانات اعتماد حسابات الخدمات البشرية.
هذا يعني أن اختراق وكيل واحد أو منحه صلاحيات مفرطة يمكن أن يؤدي إلى عواقب وخيمة على نطاق واسع داخل الشبكة، لعدم وجود حدود واضحة لصلاحياته.
غياب العزل وضعف الميزانيات المخصصة
جانب آخر من المشكلة هو قلة عزل وكلاء الذكاء الاصطناعي الأكثر خطورة. فقط 30% من الشركات تقوم بعزل هؤلاء الوكلاء في بيئات آمنة (sandboxes) للحد من نطاق الضرر المحتمل في حال تعرضهم للاختراق. تتبنى الشركات بشكل كبير حلول الأمان المقدمة من مطوري النماذج السحابية الكبرى (مثل OpenAI وGoogle وMicrosoft)، بدلاً من استخدام حلول مصممة خصيصًا لأمان وكلاء الذكاء الاصطناعي.
على الرغم من الرضا النسبي عن هذه الحلول الجاهزة، إلا أن ميزانية الأمن المخصصة لوكلاء الذكاء الاصطناعي لا تزال صغيرة جدًا. كما أن ثلث الشركات فقط تعتقد أن دفاعاتها الحالية قادرة على مواكبة الهجمات المدعومة بالذكاء الاصطناعي، مما يشير إلى الحاجة الماسة لإعادة تقييم استراتيجيات الأمن في هذا المجال.
