مايكروسوفت تطور أدوات لمراقبة وكلاء الذكاء الاصطناعي

حذّرت مايكروسوفت من مخاطر منح وكلاء الذكاء الاصطناعي صلاحيات واسعة للوصول إلى قواعد البيانات والأنظمة الداخلية، مشيرةً إلى أن أخطاء هذه الأدوات قد تُحدث أضرارًا أمنية حتى من دون وجود نية ضارة. 

ومع تزايد الاعتماد على وكلاء قادرين على تنفيذ المهام بصورة مستقلة، تعمل الشركة على تطوير أدوات رقابية لمتابعة سلوكهم ورصد التصرفات غير المعتادة والتدخل قبل وقوع أي ضرر.

وقال نائب رئيس الشركة، نديم عبدو، إن الوكلاء لا يتصرفون عادةً بقصد الإضرار بالأنظمة، إلا أن طبيعتهم غير المتوقعة تجعل الأخطاء أكثر خطورة عندما يمتلكون صلاحيات واسعة. 

ويتقاطع ذلك مع دعوة الرئيس التنفيذي ساتيا ناديلا إلى الفصل بين قدرات الذكاء الاصطناعي وأنظمة الأمن المسؤولة عن مراقبتها؛ فلا ينبغي أن تكون الجهة التي تطوّر النموذج هي وحدها المسؤولة عن ضمان التزامه بقواعد السلامة. وتسعى مايكروسوفت إلى توفير طبقة أمنية مستقلة تراقب الوكلاء وتتحكم في مستوى وصولهم.

وبما أن الوكلاء قد ينفذون آلاف العمليات في وقت قصير، يصعب على الموظفين ومسؤولي الأمن مراجعة كل خطوة فورًا. لذلك تعمل مايكروسوفت على توسيع أدواتها الأمنية ضمن مشروع Project Perception، عبر Guardian Agents، أو الوكلاء الحراس، وهي أنظمة رقابية مستقلة تتابع نشاط وكلاء الذكاء الاصطناعي في شبكات الشركات والمنصات السحابية والأجهزة المحلية، بهدف اكتشاف السلوك غير المعتاد مبكرًا.

وأوضحت هاييتي غالوت، المسؤولة التنفيذية في قطاع الأمن، أن نماذج الذكاء الاصطناعي تركز أساسًا على إنجاز المهام المطلوبة، ولا تضمن بالضرورة الالتزام بقواعد العمل أو مراعاة التقدير البشري. ولمعالجة ذلك، باتت أدوات Microsoft Defender وEntra Agent ID قادرة على اكتشاف عشرات أدوات الذكاء الاصطناعي المحلية، من بينها Claude Code وOpenAI Codex وGitHub Copilot. كما تتيح هذه المنظومة منح الوكيل صلاحية الوصول إلى الملفات اللازمة لمهمة محددة، ثم تقليصها فور انتهاء المهمة.

وتشمل الضوابط الجديدة خيارات للتعامل مع الوكلاء الذين يظهرون سلوكًا غير طبيعي، مثل تقييد وصولهم إلى الأنظمة والبيانات، أو طلب موافقة بشرية قبل مواصلة العمل، أو إيقافهم بالكامل. كذلك تتعاون مايكروسوفت مع إنفيديا ضمن مبادرة Open Agent Safety Platform لتعزيز سلامة الوكلاء وآليات التحكم فيهم.

وتعكس هذه المبادرات توجهًا متناميًا نحو تضمين الحماية في البنية التقنية نفسها، بدلًا من الاعتماد فقط على التعليمات الموجهة إلى النموذج أو قدرته على الالتزام بها. ومن الأساليب المطروحة أيضًا مفاتيح إيقاف مدمجة في الأجهزة، تتيح تعطيل الأنظمة على مستوى مكوناتها المادية عند الضرورة.

ومع انتقال وكلاء الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ المهام والتعامل مع الأنظمة والبيانات، لم تعد كفاءة النموذج وحدها كافية؛ إذ تزداد أهمية الرقابة المستقلة، وتحديد الصلاحيات، وتوفير آليات فعالة للتدخل والإيقاف.

المحرر: عمار الكاتب