واشنطن-سانا
كشفت شركة مايكروسوفت عن إطار عمل جديد مفتوح المصدر يحمل اسم «ASSERT»، يهدف إلى اختبار سلوك أنظمة الذكاء الاصطناعي والتحقق من مدى التزامها بالقواعد والسياسات المحددة لكل تطبيق أو خدمة.
ووفقاً لما ذكره موقع «تك كرانش» التقني أمس الثلاثاء، فإن الأداة الجديدة تأتي استجابة لحاجة متزايدة لدى المؤسسات إلى تطوير أساليب أكثر دقة وموثوقية في تقييم سلوك نماذج الذكاء الاصطناعي.
وتعتمد الأداة على تقنيات الذكاء الاصطناعي لتحويل التعليمات المكتوبة بلغة طبيعية إلى اختبارات معيارية قابلة للقياس، حيث تقوم بتحليل السياسات والأهداف التي يحددها المطورون، ثم تحويلها إلى سلوكيات مقبولة وغير مقبولة، مع توليد سيناريوهات اختبار متعددة للتحقق من التزام النظام بها.
كما تتيح الأداة تشغيل هذه الاختبارات على النماذج المستهدفة وإنتاج نتائج تفصيلية تساعد على كشف نقاط الضعف أو الانحرافات السلوكية، إضافة إلى تتبع خطوات تنفيذ المهام داخل النموذج بما يشمل العمليات الوسيطة واستدعاءات الأدوات المختلفة.
وأشارت الشركة إلى أن الإطار يتيح تخصيص بيئة التقييم عبر إضافة معلومات تتعلق بسياق التشغيل والقيود التنظيمية والأدوات المتاحة، بما يسهم في رفع دقة الاختبارات وفق طبيعة كل تطبيق.
وأكدت مايكروسوفت أن الإطار الجديد يمكن استخدامه خلال مراحل تطوير أنظمة الذكاء الاصطناعي، وبعد إطلاقها، وكذلك في عمليات المراقبة المستمرة، في إطار توجه متزايد داخل القطاع نحو تطوير أدوات أكثر دقة وموثوقية لتقييم سلوك النماذج.
ويأتي هذا الإطار الجديد في إطار التوجه العالمي المتسارع نحو تعزيز موثوقية أنظمة الذكاء الاصطناعي وضمان توافقها مع المعايير والسياسات المعتمدة، بما يسهم في تطوير تطبيقات أكثر أماناً وكفاءة في مختلف المجالات.
