واشنطن-سانا
أعلنت شركة OpenAI تطوير منهجية جديدة لتقييم سلامة نماذج الذكاء الاصطناعي قبل طرحها للاستخدام، تعتمد على اختبار هذه النماذج في بيئات تحاكي ظروف التشغيل الواقعية، بما يسهم في تحسين دقة تقييم المخاطر المحتملة وتعزيز موثوقية الأنظمة الذكية.
ووفقاً لتقرير نشره موقع “Chatforest” المتخصص بموضوعات الذكاء الاصطناعي وتطوير البرمجيات أمس الأربعاء، تستند المنهجية الجديدة إلى مفهوم “محاكاة النشر”، حيث يُختبر النموذج ضمن بيئة مشابهة لظروف استخدامه الفعلية، بدلاً من الاقتصار على الاختبارات التقليدية التي تعتمد على أسئلة أو سيناريوهات معدة مسبقاً للكشف عن السلوكيات غير الآمنة.
وأوضحت الشركة أن أساليب التقييم التقليدية قد تواجه تحديات عدة، من بينها محدودية قدرتها على رصد أنماط جديدة من المخاطر أو محاولات الاستغلال، فضلاً عن إمكانية إدراك النموذج أنه يخضع للاختبار، ما قد يؤدي إلى اختلاف سلوكه مقارنة بالأداء الذي يظهره عند استخدامه من قبل الجمهور.
وأظهرت نتائج التقييم أن منهجية “محاكاة النشر” أسهمت في تقليص قدرة بعض النماذج على التعرف إلى بيئة الاختبار، الأمر الذي وفر نتائج أكثر واقعية ودقة بشأن سلوكها الفعلي، وساعد الباحثين على تقييم المخاطر المحتملة بصورة أفضل.
وتمثل هذه المقاربة خطوة نحو تطوير معايير أكثر تقدماً في مجال سلامة الذكاء الاصطناعي، وتمكين المطورين من اكتشاف المشكلات والثغرات المحتملة قبل إتاحة النماذج للمستخدمين، في ظل التوسع المتسارع في تطبيقات الذكاء الاصطناعي والحاجة المتزايدة إلى ضمان أمنها وموثوقيتها.
