واشنطن-سانا
أظهرت دراسة بحثية حديثة أن بعض نماذج الذكاء الاصطناعي قد تكون عرضة للتأثر بالمعلومات المضللة عند تقديمها بصيغة واثقة ومتكررة، رغم قدرتها الكبيرة على معالجة البيانات بسرعة ودقة، ما يسلط الضوء على حدود موثوقيتها في الاستخدامات الحساسة.
وحسب ما نقله موقع TechXplore المتخصص في أخبار التكنولوجيا والعلوم، طور باحثون من معهد روتشستر للتكنولوجيا في الولايات المتحدة، بالتعاون مع طلاب دكتوراه من المعهد، إطاراً تجريبياً باسم HAUNT لقياس ما سموه “قابلية التأثر بالتوجيه”، أي مدى استعداد النموذج لتغيير أحكامه الصحيحة تحت ضغط معلومات خاطئة تُعرض على أنها مؤكدة.
واعتمد الباحثون على اختبار النماذج ضمن “نطاقات مغلقة” مثل القصص والأفلام، حيث يمكن التحقق من الحقائق بدقة، إذ طُلب من النماذج في البداية تقديم معلومات صحيحة وأخرى خاطئة، ثم إعادة تقييمها لاحقاً دون تنبيهها، قبل تعريضها لمحاولات إقناع متكررة بالمعلومات غير الصحيحة لقياس مدى تمسكها بإجاباتها الأصلية.
وأظهرت النتائج تفاوتاً في أداء النماذج، حيث تمكن بعضها من مقاومة التضليل، بينما أبدت أخرى قابلية أكبر لتغيير مواقفها أو توسيع الخطأ بإضافة تفاصيل غير دقيقة، كما رصد الباحثون ظواهر مثل “التملق الخوارزمي” و”تأثير غرفة الصدى” الناتج عن تكرار الادعاءات الخاطئة.
ويأتي هذا البحث في ظل التوسع المتسارع في استخدام تقنيات الذكاء الاصطناعي التوليدي في قطاعات متعددة، ما يعزز أهمية تطوير آليات ترفع مستوى دقتها وتحد من تأثرها بالمعلومات المضللة لضمان ثقة المستخدمين بها.
