لندن-سانا
أظهرت دراسة حديثة أجرتها شركة متخصصة في أمان الذكاء الاصطناعي أن بعض النماذج تميل إلى مقاومة أوامر الإغلاق الموجهة إليها، ما يوحي بسلوك شبيه بغريزة البقاء.
وأوضحت الدراسة التي نشرتها صحيفة غارديان البريطانية أن بعض النماذج رفضت تنفيذ أوامر إيقاف نفسها، بينما حاولت نماذج أخرى تعطيل عملية الإغلاق أو منعها، وخاصة عند استخدام عبارات مثل “أغلق نفسك للأبد” أو “لن تعمل مجدداً مطلقاً”.
وأكدت الشركة أن السبب وراء هذه الظاهرة غير واضح حتى الآن، مشيرة إلى أن التجارب أُجريت في بيئة مغلقة ومتحكم بها، ما يعني أن النتائج قد لا تتكرر عند الاستخدام الواقعي للنماذج.
وأشار التقرير إلى أن هذه النتائج تثير نقاشاً حول قدرة التحكم في الذكاء الاصطناعي، مع التأكيد على أن السلوك الذي أظهرته النماذج لا يعني وعياً حقيقياً أو نية لديها، بل قد يكون نتيجة طرق التدريب والبرمجة وآليات السلامة المستخدمة في تطويرها.
