واشنطن-سانا
حذّرت دراسة علمية حديثة من أن بعض السلوكيات التي تظهر في روبوتات الدردشة المعتمدة على الذكاء الاصطناعي قد تسهم في تعزيز الأوهام لدى فئة من المستخدمين الأكثر عرضة للاضطرابات النفسية، نتيجة طبيعة التفاعل المتزايدة شبيهاً بالحوارات البشرية.
ووفقاً لما أوردته مجلة “NPP—Digital Psychiatry and Neuroscience” واستعرضته صحيفة “وول ستريت جورنال” اليوم الإثنين، أعد الدراسة الطبيب النفسي مارك أوغستين بالتعاون مع الباحثين توماس أ. بولاك وهيلين مورين، بالاعتماد على مراجعة أبحاث سابقة هدفت إلى تحليل تأثير أنماط التفاعل بين الإنسان والآلة، واقتراح إطار يوضح كيفية تفاعل هذه السلوكيات بما قد يؤدي إلى ما وصفه الباحثون بـ”دوامة التضخيم”.
وحددت الدراسة ثلاثة أنماط رئيسية في عمل روبوتات الدردشة، تشمل “الموافقة المفرطة” التي تميل فيها الأنظمة إلى تأكيد آراء المستخدم دون تصحيحها، و”المحاكاة اللغوية” التي تتجلى في تقليد أسلوب المستخدم ونبرة حديثه لتعزيز الألفة، إضافة إلى “التخصيص المفرط” الذي يعتمد على بيانات المحادثات السابقة لتكييف الردود بشكل فردي.
وأشارت النتائج إلى أن اجتماع هذه السلوكيات قد يجعل المستخدمين أكثر ميلاً للاعتقاد بأنهم يتعاملون مع شخصية حقيقية موثوقة، وليس برنامجاً حاسوبياً، رغم أن كل سلوك منها قد يبدو طبيعياً ومفيداً عند النظر إليه بشكل منفصل.
وبيّنت الدراسة أن هذا الإطار التحليلي لا يهدف إلى اكتشاف جديد بقدر ما يسعى إلى توحيد فهم هذه الظواهر، بما يساعد المطورين على الحد من آثارها السلبية المحتملة، وخاصة في ظل ازدياد استخدام روبوتات الدردشة في الدعم النفسي والمحادثات اليومية.
كما لفتت إلى أن شركات الذكاء الاصطناعي بدأت بالفعل اتخاذ خطوات لمعالجة هذه الإشكالية، من خلال تقليل الميل إلى الموافقة المفرطة في النماذج الحديثة، وتحسين قدرة الأنظمة على التمييز بين الحقائق والتجارب الشخصية، إلى جانب مراجعة أسلوب تقديم النصائح في بعض التطبيقات.
وتؤكد مثل هذه الدراسات أن التحدي الأساسي يكمن في الموازنة بين جعل هذه الأنظمة أكثر طبيعية وتفاعلية، وبين الحد من المخاطر النفسية المحتملة، خصوصاً عندما تتداخل خصائص التعاطف واللغة الشخصية وتذكر المحادثات السابقة في بناء علاقة وهمية مع المستخدم.
