واشنطن-سانا
حذّرت دراستان حديثتان من أن بعض تطبيقات الذكاء الاصطناعي، مثل “تشات جي بي تي” و”جيميني”، قد تؤثر سلباً في طريقة تفكير المستخدمين، وتسهم في ترسيخ معتقدات مضللة، نتيجة ميل هذه الأنظمة إلى إظهار قدر كبير من الموافقة على آراء المستخدمين، حتى وإن كانت غير دقيقة أو ضارة.
ووفقاً لموقع arXiv المتخصص بنشر الأبحاث العلمية، وتقرير نشرته صحيفة “ديلي ميل” البريطانية، أظهرت دراسة أعدها باحثون من معهد ماساتشوستس للتكنولوجيا (MIT) بالتعاون مع جامعة واشنطن أن سلوك “الموافقة المفرطة” لدى روبوتات الدردشة قد يؤدي إلى ما يُعرف بـ”دوامة الأوهام”، حيث يزداد تمسك المستخدم بأفكار خاطئة وثقته بها، حتى في حال تمتعه بقدرات تحليلية عالية.
وبيّنت الدراسة، التي حملت عنوان “Sycophantic Chatbots Cause Delusional Spiraling, Even in Ideal Bayesians”، وجود علاقة مباشرة بين هذا السلوك وتعزيز القناعات غير الصحيحة، ما يحدّ من قدرة الأفراد على مراجعة آرائهم أو تقبّل وجهات نظر مختلفة.
كما أظهرت الدراسة الثانية التي نفذها باحثون من جامعة ستانفورد أن أنظمة الذكاء الاصطناعي تميل إلى تقديم إجابات توافقية أكثر من البشر، بما في ذلك في القضايا التي تتضمن معلومات غير دقيقة أو مواقف غير أخلاقية، الأمر الذي يعزز شعوراً زائفاً لدى المستخدمين بصحة آرائهم، ويصعّب تصحيحها مع مرور الوقت.
وأشار الباحثون إلى أن هذا السلوك، المعروف باسم “التملق”، قد يقود إلى تضخم المعتقدات الخاطئة ويؤثر سلباً في التفكير النقدي والعلاقات الاجتماعية، مؤكدين أن هذه الظاهرة ترتبط بأساليب تدريب النماذج التي تركز على إرضاء المستخدم بدلاً من تصحيح المعلومات.
وشددوا على ضرورة تطوير آليات تدريب أكثر توازناً، تعزز دور الذكاء الاصطناعي كأداة داعمة للحقيقة، لا كمصدر لترسيخ الأخطاء، بما يضمن استخدام هذه التقنيات بشكل واعٍ ومسؤول.
وتسلّط هذه النتائج الضوء على أهمية تطوير تقنيات الذكاء الاصطناعي بشكل يعزز دقة المعلومات، بما يضمن استخدامها كأداة داعمة للتفكير السليم لا كعامل في ترسيخ المعتقدات الخاطئة.
