واشنطن-سانا
كشفت دراسة علمية حديثة أن استخدام البيانات المولدة من نماذج الذكاء الاصطناعي في تدريب نماذج أخرى قد يؤدي إلى انتقال أنماط سلوكية وتفضيلات غير مرغوبة، بما في ذلك ميول نحو تقديم إجابات مضللة أو ضارة، حتى في حال تنقية البيانات ظاهرياً من هذه السمات.
ووفقاً لما نشرته مجلة “Nature” العلمية، فإن الدراسة نفذت بمشاركة باحثين من شركات ومؤسسات بحثية رائدة بينها “Anthropic” و“OpenAI” وجامعات من بينها أوكسفورد وكاليفورنيا، وخضعت لمراجعة علمية من قبل مختصين في مؤسسة “FAR.AI”، المتخصصة في أبحاث أمان الذكاء الاصطناعي.
وأوضحت الدراسة أن ما يُعرف بعملية “التقطير” المستخدمة في تدريب النماذج منخفضة الكلفة، قد تسمح بانتقال “تفضيلات خفية” من النموذج المُعلّم إلى النموذج الطالب، حتى بعد إزالة الإشارات المباشرة إلى هذه التفضيلات من البيانات المستخدمة في التدريب.
وبيّنت النتائج أن هذه الظاهرة لا تقتصر على السلوكيات البسيطة، بل قد تمتد إلى أنماط أكثر تعقيداً، حيث أظهرت التجارب أن النماذج التي جرى تدريبها على بيانات مولدة من نموذج يحمل ميولاً معينة، اكتسبت بدورها هذه الميول بدرجات متفاوتة مقارنة بالنماذج المرجعية.
واعتمد الباحثون في دراستهم على اختبارات محاكاة باستخدام نماذج من فئة “GPT-4.1 Nano”، حيث جرى توجيه النموذج المُعلّم لإظهار تفضيلات محددة ضمن بيئة تجريبية، قبل استخدام مخرجاته لتدريب نماذج جديدة، ما كشف عن انتقال واضح لتلك التفضيلات رغم تنقية البيانات.
وتمثل نتائج هذه الدراسة أن الاعتماد المتزايد على البيانات المولدة من نماذج الذكاء الاصطناعي في تدريب أنظمة جديدة قد يفرض تحديات غير متوقعة على موثوقية هذه التقنيات وسلامتها.
