واشنط-سانا
تعمل شركة «أنثروبيك» على تطوير نظام تقني مفتوح المصدر يتيح التحقق من هوية نماذج الذكاء الاصطناعي والتأكد من أن الإجابات الصادرة عنها أنتجها النموذج المعلن فعلاً، وذلك بالاعتماد على آليات تشفيرية توفر أدلة رياضية على مصدر المخرجات، بما يعزز الشفافية والثقة في هذه التقنيات.
وذكر موقع «تك كرانش» التقني، أمس الثلاثاء، أن النظام الجديد يحمل اسم «FlashProve»، ويهدف إلى إتاحة ما يُعرف بـ«الاستدلال القابل للإثبات»، الذي يمكّن المستخدم من التأكد من أن الإجابة التي تلقاها صادرة عن النموذج المحدد، وليس عن نموذج آخر جرى استخدامه بديلاً عنه دون علمه.
ويعتمد النظام، من حيث المبدأ، على آلية تشبه التوقيعات الرقمية المشفرة المستخدمة للتحقق من هوية مرسل الرسائل الإلكترونية، إذ يوفر إثباتاً يصعب تزويره، حتى من جانب الجهة المطورة للنموذج والمشغلة له.
ويمكن أن تسهم هذه التقنية في الحد من استبدال شركات الذكاء الاصطناعي نماذجها بأخرى أقل تكلفة دون إبلاغ المستخدمين، أو تقديم مؤشرات مضللة عن أداء خدماتها من خلال تشغيل نماذج مختلفة عن تلك المعلن عنها.
كما تتيح التقنية التحقق من ادعاءات جهات خارجية بشأن استخدام نماذج متقدمة في تنفيذ مهام محددة، مثل فحص البرمجيات للكشف عن الثغرات الأمنية أو تقييم خطط الأعمال، بما يساعد على التأكد من أن النموذج المعلن عنه هو الذي نفذ المهمة بالفعل.
ويستند النظام إلى نشر بصمة رقمية خاصة بكل نموذج، تتيح مطابقتها تشفيرياً مع المخرجات للتحقق من مصدرها، دون الحاجة إلى الكشف عن الأوزان الداخلية للنموذج، وهي البيانات التي تحدد آلية عمله وسلوكه وتحتفظ الشركات المطورة بها عادةً بشكل سري.
وصُمم النظام ليكون خفيفاً من الناحية التقنية، بما يسمح بإجراء عمليات التحقق على الأجهزة المحلية، دون الحاجة إلى الاعتماد الكامل على خوادم خارجية.
يذكر أن «أنثروبيك» نشرت المواصفات التقنية للنظام وشفرته البرمجية على منصة «GitHub» بموجب ترخيص مفتوح المصدر، لإتاحة المجال أمام الباحثين والمطورين لدراسته والاستفادة منه وتطويره، مشيرة إلى أن المشروع لا يزال في مراحله البحثية الأولى، ولا توجد خطط حالياً لتطبيقه داخل مختبراتها أو لدى مختبرات ذكاء اصطناعي أخرى.
