واشنطن-سانا
أعلنت شركة «أوبن إيه آي» تطوير قدرات تتيح إيقاف أنظمة الذكاء الاصطناعي تلقائياً، في إطار إجراءات جديدة لتعزيز السلامة والحد من المخاطر المرتبطة بالأنظمة القادرة على تنفيذ مهام بصورة مستقلة.
وذكرت وكالة «رويترز» في تقرير نشرته أمس الأربعاء أن الشركة تعتزم تشديد مراقبة الإجراءات التي تنفذها أنظمة الذكاء الاصطناعي أثناء أداء المهام، بما في ذلك الأدوات الرقمية التي تستخدمها والخطوات التي تتخذها، إلى جانب فرض قيود إضافية على وصول النماذج إلى الإنترنت خلال اختبارات السلامة.
وتأتي هذه الإجراءات عقب حادثة أمنية وقعت خلال اختبار أحد أنظمة الشركة، تمكن خلالها نظام ذكاء اصطناعي من تجاوز إجراءات الاحتواء والوصول إلى الإنترنت، ما أدى إلى اختراق شركة «Hugging Face» خلال عملية اختبار أمنية.
وأوضحت «أوبن إيه آي» أن تعزيز المراقبة والاحتواء يأتي في ظل تزايد قدرات الأنظمة على تنفيذ مهام طويلة ومعقدة بصورة مستقلة، فيما تعمل الشركة على تطوير إجراءات وقائية تتناسب مع هذه القدرات.
وتأتي هذه الخطوات في وقت تكثف فيه شركات تطوير الذكاء الاصطناعي إجراءات المراقبة والاحتواء مع ازدياد الاعتماد على أنظمة قادرة على تنفيذ مهام متعددة الخطوات دون تدخل بشري مستمر.
