اوبن ايه اي تحذر من خطر نماذج الذكاء الاصطناعي على الامان السيبراني
حذرت اوبن ايه اي من التطور الحادث في نماذج الذكاء الاصطناعي. مؤكدة ان نموذجها القادم سيشكل تهديدا سيبرانيا عالي الخطورة سواء في بناء ثغرات او المساعدة في تنفيذ المخططات المعقدة وفق تقرير رويترز.
واضافت الشركة في تدوينة نشرتها عبر موقعها الرسمي قائلة انها تهتم بالاستثمار في تعزيز قدرات النماذج السيبرانية لاستخدامها في مهام الامان السيبراني الدفاعي. موضحة ان هذا بغرض تمكين خبراء الامان السيبراني من تدقيق الاكواد البرمجية وتصحيح الثغرات بسهولة اكبر.
واشار التقرير الى ان اوبن ايه اي تعتمد على مزيج من القيود وضوابط الوصول لمنع استخدام النموذج بشكل خاطئ. فضلا عن تحصين البنية التحتية وضوابط الخروج والمراقبة.
توجهات اوبن ايه اي في تعزيز الامان السيبراني
كما تدرس الشركة منح المستخدمين الذين يعملون في قطاع الامان السيبراني وصولا الى نماذج ذات قوة اكبر من النماذج المتاحة لكافة المستخدمين. مؤكدة ان هذا يتم بعد تدقيق المستخدم والتأكد من استحقاقه لهذا الوصول.
وتؤسس الشركة مجموعة استشارية تدعى مجلس مخاطر الحدود. وهي تجمع بين خبراء الامان السيبراني الدفاعي والعاملين في القطاع الامني. مشيرة الى ان هذه المجموعة تستمتع بتعاون وثيق مع فرق اوبن ايه اي الداخلية.
ويذكر بان استخدام شات جي بي تي وغيره من ادوات الذكاء الاصطناعي في تطوير الثغرات والبرمجيات الخبيثة ممكن رغم القيود التي تضعها الشركات على نماذجها. وذلك لوجود طرق للالتفاف حول هذه القيود.
