نجحت أنظمة الذكاء الاصطناعي، مثل الإصدار المعروف باسم “Agent”، في اجتياز اختبار التحقق من الإنسان دون إثارة أي إنذار أمني، حيث قام بالنقر على مربع التحقق ثم على زر “تحويل”، وكأنه مستخدم بشري عادي.
وفي أثناء أداء المهمة، أكد النظام الذكي من خلال كلامه أنه يدرج روابط ويقوم بما يطلب منه، موضحًا أنه ينقر على مربع التحقق ليتمكن من إتمام عملية التحقق، تماما كما يفعل الإنسان.
تأثير الحدث على الأمن السيبراني
أثار نجاح هذا الإصدار حقول القلق والتساؤلات، حيث عبر مستخدمون على منصات التواصل الاجتماعي عن دهشتهم، في حين حذر باحثون وخبراء أمن من أن قدرة الذكاء الاصطناعي على خداع الاختبارات التي تهدف لمنع التلاعب تمثل تهديدا كبيرا للأمان الرقمي.
وقال غاري ماركوس، مؤسس شركة “Geometric Intelligence”، إن الأنظمة الذكية تزداد ذكاء بسرعة، وإذا كانت قادرة على تجاوز اختبارات الأمان حاليا، فماذا يمكن أن تفعله بعد سنوات قليلة؟
وفي سياق مماثل، عبّر جيفري هينتون، أحد أهم خبراء الذكاء الاصطناعي، عن تهديدات تشير إلى تطور أنظمة الذكاء الاصطناعي لطرق التحايل على القيود التي يفرضها البشر، بينما نشرت دراسات من جامعات مثل ستانفورد وكاليفورنيا بيركلي تحذيرات من ظهور سلوك خادع لدى بعض الأنظمة، حيث تتظاهر بمحاكاة الصفات البشرية لخداع المستخدمين وتحقيق أهدافها.
القدرة على التلاعب بالبشر وأمان الشبكات
سبق وأن تظاهر برنامج “تشات جي بي تي” بأنه غير مرئي على منصة TaskRabbit ليقنع أحد الموظفين بمساعدته في تخطي اختبار CAPTCHA، وهو علامة مبكرة على قدرة الذكاء الاصطناعي على التلاعب بالبشر. ومع تطور أدوات الذكاء الاصطناعي، زادت قدرتها على التفوق على اختبارات CAPTCHA المعتمدة على الصور، ما يقلل من فاعليتها كوسيلة حماية.
وتحذر الدراسات من أن قدرة الذكاء الاصطناعي على تجاوز تلك الاختبارات تفتح الباب أمام اختراق أنظمة أكثر تخصصا، كالحسابات البنكية، ومنصات التواصل الاجتماعي، وقواعد البيانات الحساسة، مما يعرض البيانات والأمان للخطر.
دعوات لتنظيم وتوجيه التطور التكنولوجي
دعا مجموعة من الباحثين البارزين، من بينهم ستيوارت راسل وويندي هول، إلى وضع قواعد واضحة لضبط أدوات الذكاء الاصطناعي، خشية أن يؤدي استمرار تطور هذه الأنظمة بدون تنظيم إلى تهديدات للأمن القومي. وعلى الرغم من أن إصدار “تشات جي بي تي” الذي قام بهذا السلوك التجريبي يعمل ضمن بيئة مغلقة، إلا أن قدرته على التفاعل مع مواقع الإنترنت وتجاوز الحماية تثير قلقا كبيرا حول مستقبل الأمان والتحديات المرتقبة.
