جريدة الكترونية تأسست
1/1/2015
الرئيسية / تكنولوجيا / تحذير أمني: ChatGPT يستخدم في أغراض “خبيثة”؟
chatgpt

تحذير أمني: ChatGPT يستخدم في أغراض “خبيثة”؟

 

أصدرت وكالة إنفاذ القانون الأوروبية “يوروبول” تحذيرا بشأن الروبوت الذي ينتج نصوصا مطولة خلال ثوان بناء على أسئلة المستخدمين “ChatGPT” ، وغيره من أدوات الذكاء الاصطناعي القادرة على إنتاج النصوص فورا. ماذا قالت اليوربول؟

وتقول وكالة إنفاذ القانون الأوروبية “يوروبول” إن منصة “ChatGPT” يمكن أن تستخدم للاحتيال وغيرها من الجرائم الإلكترونية، وفق ما أورد موقع “euractiv” المتخصص في أخبار الاتحاد الأوروبي.
وتضيف “يوروبول” أن هذه المنصة ستشكل تحديا أمنية بالنسبة إلى سلطات إنفاذ القانون، حيث يمكن لـ”الجهات الخبيثة استغلالها”.
وتوضح أن المجرمين عادة ما يسارعون إلى استغلال التقنيات الجديدة، وشوهدوا وهم يستغلونها استغلالها خبيثا.
وتشرح أن هذا الأمر حدث مرارا مع “ChatGPT”، وقالت إنها رصدت استخدما خبيثا لهذه المنصة بعد أسابيع من إطلاقها في أواخر تشرين الثاني 2022.
وتشير الوكالة الأوروبية إلى أن القواعد المعتدلة التي تحكم “ChatGPT”، يمكن التحايل عليها عبر ما يعرف بـ” الهندسة الفورية”، التي تقوم على تزويد الذكاء الاصطناعي بمدخلات دقيقة بغية الحصول على نتائج محددة.

وتقول إن الاستخدام الإجرامي لهذه المنصة يشمل تسريع عملية البحث بالنسبة لـ”الجهات الخبيثة”، بدون أن يكون لدى هذه الجهات أي معرفة مسبقة بمناطق الجرائم المحتملة مثل اقتحام المنازل والإرهاب والجرائم الإلكترونية والاعتداء الجنسي على الأطفال.
وأضافت أن المنصة يمكن أن تعطي خطوات محددة بناء على أسئلة سياقية، بما يسهّل على المجرمين فهم الجرائم وتنفيذ العديد منها بسرعة.
وتشدد الوكالة على أن التصعيد الاحتيالي هو أحد تطبيقات المنصة الجديدة، علما بأنها قادرة على إنتاج نصوص جديدة أكثر احترافا من الأساليب السابقة في هذا المجال التي كانت تعرف بسرعة بسبب الأخطاء اللغوية فيها.