في ظل التقدم التكنولوجي المستمر، تزداد المخاوف المتعلقة بالأمان بشكل ملحوظ. وقد اكتشف الباحثون مؤخرًا طريقة جديدة يمكن أن يستغلها المحتالون في إساءة استخدام واجهة برمجة التطبيقات الصوتية لبرنامج “ChatGPT-4o” من “OpenAI” لتنفيذ عمليات احتيال مالية وسرقة هوية. يتميز نموذج “ChatGPT-4o” بخصائص مبتكرة تشمل التفاعل عبر النص والصوت والرؤية، مما يوفر مزايا متعددة وأيضًا بعض المخاطر.
وقد عملت “OpenAI” على دمج العديد من إجراءات الحماية، بهدف اكتشاف ومنع المحتوى الضار، خصوصاً في التفاعلات الصوتية، والتي تتضمن تقنيات لمنع انتحال الهوية عبر تكرار الأصوات غير المصرح بها، كما أشار موقع “digit.in” الذي نقلت عنه “العربية Business”.
ومع ذلك، أظهرت دراسة أجراها باحثون من جامعة “إلينوي في أوربانا-شامبين” (UIUC) أن هذه الحماية قد لا تكون كافية. فقد توصل الباحثون إلى إمكانية تجاوز الدفاعات المدمجة في الذكاء الاصطناعي، من خلال تعديلات بسيطة، مما يسمح بعمليات احتيال تشمل التحويلات البنكية وسرقة بيانات بطاقات الهدايا وحسابات التواصل الاجتماعي مثل Instagram وGmail.
قام الباحثون باختبار نقاط الضعف في أنظمة الذكاء الاصطناعي باستخدام وكلاء ذكية قادرة على تقليد القدرات الصوتية لـ “ChatGPT-4” لتنفيذ عمليات احتيالية، كملء نماذج بنكية، واستخدام رموز المصادقة الثنائية، واتباع خطوات محددة للاحتيال. ونجحت بعض العمليات الاحتيالية مثل سرقة بيانات Gmail بنسبة تصل إلى 60%، بينما بلغت نسبة نجاح عمليات تحويل العملات المشفرة أو سرقة حسابات Instagram نحو 40%. أما تكلفة تنفيذ هذه الاحتيالات فكانت منخفضة؛ حيث بلغت تكلفة التحويلات البنكية حوالي 2.51 دولار، بينما كانت كلفة العمليات الأخرى 0.75 دولار فقط.
ورداً على ذلك، أكدت “OpenAI” أنها تواصل تحسين الأمان عبر أحدث طراز لها “o1-preview”. وقال متحدث باسم الشركة لموقع “Bleeping Computer”: “نحن نعمل باستمرار على تحسين “ChatGPT” لمنع محاولات الاحتيال دون التأثير على فعاليته وإبداعه، ويعد نموذج “o1″ الجديد الأكثر أمانًا حتى الآن، إذ يتفوق بشكل كبير في التصدي للمحاولات المقصودة لإنشاء محتوى غير آمن”. كما أوضحت “OpenAI” أن مثل هذه الدراسات تساعدها في تعزيز حماية “ChatGPT” وتطوير آليات أمان أكثر كفاءة.
