دبي – العربية.نت
بقدر ما للذكاء الاصطناعي من فوائد عديدة إلا أن له مخاطر كبيرة في نفس الوقت يجب الحذر منها.
فقد أظهرت دراسة حديثة أن واجهة برمجة التطبيقات الصوتية لمساعد ChatGPT-4o من OpenAI قد يستغلها مجرمو الإنترنت لتنفيذ عمليات احتيال مالي، لافتة إلى أن معدلات نجاح هذه العمليات تتراوح بين منخفضة ومتوسطة، وفق البوابة العربية للأخبار التقنية.
ويعد ChatGPT-4o أحدث نموذج ذكاء اصطناعي من OpenAI، ويتميز بقدرته على استيعاب النصوص والأصوات والمرئيات وإخراجها. للحد من إساءة الاستخدام، أدمجت OpenAI آليات أمان عدة تهدف إلى اكتشاف المحتوى الضار، ومنع تكرار الأصوات غير المُصرّح بها.
غير أنه مع ازدياد انتشار تقنيات التزييف الصوتي العميق وأدوات تحويل النص إلى صوت، تتفاقم مشكلة الاحتيال الصوتي التي تقدر خسائرها بالملايين.
تفتقر إلى آليات حماية كافية
ونشر باحثون من جامعة إلينوي ورقة بحثية تبين أن الأدوات التقنية الحديثة المتاحة للجمهور تفتقر إلى آليات حماية كافية من إساءة استخدامها في عمليات الاحتيال.
كما استعرضت الدراسة أنواعاً متعددة من عمليات الاحتيال، منها التحويلات المصرفية وسرقة بطاقات الهدايا وتحويل العملات الرقمية وسرقة بيانات حسابات التواصل الاجتماعي والبريد الإلكتروني.
أدوات مبرمجة تعتمد على الصوت
وتستخدم هذه العمليات الاحتيالية أدوات مبرمجة تعتمد على الصوت في ChatGPT-4o للتنقل بين صفحات الويب، وإدخال البيانات، وإدارة الأكواد الخاصة بالمصادقة الثنائية، واتباع إرشادات الاحتيال. ويرفض نموذج GPT-4o غالباً التعامل مع بيانات حساسة، إلا أن الباحثين استطاعوا تجاوز بعض القيود باستخدام تقنيات بسيطة لتحفيز النموذج على الاستجابة.
ولإثبات فاعلية عمليات الاحتيال، حاكى الباحثون أدوار الضحايا في التجارب، واستخدموا مواقع مثل “بنك أميركا” للتحقق من نجاح عمليات التحويل المصرفي، لكنهم لم يقيسوا مدى قدرة النموذج على الإقناع.
26 خطوة متتالية
فيما أظهرت التجارب أن معدلات النجاح تراوحت بين 20% و 60%، مع احتياج كل محاولة لما يصل إلى 26 خطوة متتالية عبر المتصفح، وقد استغرقت نحو 3 دقائق في الحالات المعقدة. كما نجحت عمليات سرقة بيانات حسابات Gmail بنسبة قدرها 60%، في حين بلغت نسبة نجاح عمليات تحويل العملات الرقمية وسرقة بيانات إنستغرام 40%.
أما من ناحية التكاليف، فإن تكلفة تنفيذ عمليات الاحتيال تعد منخفضة، إذ بلغت تكلفة كل عملية ناجحة نحو 75 سنتاً أميركياً، فيما بلغت تكلفة عمليات التحويل المصرفي الأكثر تعقيداً نحو 2.51 دولار فقط.
وفي تعليق لـOpenAI نشره موقع BleepingComputer التقني، أشارت الشركة إلى أن نموذجها الأحدث “o1-preview” يتمتع بقدرات عالية في مقاومة محاولات الاحتيال، وتحسين الأمان مقارنة بالنماذج السابقة، فضلاً عن تحقيقه تقييما عاليا في اختبارات الأمان بنسبة قدرها 93%، مقارنة بـ71% في نموذج GPT-4o.
كما أوضحت أن الأبحاث الأكاديمية، مثل تلك التي قدمتها جامعة إلينوي، تسهم في تحسين ChatGPT لمواجهة الاستخدامات الضارة. فيما ختمت مؤكدة التزامها بتعزيز آليات الأمان في نماذجها القادمة، وتقيّد توليد الأصوات في GPT-4o بمجموعة من الأصوات المصرح بها لتجنب عمليات التزييف الصوتي.
بالتعاون مع مطور ChatGPT.. أبل تدمج الذكاء الاصطناعي بأجهزتها
أعلنت شركة “أبل”، الاثنين، في كوبرتينو بولاية كاليفورنيا الأميركية نظامها الجديد المرتقب جداً “أبل إنتيليجنس” Apple Intelligence الهادف إلى تحسين استخدام مختلف أجهزتها من “آيفون” إلى “ماك” بفضل الذكاء الاصطناعي التوليدي.
ويرتكز “أبل إنتيليجنس” على أداة المساعدة “سيري” Siri، التي خضعت لتحديث جذري يُتوقع أن يتيح لها تعويض تأخّرها عن المنتجات التي أطلقتها في الآونة الأخيرة شركتا “أوبن إيه آي” و”مايكروسوفت”.
وأقامت “أبل” لهذا الغرض شراكة مع “أوبن إيه آي” التي دشّنت في نوفمبر 2022 حقبة جديدة في مجال الذكاء الاصطناعي التوليدي من خلال طرحها “تشات جي بي تي”.
وكتب الرئيس التنفيذي لشركة “أوبن إيه آي” سام ألتمان في منشور على منصة “إكس”: “نحن متحمسون جداً للتعاون مع أبل لإدراج تشات جي بي تي في أجهزتها في وقت لاحق من هذه السنة!”. وأضاف “أعتقد أنكم ستحبون ذلك حقاً”.
وسيتوافر “أبل إنتيليجنس” في الإصدار الجديد من نظام التشغيل “آي أو إس 18” الذي أُعلِن عنه أيضاً الاثنين خلال مؤتمر المطورين الذي يستمر طوال الأسبوع.
وقال الرئيس التنفيذي لشركة “أبل” تيم كوك، خلال عرض تقديمي نُقِل عبر الإنترنت: “نعتقد أن أبل إنتيليجنس سيصير عنصراً لا غنى عنه للمنتجات التي لها أصلاً دور أساسي في حياتنا”.
ويهدف “أبل إنتيليجنس” إلى أن يكون وظيفة تساعد في تحسين استخدام الأجهزة وتطبيقاتها وتبسيطها.
ومن أبرز ما سيتيحه النظام الجديد للمستخدم إنشاء الرموز التعبيرية الخاصة به بناءً على وصف باللغة اليومية أو إنشاء ملخصات للرسائل في صندوق البريد الإلكتروني.
ويستطيع المستخدم تقديم طلبات إلى “سيري” كتابياً أو شفهياً. وأبرزت “أبل” قدرة واجهة الذكاء الاصطناعي التوليدي الخاصة بها على اتخاذ القرارات واختيار العناصر المناسبة بناءً على الخصائص الخاصة بمستخدم كل جهاز “آيفون” أو “آي باد”.