أظهر علماء من لندن مدى صعوبة التعرف على الكلام الاصطناعي.
التزييف العميق عبارة عن وسائط تركيبية تحاكي صوت أو مظهر شخص حقيقي. يمكن استخدامها للتلاعب والخداع وهي واحدة من التهديدات الرئيسية المرتبطة بتطوير الذكاء الاصطناعي.
اختبر علماء من لندن مدى قدرة الناس على التعرف على التزييف العميق. طلبوا من 529 شخصًا الاستماع إلى تسجيلات صوتية حقيقية ومزيفة باللغتين الإنجليزية والصينية ، تم إنشاؤها باستخدام خوارزمية تركيب الكلام (TTS). أنتج الباحثون 50 عينة كلام مزيف عميق في كل لغة لا تتطابق مع العينات المستخدمة لتدريب الخوارزمية. كان على المستمعين تحديد أيها اصطناعي.
أظهرت النتائج أن الأشخاص حددوا المنتجات المقلدة بشكل صحيح بنسبة 73٪ فقط من الوقت ، ولم يكن للغة أي تأثير على الدقة. حتى بعد إعطاء المستمعين أمثلة على التزييف العميق لزيادة الوعي ، لم يتحسن أداءهم كثيرًا.
خلص العلماء إلى أن الأشخاص لا يمكنهم تحديد الكلام المزيف بشكل موثوق ، حتى لو تلقوا تدريبًا لمساعدتهم على التمييز بين المحتوى الاصطناعي والمحتوى الحقيقي.
لاحظ الباحثون أيضًا أن التزييف العميق سيصبح أكثر واقعية ويصعب التعرف عليه مع تطور خوارزميات تخليق الكلام. على سبيل المثال ، إذا أخذنا في وقت سابق آلاف العينات من صوت الشخص لإنشاء مزيف عميق ، يكفي الآن جزء من ثلاث ثوانٍ فقط من خطابه.
تبرز صعوبة اكتشاف الكلام المزيف العميق احتمال إساءة استخدامه وتشير إلى الحاجة إلى تطوير تدابير وقائية.
كتب أحد كبار الباحثين في Citizen Lab بجامعة تورنتو ، أن الاتجاهات الحالية لها أهمية قصوى في عمليات التصيد والخداع.
وأشار إلى أن المزيفين الجيدين والمحتالين المبدعين يمكنهم توحيد جهودهم والتكيف بسرعة مع الموقف. يعتقد الباحث أن عمليات الاحتيال عبر الهاتف والتصيد الاحتيالي تستند إلى حلقات ملاحظات قصيرة للغاية ، حيث يتعلم المشغلون على الفور من أخطائهم ونجاحاتهم.
0 تعليقات