لوتان: الأصوات المزيفة عن طريق الذكاء الاصطناعي قد تتسبب في أضرار جسيمة
نشر: بتاريخ 2023/04/17المشاهدات:
106 مشاهدة
بعد النصوص والصور المزيفة التي تنشئها تطبيقات الذكاء الاصطناعي ها هي الأصوات المزيفة التي تتطابق مع أصوات المشاهير أو حتى أصوات أشخاص عاديين تنتشر كالنار في الهشيم، وأظهرت أمثلة منها قوة هذه الخوارزميات وانتشارها بسرعة مذهلة، فمرحبا بكم في عصر التزييف.
بهذه المقدمة بدأت صحيفة “لوتان” (Le Temps) السويسرية تقريرا بقلم أنوش سيدتقيه انطلق فيه من مثال حدث هذا الأسبوع، حيث اعتقدت إحدى الأمهات في ولاية أريزونا أن ابنتها قد اختطفت، إذ تلقت جينيفر ديستيفانو مكالمة من ابنتها البالغة من العمر 15 عاما -التي كان من المفترض أنها خرجت للتزلج- وسمعتها تقول “أمي فعلت شيئا غبيا”، وقاطعها رجل يقول “أرجعي رأسك للوراء، استلقي”، ثم تحدث إلى الأم قائلا “اسمعيني، لدي ابنتك، هذا ما سيحدث، اتصلي بالشرطة أو بأي شخص، سوف أحشوها بالمخدرات وأفعل بها ما أريد وأتركها في المكسيك”.
بضع ثوان كافية
طلب الخاطف المزعوم -حسب القصة التي روتها شبكة “إن بي سي” (NBC)- فدية قدرها مليون دولار من الأم، ثم خفضها إلى 50 ألف دولار ليكون الطلب أكثر مصداقية.
وسمعت جينيفر ديستيفانو في خلفية المحادثة ابنتها تقول “ساعديني يا أمي، الرجاء مساعدتي، ساعديني”، وكان ذلك صوتها تماما، وكانت هذه هي الطريقة التي تبكي بها، كما قالت الأم للشبكة “لم أشك ولو للحظة واحدة في أنها هي”، وبعد دقائق اكتشفت الأم أن ابنتها بخير وبصحة جيدة وأن هذه عملية احتيال.
ورجح الكاتب أن الخاطفين المزيفين استخدموا نظام استنساخ الصوت، خاصة أن هذه الخدمات المتطورة بشكل متزايد لم تعد بحاجة إلى التدريب لساعات أو حتى دقائق على أصوات ضحاياها، بل تكفي بضع ثوانٍ لاستنساخ الصوت الذي يضيف إليه البرنامج عاطفة أو انكسارات أو توقفات أو حتى تنهدات.
واستعرض الكاتب أمثلة لعينات من أصوات تم إنشاؤها بواسطة نظام الذكاء الاصطناعي، حيث نجح صحفي في تجربة لخداع بنك لويدز الذي يجري المصادقة عن طريق تحليل الصوت، كما استطاع صحفي آخر أن يربك أفراد عائلته بتسجيلات من النوع نفسه فلم يميزوا بينها وبين صوته الحقيقي، كما قام مستخدمو برامج الذكاء الاصطناعي بجعل الممثلة إيما واتسون تقرأ كتاب “كفاحي” لأدولف هتلر.
وختم الكاتب بنصيحة لمن يريد حماية نفسه من استنساخ الصوت بعدم أو قلة مشاركة مقتطفات من صوته أو مقاطع فيديو يتحدث فيها أو حصرها داخل دائرة صغيرة جدا، إضافة إلى توخي الحذر من الطلبات العاجلة كما فعلت الأم في القصة السابقة.