یک زوج 70 ساله کانادایی اخیراً از نوه خود تماس تلفنی دریافت کردند که به آنها گفته بود در زندان است و به وثیقه نیاز دارد. آنها 3000 دلار از حساب بانکی خود برداشت کردند و قصد داشتند همان مقدار پول را از حساب دیگر خود برداشت کنند، اما مدیر بانک هشدار داد که تماس مذکور در واقع کلاهبرداری بوده است. زیرا قبلاً یکی دیگر از مشتریان آنها تماس مشابهی دریافت کرده بود که بعداً مشخص شد تماس جعلی نیز بوده است.
زوج دیگری از یک وکیل تماس گرفت و به آنها اطلاع داد که پسرشان یک دیپلمات آمریکایی را در یک تصادف رانندگی کشته است و اکنون در زندان است و برای هزینه های قانونی به پول نیاز دارد. وکیل حتی پسر این زوج را تلفنی آورد تا به آنها بگوید که آنها را دوست دارد و از آنها برای پولی که می پردازند تشکر کرد.
این زوج گفتند که صدا به قدری شبیه صدای پسرشان بود که آنها معتقد بودند واقعاً با او صحبت کرده اند. آنها 15449 دلار از طریق شبکه بیت کوین برای کلاهبردار ارسال کردند و نتوانستند آن را پس بگیرند.
کلاهبرداری با جعل کردن صدای دیگران موضوع جدیدی نیست. بر اساس داده های کمیسیون تجارت فدرال، از 36000 گزارش کلاهبردارانی که در سال گذشته وانمود کردند که دوستان یا خانواده هستند، بیش از 5100 مورد جعلی بود.
TechSpot می نویسد، روند جعل صدا در گذشته بسیار پیچیده بود و برای این کار باید چندین ساعت از صدای فرد مورد نیاز را جمع آوری می کرد و البته همیشه کیفیت بالایی ارائه نمی کرد. اکنون با ظهور ابزارهای هوش مصنوعی، فرآیند شبیه سازی صدای دیگران بسیار آسان است و کلاهبرداران تنها به یک کلیپ بسیار کوچک از صحبت کردن آنها نیاز دارند که اغلب در حساب های رسانه های اجتماعی افراد موجود است.
ابزار Vall-E مایکروسافت که در ژانویه معرفی شد، بر اساس فناوری دیگری به نام EnCodec است. این ابزار با آنالیز سه ثانیه صدای افراد و استفاده از آن برای آموزش مدل های هوش مصنوعی می تواند صدای آنها را با کیفیت بالا شبیه سازی کند. این فناوری حتی لحن، لحن صدا و احساسات گوینده را تقلید می کند. با مراجعه به صفحه گیت های این پروژه می توانید به قدرت آن در تقلید صدای دیگران پی ببرید.
ElevenLabs همچنین ابزار صوتی مبتنی بر هوش مصنوعی دیگری به نام VoiceLab ارائه کرده است که امکان شبیه سازی صدای افراد را به روشی آسان فراهم می کند. البته سوء استفاده های فراوان از این برنامه باعث شد تا قابلیت شبیه سازی صدا از نسخه رایگان آن حذف شود.