پیشرفت ابزارهای هوش مصنوعی در نگاه اول ترسناک به نظر می رسد. این ابزارها در زمینه هایی مانند نوشتن متن یا کد کاربرد فراوانی دارند اما در عین حال قابلیت های آنها باعث نگرانی کاربران شده است. در آخرین نمونه هوش مصنوعی موفق به شبیه سازی صدای انسان شده است.
جوزف کاکسروزنامه نگار مجله Vice می گوید که توانسته از طریق صدای شبیه سازی شده خود به حساب بانکی خود وارد شود. این موضوع نه تنها پتانسیل ترسناک هوش مصنوعی را نشان می دهد، بلکه کاستی های سیستم های بیومتریک مبتنی بر صدا را نیز برجسته می کند.
کاکس می گوید که با خط تلفن لویدز بانک بریتانیا تماس گرفته است. این خط تلفن توسط سیستم های خودکار مدیریت می شود. کاکس از سیستم خودکار خواست تا میزان پول باقی مانده در حساب را اعلام کند. او برای ثبت درخواست از صدای خود شبیه سازی شده توسط هوش مصنوعی استفاده کرد.
سیستم خودکار بانک لویدز از جف کاکس تاریخ تولدش را خواست. کاکس تاریخ تولد خود را اعلام کرد و سپس با درخواست سیستم خودکار، هوش مصنوعی گفت: “صدای من رمز عبور من است.”
کاکس در توییتر نوشت: «باورم نمی شد. این روش جواب داده بود.”
به گفته Futurism، هیچ تضمینی وجود ندارد که هکرها در آینده با استفاده از هوش مصنوعی سعی نکنند به حساب های بانکی نفوذ کنند. جوزف کاکس از ابزار محبوب و ارزان ElevenLabs برای ورود به حساب بانکی خود استفاده کرد. کاربران قبلاً از این ابزار برای دیپ‌فیک کردن ویدیوها استفاده می‌کردند جو بایدن ساخته بود
برای استفاده از این ابزار کافی است نمونه صدای شخصی که می خواهید صدای او را شبیه سازی کنید را وارد ابزار کنید. نیازی به دانش تخصصی در زمینه هوش مصنوعی نیست. در مرحله بعد با تایپ جملات، هوش مصنوعی آن جمله را با صدای مورد نظر شما می خواند.
جوزف کاکس می گوید که او سعی کرده از طریق ابزارهای دیگر وارد سیستم بانک لویدز شود، اما هیچ یک از آنها به جز سرویس ElevenLabs نتوانستند این کار را انجام دهند. تعدادی از بانک های مهم جهان مانند چیس، ولز فارگو و بانک تی دی از سیستم احراز هویت مبتنی بر صدا استفاده می کنند.
بانک لویدز بریتانیا ادعا می کند که Voice ID برای دسترسی به حساب امن است و بیش از 100 ویژگی مختلف را در صدا تجزیه و تحلیل می کند.