جمعه ۲۸ خرداد ۱۴۰۰
جمعه ۲۴ بهمن ۱۳۹۹ 334 0 1

هنوز می‌توان فناوری دیپ‌فیک را نیز فریب داد!

آشکارسازهای «دیپ‌فیک» هم گول می‌خورند

دانشمندان با آزمایش پیشرفته‌ترین آشکارسازهای فناوری دیپ‌فیک (deepfake) به معنای «جعل عمیق» ثابت کردند که می‌توان آنها را نیز فریب داد.
 
دانشگاه‌ها، سازمان‌ها و غول‌های فناوری مانند مایکروسافت و فیسبوک با کار بر روی ابزارهایی که بتوانند جعل عمیق را تشخیص دهند، در تلاش هستند تا از استفاده از آن برای گسترش اخبار مخرب و اطلاعات غلط جلوگیری کنند.
 
اکنون گروهی از دانشمندان علوم رایانه از دانشگاه «سن دیگو» هشدار داده‌اند که آشکارسازهای جعل عمیق هنوز هم با وجود این ابزارها قابل فریب دادن هستند.
 
این تیم در کنفرانس بینش رایانه‌ای WACV 2021 که به صورت آنلاین برگزار شد، با درج ورودی‌هایی در هر فریم ویدیویی نشان داد که چگونه می‌توان ابزارهای شناسایی جعل عمیق را فریب داد.
 
دانشمندان در اطلاعیه خود توضیح دادند که این ورودی‌ها تصاویر دستکاری شده‌ای هستند که می‌توانند باعث اشتباه سیستم‌های هوش مصنوعی شوند. اغلب آشکارسازها با ردیابی چهره در فیلم‌ها و ارسال داده‌های برشی از چهره به یک شبکه عصبی کار می‌کنند. فیلم‌های جعل عمیق قانع کننده هستند، زیرا با یک کپی از چهره یک شخص واقعی دستکاری شده‌اند، اما سیستم ردیاب یا آشکارساز می‌تواند با مشاهده عناصری مانند پلک زدن که در نسخه جعل عمیق واقعی به نظر نمی‌رسند، صحت ویدیو را تشخیص دهد.
 
اما دانشمندان دریافتند که با اعمال ورودی‌هایی از چهره و قرار دادن آنها در هر فریم از فیلم می‌توان حتی پیشرفته‌ترین آشکارسازهای جعل عمیق را نیز فریب داد. به علاوه، روشی که آنها ابداع کردند، حتی برای فیلم‌های فشرده نیز کارایی دارد.
 
بنابراین توسعه دهندگان چگونه می‌توانند آشکارسازهایی ایجاد کنند که قابل فریب دادن نباشند؟ دانشمندان توصیه می‌کنند از "آموزش متخاصم" استفاده شود. در این حالت یک نمونه جعلی تطبیقی ​​مرتباً نسخه جعلی ایجاد می‌کند که می‌تواند آشکارساز را آموزش دهد تا آشکارساز بتواند در تشخیص تصاویر غیر معتبر پیشرفت کند.
 
محققان در مقاله خود نوشتند: برای استفاده از این آشکارسازهای کاربردی جعل عمیق، ما استدلال می‌کنیم که ارزیابی سیستم در برابر یک دشمن تطبیقی ​​که از همه چیز آگاه است و قصد دارد این دفاع‌ها را خنثی کند، ضروری است.

آی هوش: گنجینه دانستنی ها و معماهای هوش و ریاضی

نظراتی که درج می شود، صرفا نظرات شخصی افراد است و لزوماً منعکس کننده دیدگاه های آی هوش نمی باشد.
آی هوش: مرجع مفاهیم هوش و ریاضی و انواع تست هوش، معمای ریاضی و معمای شطرنج
 
در زمینه‌ی انتشار نظرات مخاطبان، رعایت برخی موارد ضروری است:
 
-- لطفاً نظرات خود را با حروف فارسی تایپ کنید.
-- آی هوش مجاز به ویرایش ادبی نظرات مخاطبان است.
-- آی هوش از انتشار نظراتی که در آنها رعایت ادب نشده باشد معذور است.
-- نظرات پس از تأیید مدیر بخش مربوطه منتشر می‌شود.
 
 
 
 

نظر شما

پرطرفدارترین خبرهای امروز

دکتر فریده فیروزبخت، ریاضیدان ایرانی درگذشت
تشخیص هوش افراد از روی چهره
کانال رسمی آی هوش در تلگرام
حتی فیزیکدانان هم از ریاضی فراری‌اند!
برگزاری مراسم خصوصی خاکسپاری پروفسور «میرزاخانی» در امریکا
خانه ریاضیات انزلی نشان شایستگی طرح ترویج ریاضیات کشور را دریافت کرد
بزرگداشت خیام با حضور استادان ادبیات
ملکه ریاضیات جهان از میان ما رفت...
گزارشی تصویری از مراسم یادبود مریم میرزاخانی در اصفهان