وبلاگ آفتاب

آشكارسازهای دیپ فیك هم گول می خورند

آشكارسازهای دیپ فیك هم گول می خورند

دانشمندان با آزمایش پیشرفته ترین آشکارسازهای فناوری ˮدیپ فیکˮ(deepfake) به مفهوم ˮجعل عمیقˮ ثابت کردند که می توان آنها را نیز فریب داد.


به گزارش وبلاگ آفتاب به نقل از ایسنا و به نقل از انگجت، دانشگاه ها، سازمان ها و غول های فناوری مانند مایکروسافت و فیس بوک با کار بر روی ابزارهایی که بتوانند "جعل عمیق" را تشخیص دهند، در تلاش هستند تا از استفاده از آن برای بسط اخبار مخرب و اطلاعات غلط جلوگیری نمایند.
حالا گروهی از دانشمندان علوم کامپیوتر از دانشگاه "سن دیگو" هشدار داده اند که آشکارسازهای "جعل عمیق" هنوز هم با توجه به این ابزارها قابل فریب دادن هستند.
این تیم در کنفرانس بینش کامپیوتری "WACV 2021" که به صورت آنلاین برگزار شد، با درج ورودی هایی در هر فریم ویدیویی نشان داد که چگونه می توان ابزارهای شناسایی "جعل عمیق" را فریب داد.
دانشمندان در اطلاعیه خود توضیح دادند که این ورودی ها تصاویر دستکاری شده ای هستند که می توانند موجب اشتباه سیستم های هوش مصنوعی شوند. اغلب آشکارسازها با ردیابی چهره در فیلم ها و ارسال داده های برشی از چهره به یک شبکه عصبی کار می کنند. فیلم های جعل عمیق قانع کننده هستند، برای اینکه با یک کپی از چهره یک شخص واقعی دستکاری شده اند، اما سیستم ردیاب یا آشکارساز می تواند با مشاهده عناصری مانند پلک زدن که در نسخه جعل عمیق واقعی به نظر نمی رسند، صحت ویدیو را تشخیص دهد.
اما دانشمندان دریافتند که با اعمال ورودی هایی از چهره و قرار دادن آنها در هر فریم از فیلم می توان حتی پیشرفته ترین آشکارسازهای جعل عمیق را نیز فریب داد. بعلاوه، روشی که آنها ابداع کردند، حتی برای فیلم های فشرده نیز کارایی دارد.
بدین سبب توسعه دهندگان چگونه می توانند آشکارسازهایی ایجاد کنند که قابل فریب دادن نباشند؟ دانشمندان سفارش می کنند از "آموزش متخاصم" استفاده گردد. در این حالت یک نمونه جعلی تطبیقی ​​مرتباً نسخه جعلی به وجود می آورد که می تواند آشکارساز را آموزش دهد تا آشکارساز بتواند در تشخیص تصاویر غیر معتبر پیشرفت کند.
پژوهشگران در مقاله خود نوشتند: جهت استفاده از این آشکارسازهای کاربردی جعل عمیق، ما استدلال می نماییم که ارزیابی سیستم در مقابل یک دشمن تطبیقی ​​که از همه چیز آگاه است و می خواهد این دفاع ها را خنثی کند، لازم است.



1399/11/24
18:24:00
5.0 / 5
380
این مطلب را می پسندید؟
(1)
(0)

تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب
لطفا شما هم نظر دهید
= ۲ بعلاوه ۵
Aftablog

aftablog.ir - مالکیت معنوی سایت وبلاگ آفتاب متعلق به مالکین آن می باشد