دیپ فیك بس است!
تعمیرکار: شرکت ˮفیسبوکˮ سیستم جدیدی برای تشخیص فناوری ˮدیپ فیکˮ(Deepfake) یا همان ˮجعل عمیقˮ ساخته است تا با بهره گیری از یک روش مهندسی معکوس بتواند استفاده از این فنآوری را در تصاویر مختلف تشخیص دهد.
به گزارش تعمیرکار به نقل از ایسنا و به نقل از آی ای، در حالی که ممکنست ما عادت کرده باشیم از فناوری موسوم به "جعل عمیق" برای طیف وسیعی از کارهای نسبتاً بی ضرر استفاده شود، اما از این فنآوری می توان برای ایجاد محتوای مخرب نیز مانند انداختن صورت شخص دیگری در یک صحنه ناشایست یا لطمه رساندن به حرفه یک سیاست مدار بهره برد.
تصاویری که مورد دستکاری "جعل عمیق" قرار می گیرند در حقیقت فیلم ها یا تصاویر تغییر یافته دیجیتالی از چهره یک یا چند شخص با بهره گیری از هوش مصنوعی است که می تواند کاملاً واقعی به نظر برسد. این تصاویر به قدری می توانند مخرب باشند که سال قبل ایالت کالیفرنیا استفاده از این فنآوری را در زمینه سیاست و پورنوگرافی ممنوع کرد.
ما به آسانی با این فناوری فریب می خوریم و آنچه را که در تصاویر می بینیم، باور می نماییم و این فناوری نیز هر روز درحال بهبود یافتن است.
پژوهشگران شرکت "فیسبوک" و دانشگاه "میشیگان" برای مقابله با دست به دست شدن و انتشار ویروسی چنین تصاویر تغییر یافته ای، روش جدیدی را برای شناسایی "جعل عمیق" به وجود آورده اند که می تواند دریابد که از کدام مدل تولیدی برای ایجاد آنها استفاده شده است.
این تیم امیدوار است که این روش، ابزاری جهت بررسی بهتر انتشار اطلاعات غلط با بهره گیری از "جعل عمیق" بوده و همین طور راهی برای گشودن مسیرهای جدید برای تحقیقات آینده در اختیار پژوهشگران قرار دهد.
سیستم های تشخیص "جعل عمیق" از قبل نیز به وجود آمده بودند، اما به سبب این که این سیستم ها به طور معمول برای شناسایی مدلهای تولیدی خاص آموزش می بینند، بمحض این که مدل دیگری (مدلی که سیستم برای آن آموزش ندیده است) ظاهر می شود، سیستم نمی تواند بفهمد که این "جعل عمیق" از کجا آمده است.
اما سیستم جدید فیس بوک چگونه کار می کند؟ تیم سازنده تصمیم گرفت یک گام به جلو حرکت نماید و سیستم را فراتر از مجموعه محدود مدلهای ارائه شده آموزش دهد و با روش مهندسی معکوس آنرا قادر سازد تا هر نوع "جعل عمیق" را شناسایی کند.
"هاسنر" از فیس بوک اظهار داشت: روش مهندسی معکوس ما متکی به کشف الگوهای منحصر به فرد پشت مدل هوش مصنوعی است که برای تولید یک تصویر "جعل عمیق" استفاده می شود.
تیم سازنده می گوید" ما با تجزیه مدل می توانیم خصوصیات مدلهای مولد مورد استفاده برای ایجاد هر "جعل عمیق" را تخمین بزنیم و حتی چندین "جعل عمیق" را به مدلی که احتمالاً آنها را ساخته است، مرتبط نماییم. این سیستم اطلاعات مربوط به هر "جعل عمیق" را حتی آن مدل هایی که اطلاعات قبلی درباره آنها وجود نداشته است، ارائه می دهد.
این تیم سیستم خودرا با بهره گیری از یک مجموعه داده تصویری "جعل عمیق" متشکل از 100 هزار تصویر مصنوعی که از 100 مدل مختلف مولد در دسترس عموم تولید شده است، آموزش داد و نتایج بطور قابل توجهی بهتر از مدلهای تشخیصی قبلی بود.
این نوع از سیستم تشخیص "جعل عمیق" به ویژه برای سازمان های دولتی، پلیس و رسانه های اجتماعی که به شدت تلاش می کنند این اطلاعات جعلی منتشر نشود، می تواند مفید باشد.
تا حالا هیچ تاریخی در مورد زمان اجرا و در دسترس عموم قرار گرفتن این سیستم به اشتراک گذاشته نشده است، اما پژوهشگران درحال کار بر روی چنین روش هایی هستند.
منبع: تعمیركار
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب