دیپ فیک - همچنین به عنوان رسانه مصنوعی شناخته می شود - می تواند برای چیزی بیشتر از جعل هویت افراد مشهور و باورپذیرتر کردن اطلاعات نادرست استفاده شود. همچنین می توان از آنها برای کلاهبرداری مالی استفاده کرد.
کلاهبرداران می توانند از فناوری دیپ فیک برای فریب کارمندان موسسات مالی برای تغییر شماره حساب و شروع درخواست های انتقال پول ساتیش لالچند، مدیر شرکت Deloitte Transaction and Business Analytics می گوید برای مبالغ قابل توجهی. او خاطرنشان می کند که معکوس کردن این تراکنش ها اگر غیرممکن نباشد، اغلب دشوار است.
مجرمان سایبری به طور مداوم تکنیکهای جدیدی را برای فرار از فرآیندهای راستیآزمایی مشتری و کنترلهای کشف تقلب به کار میگیرند. در پاسخ، بسیاری از کسبوکارها در حال بررسی روشهایی هستند که یادگیری ماشین (ML) میتواند تراکنشهای جعلی شامل رسانههای مصنوعی، کلاهبرداری هویت مصنوعی، یا سایر رفتارهای مشکوک را شناسایی کند. با این حال، تیم های امنیتی باید به محدودیت های استفاده از ML برای شناسایی تقلب در مقیاس توجه داشته باشند.
یافتن تقلب در مقیاس
لالچند میگوید که کلاهبرداری در بخش خدمات مالی طی دو سال گذشته به این دلیل است که بسیاری از تراکنشها در نتیجه همهگیری کووید-19 به کانالهای دیجیتال منتقل شدند. او سه عامل خطر را که منجر به پذیرش فناوری های ML برای تأیید مشتری و کسب و کار می شود، ذکر می کند: مشتریان، کارمندان و کلاهبرداران.
اگرچه کارمندان شرکتهای خدمات مالی معمولاً از طریق دوربینها و چتهای دیجیتال در دفتر نظارت میشوند، کارگران از راه دور لالچند می گوید که آنقدر تحت نظر نیستند. با ثبت نام مشتریان بیشتر برای خدمات مالی به صورت مجازی، شرکت های خدمات مالی به طور فزاینده ای ML را در فرآیندهای تأیید و احراز هویت مشتری خود وارد می کنند تا این پنجره را برای کارمندان و مشتریان ببندند. لالچند می گوید ML همچنین می تواند برای شناسایی برنامه های تقلبی برای کمک های دولتی یا کلاهبرداری هویت استفاده شود.
علاوه بر تشخیص تقلبی وام های برنامه محافظت از چکگری شیفمن، یکی از بنیانگذاران Consilient، یک شرکت فناوری اطلاعات متخصص در پیشگیری از جرایم مالی، میگوید، مدلهای ML را میتوان برای تشخیص الگوهای تراکنشهایی که میتوانند نشانهای از قاچاق انسان یا سوء استفاده از سالمندان باشند، آموزش دید.
موسسات مالی در حال حاضر شاهد ظهور کلاهبرداری در چندین محصول هستند، اما آنها تمایل به جستجوی معاملات تقلبی در سیلوها دارند. شیفمن میگوید هوش مصنوعی و فناوری ML میتوانند به گردآوری سیگنالهای تقلب از مناطق مختلف کمک کنند.
“Institutions continue to do the whack-a-mole, and continue to try and identify where fraud was increasing, but it was just happening from all over the place,” Lalchand says. “The fusion of information … is called CyFi, bringing cyber and financial data together.”
خوزه کالدرا، مدیر تولید محصولات جهانی برای Acuant در GBG میگوید ابزارهای ML میتوانند به شناسایی مثبت مشتریان، شناسایی تقلب در هویت و تشخیص احتمال خطر کمک کنند. او میگوید ML میتواند رفتار گذشته و سیگنالهای خطر را بررسی کند و آن درسها را در آینده اعمال کند.
محدودیت های یادگیری ماشینی
Caldera میگوید اگرچه مدلهای ML میتوانند نقاط داده را برای تشخیص تقلب در مقیاس تجزیه و تحلیل کنند، اما همیشه مثبتها و منفیهای کاذب وجود خواهد داشت و مدلها به مرور زمان کاهش مییابند. او میگوید، بنابراین، تیمهای امنیت سایبری که الگوریتم را برای شناسایی تقلب آموزش میدهند، باید مدلهای خود را بهروزرسانی کنند و یافتههای آن را به طور منظم نظارت کنند، نه فقط هر شش ماه یا هر سال.
“You have to make sure that you understand that the process is not a one-time [task]. And … you need to have the proper staffing that would allow you to maintain that process over time,” Caldera says. “You’re always going to get more information, and … you need to be able to use it constantly on improving your models and improving your systems.”
For IT and cybersecurity teams evaluating the effectiveness of ML algorithms, Shiffman says they will need to establish ground truth — the correct or “true” answer to a query or problem. To do so, teams using ML technologies try out a model using a test data set, using an answer key to count its false negatives, false positives, true positives, and true negatives, he says. Once these errors and correct answers are accounted for, companies can recalibrate their ML models to identify fraudulent activity in the future, he explains.
تیمهای فناوری اطلاعات و امنیت سایبری که از فناوری ML استفاده میکنند، علاوه بر بهروزرسانی الگوریتمهای خود برای کشف تقلب، باید از محدودیتهای قانونی نیز آگاه باشند. به اشتراک گذاری داده ها با سایر نهادها, even to identify fraud, Shiffman says. If you’re handling data from another country, you may not be legally able to transfer it to the US, he says.
برای تیم هایی که به دنبال استفاده از فناوری ML برای کشف تقلب هستند، Caldera هشدار می دهد که چنین ابزارهایی تنها یکی از اجزای استراتژی پیشگیری از تقلب هستند و هیچ راه حل واحدی برای حل این مشکل وجود ندارد. پس از ورود به مشتریان جدید، متخصصان امنیت سایبری و فناوری اطلاعات باید از نحوه تغییر رفتار خود در طول زمان مطلع باشند.
“The use or not of technology or machine learning is just one component of your toolset,” Caldera says. “You as a business, you have to understand: What is the cost that you are putting to this, what is the risk tolerance that you have, and then what is the customer position that you want?”