همان‌طور که در سال 2025 پیش می‌رویم، بدیهی است که کلاهبرداری ادامه دارد و کسانی که قصد سوءاستفاده از سیستم‌های شرکتی، دولتی و مالی را دارند، به تلاش‌های خود ادامه خواهند داد. با هر پیشرفت فناوری، کلاهبرداری‌های جدید و شرکت‌های کلاهبرداری پدیدار می‌شوند.
در سال 2023، زیان‌های کلاهبرداری گزارش شده از 10 میلیارد دلار فراتر رفت که نشان دهنده افزایش 14 درصدی نسبت به سال 2022 است. و تنها در سه‌ماهه اول سال 2024، مصرف‌کنندگان گزارش دادند که 20 میلیون دلار به دلیل کلاهبرداری‌های جعل هویت دولتی از دست داده‌اند. این رقم فقط به یک نوع کلاهبرداری در یک سه‌ماهه مربوط می‌شود. با گذشت سال، انتظار می‌رود که تعداد کل کلاهبرداری‌های گزارش شده افزایش یابد.
انواع کلاهبرداری در حال افزایش است
با توجه به پیچیدگی هوش مصنوعی (AI)، هوش مصنوعی مولد (GenAI)، تولید بازیابی تقویت شده (RAG) و سایر ابزارهای مدل زبان بزرگ (LLM)، پیچیدگی در طرح‌های کلاهبرداری در حال افزایش است. چندین زمینه وجود دارد که باید مراقب آنها بود، از جمله:
جعل عمیق اسناد
GenAI اکنون توانایی ایجاد دیپ فیک‌های با کیفیت بالا از اسناد شناسایی را دارد. این دیپ فیک‌ها آن‌قدر قانع کننده هستند که شامل سایه‌ها و سایر نشانگرهای اصالت هستند. در نوامبر ۲۰۲۴، شبکه اجرای جرایم مالی وزارت خزانه‌داری آمریکا (FinCEN) هشداری صادر کرد که به‌طور خاص بررسی اسناد شناسایی را تشویق می‌کرد. این آژانس از افزایش گزارش فعالیت‌های مشکوک توسط مؤسسات مالی، استفاده مشکوک از رسانه‌های دیپ فیک، به‌ویژه استفاده از اسناد هویتی جعلی برای دور زدن روش‌های تأیید و احراز هویت ابراز نگرانی کرد.
سازمان تنظیم مقررات صنعت مالی FINRA خاطرنشان کرد که کلاهبرداران می‌توانند از GenAI برای ایجاد اسناد شناسایی جعلی قانع کننده - مانند گواهینامه رانندگی یا اعتبارنامه‌های حرفه‌ای - استفاده کنند که ممکن است تصاویر تولید شده توسط هوش مصنوعی را نیز در خود جای دهد. بازیگران غیرقانونی می‌توانند از این اسناد برای تأیید هویت برای باز کردن یک حساب جدید به‌طور متقلبانه یا تصاحب یک حساب موجود استفاده کنند. نظرسنجی Ping Identity در سال 2024، نشان داد که 97 درصد از سازمان‌ها در تأیید هویت مشکل دارند.
دیپ فیک از فیلم‌ها
الگوریتم‌های هوش مصنوعی توانایی تغییر یا جایگزینی چهره‌ها در فیلم‌های ویدیویی را دارند. چنین ویدیوهای دستکاری شده‌ای می‌توانند به‌عنوان سوابق تجاری مورد سوءاستفاده قرار گیرند، به‌عنوان اخبار دروغین منتشر شوند، یا در موارد خاص، به‌عنوان مدرک در دادرسی قضایی ارائه شوند. از این ویدیوها همچنین می‌توان برای متقاعد کردن بیشتر قربانیان در مورد مشروعیت کلاهبرداری استفاده کرد. این کلاهبرداری در حال حاضر توسط گروه‌های به‌اصطلاح Yahoo Boys در آفریقا انجام می‌شود.
کلاهبرداری‌های تقویت شده با GenAI
GenAI همچنین می‌تواند در روش‌هایی مورد استفاده قرار گیرد که اعتبار طرح‌های تقلبی را افزایش دهد. این می‌تواند دستور زبان را بهبود بخشد یا به سایر مسائل در ایمیل‌ها و وب‌سایت‌ها بپردازد و آنها را قانع کننده تر کند. علاوه بر این، LLM ها قادر به ایجاد چت بات‌های پیچیده‌ای هستند که باورپذیری این کلاهبرداری‌ها را بیشتر می‌کند.
استفاده از هوش مصنوعی برای جلوگیری از کلاهبرداری
خبرهای خوبی نیز وجود دارد. افراد و سازمان‌ها می‌توانند از طریق افزایش هوشیاری و آگاهی از هوش مصنوعی، به‌طور مؤثر با کلاهبرداری مبارزه کنند.
منطقی فکر کردن
بسیار مهم است که همه طرف‌ها به دنبال نشانه‌هایی از استفاده از هوش مصنوعی باشند، زیرا توجه دقیق به نشانه‌ها و مغایرت‌های ظریف که می‌تواند کاربر را از حقه‌های احتمالی هوش مصنوعی آگاه کند، ضروری است. همچنین، مهم است که به‌جای احساسی، منطقی فکر کنید. اگر تماسی دریافت کردید که درخواست اقدام فوری می‌کند، ضروری است که به‌طور منطقی پاسخ دهید و اطلاعات ارائه شده را تأیید کنید. هرگز اطلاعات شخصی خود را از طریق تلفن یا ایمیل ارائه ندهید.
در واقع، همیشه آگاهانه عمل کنید. قبل از انتقال هرگونه وجه، مطمئن شوید که تراکنش قابل‌ردیابی است و از طریق منابع معتبر مانند بانک‌ها انجام می‌شود و تمام حوادث مشکوک و واقعی کلاهبرداری را به‌سرعت گزارش دهید تا از ردیابی و مستندسازی کامل اطمینان حاصل کنید.
تبدیل هوش مصنوعی به بخشی از تیم
در گزارش و بررسی اخیر تامسون رویترز، 78 درصد از تمام کارکنان خدمات حرفه‌ای معتقدند هوش مصنوعی نیروی مثبت در حرفه آنها است که نشان می‌دهد مردم در مورد هوش مصنوعی مثبت فکر می‌کنند. در واقع، مهم است که هوش مصنوعی را به‌عنوان بخشی از تیم مبارزه با کلاهبرداری سازمان خود ببینید، نه به‌عنوان ابزاری در دست دشمن.
سازمان‌ها همچنین می‌توانند با استفاده از ابزارهای مبتنی بر هوش مصنوعی با تقلب مبارزه کنند و LLM ها و دستیارهای هوش مصنوعی در حوزه پردازش زبان طبیعی RAG نیز می‌توانند دارایی‌های ارزشمندی در تشخیص تقلب باشند. در واقع، LLM ها در پردازش زبان طبیعی برتری دارند و می‌توانند متن موجود در تراکنش‌ها، ایمیل‌ها یا پیام‌ها را برای شناسایی زبان مشکوک، عبارات غیرمعمول یا الگوهایی که ممکن است نشان دهنده قصد کلاهبرداری باشند، تجزیه‌وتحلیل کنند. به‌عنوان‌مثال، LLM ها می‌توانند ناهنجاری‌ها را در گفتار یا نوشتار ردیابی کنند که یک‌طرف را که سعی در باز کردن چندین حساب دارد پیوند می‌دهد. LLM ها همچنین می‌توانند موارد پیچیده کلاهبرداری را با استخراج اطلاعات کلیدی از اسناد مختلف خلاصه کنند که می‌تواند با ارائه یک نمای کلی مختصر از اسناد، در وقت بازرسان صرفه‌جویی کند.
از سوی دیگر، دستیاران RAG که می‌توانند به پایگاه‌های دانش گسترده دسترسی داشته باشند و آنها را پردازش کنند، می‌توانند تراکنش‌ها را با منابع داده خارجی ارجاع دهند تا تراکنش‌های مشکوک را علامت‌گذاری کنند و مغایرت‌ها یا ناهنجاری‌هایی را که ممکن است نشان دهنده کلاهبرداری باشند، شناسایی کنند.
در مجموع، این ابزارها می‌توانند داده‌های تاریخی کلاهبرداری را تجزیه‌وتحلیل کنند و به ساخت الگوهای پیش‌بینی کننده برای شناسایی تلاش‌های احتمالی کلاهبرداری در آینده بر اساس الگوهای مشابه کمک کنند. اساساً، این ابزارهای هوش مصنوعی می‌توانند به‌عنوان دستیاران هوشمند عمل کنند، توانایی‌های محققان انسانی را افزایش دهند و سرعت و دقت تشخیص تقلب را افزایش دهند.
بهبود تأیید هویت
از آنجایی که موارد کلاهبرداری به دلیل پیشرفت در GenAI و سایر فناوری‌های پیشرفته همچنان در حال افزایش است و پیچیدگی بیشتری پیدا می‌کند، برای شرکت‌ها، مؤسسات مالی و سازمان‌های دولتی ضروری است که فرآیندهای تأیید هویت خود را بهبود بخشند. در سال آینده، این ابزارهای تأیید به‌تدریج برخی از شکاف‌های امنیتی را که به دلیل تکامل سریع GenAI پدید آمده‌اند، برطرف خواهند کرد.
همان‌طور که به سال 2025 نگاه می‌کنیم، واضح است که چشم‌انداز تقلب و کلاهبرداری به‌سرعت در حال تحول است که ناشی از پیشرفت در هوش مصنوعی است. ظهور ابزارهای پیچیده هوش مصنوعی، مانند Ge AI و LLM، چالش‌های جدیدی را در مبارزه با تقلب ایجاد کرده است. با این حال، همین فناوری‌ها راه‌حل‌های قدرتمندی را برای شناسایی و جلوگیری از فعالیت‌های کلاهبرداری نیز ارائه می‌دهند.
با استفاده از هوش مصنوعی برای تجزیه‌وتحلیل متن برای ناهنجاری‌ها، پرچم گذاری تراکنش‌های مشکوک و خودکارسازی خلاصه پرونده، سازمان‌ها می‌توانند قابلیت‌های تشخیص تقلب خود را افزایش دهند و یک‌قدم جلوتر از کلاهبرداران بمانند.
منبع: thomsonreuters
کلمات کلیدی :
کلاهبرداریپیشرفت فناوریجعل عمیق اسناددیپ فیکتأیید هویت