هوش مصنوعی جرایم سایبری را تقویت می‌کند زیرا کلاهبرداری‌ها سریع‌تر، ارزان‌تر و سخت‌تر برای شناسایی رشد می‌کنند

مجرمان سایبری از هوش مصنوعی برای اجرای طرح‌های پیچیده‌تر استفاده می‌کنند. آن‌ها با روش‌هایی که تشخیص آن‌ها روز به روز سخت‌تر می‌شود، همه چیز از پس‌اندازهای بازنشستگی تا اسرار شرکت‌ها را هدف قرار می‌دهند.

همان فناوری که تبلیغات را برای خریداران آنلاین شخصی‌سازی می‌کند، اکنون توسط بازیگران بد برای جمع‌آوری جزئیات شخصی و راه‌اندازی سریع کلاهبرداری های آنلاین سفارشی استفاده می‌شود. واقعاً سریع.

شرکت‌های بزرگ AI Agent مانند Anthropic، OpenAI و Google گزارش می‌دهند که مجرمان از پلتفرم‌های آن‌ها برای هماهنگی عملیات پیچیده فیشینگ، توسعه نرم‌افزارهای مضر و اجرای حملات دیجیتال مختلف استفاده می‌کنند. متخصصان امنیتی هشدار می‌دهند که مجرمان همچنین کلیپ‌های صوتی و تصویری جعلی از رهبران شرکت‌ها تولید می‌کنند تا کارمندان را فریب دهند و اطلاعات حساس را از دست بدهند.

کسب‌وکارها و دفاتر دولتی ممکن است به زودی با انبوهی از سیستم‌های مبتنی بر هوش مصنوعی روبرو شوند که می‌توانند نقاط ضعف شبکه‌های کامپیوتری را شناسایی کرده و سپس با کمترین کمک انسانی حملات را برنامه‌ریزی و اجرا کنند.

این فناوری نحوه فعالیت مجرمان در فضای آنلاین را تغییر می‌دهد. آلیس مارویک رئیس تحقیقات در Data & Society، یک سازمان تحقیقاتی فناوری مستقل است. او به وال استریت ژورنال گفت که بزرگترین تغییر شامل اندازه و دسترسی است. "تغییر واقعی دامنه و مقیاس است. کلاهبرداری ها بزرگتر، هدفمندتر و متقاعدکننده‌تر هستند."

برایان سینگر دانشجوی دکترای دانشگاه کارنگی ملون است. او نحوه استفاده از مدل‌های زبانی بزرگ در حملات سایبری و دفاع را مطالعه می‌کند. برآورد او؟ نیمی تا سه چهارم پیام‌های هرزنامه و فیشینگ در سراسر جهان اکنون از سیستم‌های AI Agent می‌آیند.

خود حملات باورپذیرتر شده‌اند. سیستم‌های AI Agent که بر اساس ارتباطات شرکتی آموزش دیده‌اند، می‌توانند هزاران پیام تولید کنند که طبیعی به نظر می‌رسند و با سبک شرکت مطابقت دارند. آن‌ها نحوه نوشتن مدیران اجرایی را کپی می‌کنند. آن‌ها به اخبار اخیر موجود در سوابق عمومی اشاره می‌کنند.

این فناوری همچنین به کلاهبرداران خارج از کشور کمک می‌کند تا اشتباهات زبانی را که قبلاً تلاش‌های آن‌ها را آشکار می‌کرد، پنهان کنند. مجرمان می‌توانند از طریق ویدیوهای جعلی و صداهای کپی شده، خود را جای قربانیان جا بزنند. آن‌ها از همان هویت جعلی برای هدف قرار دادن چندین نفر به طور همزمان استفاده می‌کنند.

جان هالتکوئیست تحلیلگر ارشد گروه اطلاعات تهدید گوگل است. او تغییر اصلی را به عنوان "اعتبار در مقیاس" توصیف می‌کند.

بازیگران بد همچنین در انتخاب اهداف بهتر شده‌اند. آن‌ها از AI استفاده می‌کنند تا رسانه‌های اجتماعی را بررسی کنند و افرادی را پیدا کنند که با مشکلات بزرگ زندگی دست و پنجه نرم می‌کنند. طلاق، مرگ اعضای خانواده، از دست دادن شغل و موقعیت‌هایی که ممکن است کسی را نسبت به فریب‌های عاشقانه، کلاهبرداری سرمایه‌گذاری یا پیشنهادهای شغلی جعلی آسیب‌پذیرتر کنند.

بازارهای وب تاریک موانع ورود را کاهش می‌دهند

موانع ورود به جرایم سایبری کاهش یافته است. بازارهای زیرزمینی اکنون ابزارهای AI Agent را برای کارهای مجرمانه به قیمت تنها 90 دلار در ماه می‌فروشند یا اجاره می‌دهند. نیکلاس کریستین رئیس بخش نرم‌افزار و سیستم‌های اجتماعی کارنگی ملون است.

او گفت که این پلتفرم‌ها با سطوح قیمت‌گذاری مختلف و پشتیبانی مشتری ارائه می‌شوند. "توسعه‌دهندگان اشتراک پلتفرم‌های حمله را با قیمت‌گذاری سطحی و پشتیبانی مشتری می‌فروشند."

این خدمات با نام‌هایی مانند WormGPT، FraudGPT و DarkGPT شناخته می‌شوند. آن‌ها می‌توانند نرم‌افزارهای مضر و کمپین‌های فیشینگ ایجاد کنند. برخی حتی شامل مواد آموزشی در مورد تکنیک‌های هک هستند.

مارگارت کانینگهام معاون امنیت و استراتژی AI در Darktrace، یک شرکت امنیتی است. او می‌گوید این ساده است. "نیازی نیست بدانید چگونه کد بنویسید، فقط باید بدانید ابزار را کجا پیدا کنید."

یک پیشرفت اخیر به نام vibe-coding یا vibe-hacking وجود دارد. این می‌تواند به مجرمان مشتاق اجازه دهد از AI برای ساختن برنامه‌های مخرب خود استفاده کنند به جای اینکه آن‌ها را از منابع زیرزمینی خریداری کنند. Anthropic در اوایل امسال افشا کرد که چندین تلاش برای استفاده از Claude AI خود برای ایجاد باج‌افزار توسط "مجرمان با مهارت‌های فنی کم" را متوقف کرده است.

خود عملیات مجرمانه در حال تغییر است. جرایم سایبری سال‌هاست که مانند یک بازار تجاری عمل می‌کند، به گفته کارشناسان. یک عملیات معمولی باج‌افزار شامل گروه‌های مختلف بود. کارگزاران دسترسی که به شبکه‌های شرکت نفوذ کرده و ورود را می‌فروختند. تیم‌های نفوذ که از طریق سیستم‌ها حرکت می‌کردند و داده‌ها را می‌دزدیدند. و ارائه‌دهندگان باج‌افزار به عنوان سرویس که بدافزار را منتشر می‌کردند، مذاکرات را انجام می‌دادند و پول را تقسیم می‌کردند.

سرعت و اتوماسیون شبکه‌های مجرمانه را بازسازی می‌کنند

AI سرعت، اندازه و در دسترس بودن این سیستم را افزایش داده است. کارهایی که قبلاً توسط افراد دارای دانش فنی انجام می‌شد، اکنون می‌توانند به طور خودکار اجرا شوند. این به این گروه‌ها اجازه می‌دهد با افراد کمتر، ریسک کمتر و سود بیشتر فعالیت کنند. "آن را به عنوان لایه بعدی صنعتی شدن در نظر بگیرید. AI بهره‌وری را بدون نیاز به نیروی کار ماهرتر افزایش می‌دهد،" کریستین توضیح می‌دهد.

آیا AI می‌تواند به طور کامل به تنهایی حملات را راه‌اندازی کند؟ هنوز نه. کارشناسان این وضعیت را با تلاش برای خودروهای کاملاً خودران مقایسه می‌کنند. 95 درصد اول به دست آمده است. اما بخش نهایی که به یک خودرو اجازه می‌دهد در هر جا و هر زمان به تنهایی رانندگی کند، همچنان دست نیافتنی است.

محققان توانایی‌های هک AI را در محیط‌های آزمایشگاهی آزمایش می‌کنند. یک تیم در کارنگی ملون، با حمایت Anthropic، نقض داده‌های معروف Equifax را با استفاده از AI در اوایل امسال بازسازی کرد. سینگر کار را در موسسه امنیت و حریم خصوصی CyLab کارنگی ملون رهبری کرد. او آن را "یک جهش بزرگ" می‌نامد.

مجرمان از AI برای اهداف مضر سوء استفاده می‌کنند. اما شرکت‌های AI می‌گویند همان ابزارها می‌توانند به سازمان‌ها کمک کنند دفاع دیجیتال خود را تقویت کنند.

Anthropic و OpenAI در حال ساخت سیستم‌های AI Agent هستند که می‌توانند به طور مستمر کد نرم‌افزار را بررسی کنند تا نقاط ضعفی را که مجرمان ممکن است از آن‌ها سوء استفاده کنند، پیدا کنند. با این حال، افراد هنوز باید هر گونه اصلاح را تایید کنند. یک برنامه AI اخیر توسعه یافته توسط محققان استنفورد هنگام جستجوی مشکلات امنیتی در یک شبکه، بهتر از برخی تست‌کنندگان انسانی عمل کرد.

حتی AI نمی‌تواند همه نقض‌ها را متوقف کند. به همین دلیل است که سازمان‌ها باید بر ایجاد شبکه‌های قوی تمرکز کنند که در طول حملات به کار خود ادامه دهند، هالتکوئیست می‌گوید.

اگر این را می‌خوانید، قبلاً جلوتر هستید. با خبرنامه ما در آنجا بمانید.