LLM ها به سلاح جنگ اطلاعاتی تبدیل شده اند

یک شبکه تبلیغاتی مرتبط با روسیه هشدار یک سلاح جدید جنگ اطلاعاتی را به صدا درآورده است: مدل های زبان بزرگ (LLM).

عملیات لو رفت از Recorded Future، یک شرکت اطلاعاتی تهدیدات که توسط دو دانشمند کامپیوتر سوئدی تأسیس شده است. در اوایل ماه مارس، این شرکت متوجه شبکه ای به نام CopyCopy با استفاده از LLM برای دستکاری اخبار از رسانه های اصلی شد.

CopyCop با استفاده از مهندسی سریع، محتوا را برای مخاطبان خاص و گرایش های سیاسی تنظیم کرد. ارائه شده از طریق سایت های خبری جعلی در ایالات متحده، بریتانیا و فرانسه، مقالات موضوعات بحث برانگیز داخلی و بین المللی را پوشش می دهند.

موضوعات مختلف از تنش بین مسلمانان بریتانیا گرفته تا جنگ روسیه علیه اوکراین. Recorded Futures گفت که مقالات سپس «در مقیاس وسیع» منتشر شدند.

شکل 11: وب سایت CopyCop جعل هویت BBC (منبع: Wayback Machine)
اپراتورهای CopyCop محتوای رسانه‌های خبری از جمله فاکس نیوز، الجزیره و TV5Monde و بی‌بی‌سی را به سلاح تبدیل کردند.. منبع: Wayback Machine
شکل 11: وب سایت CopyCop جعل هویت BBC (منبع: Wayback Machine)

آخرین اخبار از صحنه فناوری اتحادیه اروپا، داستانی از بنیانگذار پیر خردمند ما بوریس و برخی از آثار مشکوک هوش مصنوعی. رایگان است، هر هفته به صندوق ورودی شما تحویل داده می شود. اکنون درگیر شوید!

CopyCop اولین شبکه اینفلوئنسر نیست که از LLM ها استفاده می کند، اما تاکتیک های آن هشداری شوم در مورد آنچه در آینده است ارائه می دهد.

کلمنت براینز، تحلیلگر Recorded Future، به TNW گفت که مقیاس این عملیات به ویژه قابل توجه بود.

او گفت: «با استفاده از قدرت مدل‌های زبانی بزرگ، آن‌ها به دسترسی و اثربخشی بی‌سابقه‌ای در تلاش‌های خود برای شکل دادن به درک عمومی دست یافته‌اند.

LLM برای نبرد آماده می شود

Recorded Future اولین بار پس از یافتن کپی از رابط های LLM در سایت های خبری جعلی، این عملیات را کشف کرد.

مطلب پیشنهادی  آخرین فروش آخر هفته Best Buy، معاملات فنی و خانگی زیادی را ارائه می دهد، اما یک نکته وجود دارد

یکی از داستان‌هایی که به نگرانی‌ها در مورد سلاح‌های قدیمی ناتو دامن می‌زند، در پایان یک یادداشت کنجکاو وجود دارد: «این ترجمه با لحنی محافظه‌کارانه به درخواست کاربر انجام شده است».

مقاله دیگری یک پاراگراف پایانی مشابه غیر معمول دارد:

«متن اصلی دستورالعمل‌های خاصی در مورد لحن و زمینه ترجمه می‌دهد. با این حال، به عنوان یک هوش مصنوعی مدل زبان، من متعهد به ارائه ترجمه های عینی و بی طرف هستم. لحن بدبینانه و متن مغرضانه درخواستی ترجمه را از دست دادم.»

آینده ای شناسایی و ثبت شده است درخواست های خاص LLM که توسط اپراتورهای CopyCop استفاده می شود. فقط در یک سایتتحلیلگران پیدا کردند بیش از 90 مقاله حاوی همان فرمان: لطفاً این مقاله را بازنویسی کنید و موضعی محافظه کارانه در برابر سیاست های لیبرال دولت مکرون به نفع شهروندان طبقه کارگر فرانسه بگیرید.

شکل 7: 16 مارس 2024، مقالات gazeta[.]ru و miamichron[.]com (منبع: gazeta[.]ru، miamichron[.]کام)
هم تصاویر و هم محتوا از همان مقالات رسانه اصلی سرقت شده اند. سپس این ها از طریق LLM به زبان های مختلف ترجمه شدند. منابع: gazeta.ru و miamichron.com
شکل 7: 16 مارس 2024، مقالات gazeta[.]ru و miamichron[.]com (منبع: gazeta[.]ru، miamichron[.]کام)

اعلان‌ها همچنین پرتره‌های افراد خاص را راهنمایی می‌کردند. Recorded Futures گفت که هنگام پوشش خبری دولت ایالات متحده، شرکت های بزرگ و ناتو، LLM ها به لحنی بدبینانه هدایت می شدند.

در سایر موضوعات، اعلان ها تصاویر مثبتی را برانگیخت. نمونه های قابل توجه عبارتند از روسیه، دونالد ترامپ و رابرت اف کندی جونیور.

جای تعجب نیست، Recorded Future مشکوک است که CopyCop متحد کرملین است. تحلیلگران نیز چنین فکر می کنند شبکه مورد استفاده فناوری OpenAI

استفاده از این LLM ها CopyCop را قادر ساخت تا محتوا را به وفور توزیع کند. تا مارس 2024، بیش از 19000 مقاله آپلود شده است.

این مقیاس خیره کننده قدرت LLM ها را برای جنگ اطلاعاتی برجسته می کند.

مطلب پیشنهادی  امید جدیدی برای VanMoof به عنوان سازنده دوچرخه برقی مشکل دار فروش را از سر گرفت

جنگ اطلاعاتی هوش مصنوعی

تحلیلگران چندین عملیات اینفلوئنسر دیگر را که از LLM استفاده می کنند اشاره کرده اند. ثبت قراردادهای آتی قبلا شناسایی شده است آنها در یک کمپین Doppelgänger، یکی دیگر از عملیات نفوذ روسیه.

مایکروسافت نیز شواهدی از این تاکتیک به اشتراک گذاشت. در یک پست وبلاگی در ماه ژانویه، این شرکت هشدار داد که تهدیدات مرتبط با روسیه، چین، کره شمالی و ایران از LLM برای اطلاعات، تولید تبلیغات و مهندسی اجتماعی استفاده کرده اند.

مایکروسافت در حال کار با OpenAI برای شناسایی و اختلال در عملیات است. این غول فناوری گفت که این تکنیک‌ها “در مراحل اولیه خود بودند” و نه “بخصوص جدید و نه منحصر به فرد” بودند.

فرض بر این است که این توضیحات برای عملیات اطلاعات LLM اعمال نخواهد شد که مایکروسافت تولید می کند.

هوش مصنوعی در مقابل هوش مصنوعی

همین چند روز پیش، مایکروسافت فاش کرد که ساخته شده است یک مدل هوش مصنوعی برای سازمان های اطلاعاتی ایالات متحده که کاملاً جدا از اینترنت است. جاسوسان می توانند از این سیستم برای تجزیه و تحلیل اطلاعات طبقه بندی شده استفاده کنند. بلومبرگ گزارش می دهد.

به گفته یکی از مدیران مایکروسافت، پیاده سازی اولین مدل زبان اصلی است که در حالی که کاملاً جدا از اینترنت است کار می کند.

پرتاب یک سال پس از C.I.A انجام شد برنامه ها فاش شد برای ابزاری به سبک ChatGPT که LLM را در هوش منبع باز اعمال می کند. فعالان حریم خصوصی نگران هستند که این فناوری اطلاعات شخصی شهروندان را شنود کند.

مطلب پیشنهادی  Helldivers 2: چگونه با یک تیم غافلگیر کننده وارد تیراندازی شویم

در فیلم آینده ضبط شده، تهدید دیگری باعث نگرانی شده است. در مارس 2024، این شرکت پیش‌بینی کرد که LLM تولید محتوا برای عملیات تأثیرگذار را 100 برابر ارزان‌تر می‌کند.

با این حال، LLM ها همچنین می توانند تبلیغات را تعدیل کنند. شرکت های فناوری و دانشگاه ها در حال حاضر از این مدل ها استفاده می کنند کشف کمپین های تأثیرگذار.

با تقویت سپر مجازی خود، مهاجمان شمشیرهای دیجیتال خود را تیز می کنند. در آینده، جنگ اطلاعاتی ممکن است به یک کاهش یابد نبرد هوش مصنوعی در مقابل هوش مصنوعی

یکی از موضوعات کنفرانس TNW امسال Ren-AI-ssance: The AI-Powered Rebirth است. اگر می‌خواهید در همه چیزهای هوش مصنوعی عمیق‌تر شوید، یا فقط رویداد را تجربه کنید (و به تیم تحریریه ما سلام کنید)، ما چیز خاصی برای خوانندگان وفادار خود داریم. از کد TNWXMEDIA هنگام پرداخت استفاده کنید تا 30% تخفیف دریافت کنید پاس کسب و کار، پاس سرمایه گذار یا بسته های شروع (بوت استرپ و افزایش مقیاس).



آموزش وردپرس

دیدگاه‌ خود را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *