سیستم های هوش مصنوعی مانند ChatGPT و Gemini روز به روز در حال توسعه هستند و استارت آپ ها و شرکت های فناوری از آنها در خدمات خود استفاده می کنند. اما همانطور که این ابزارها آزادی بیشتری پیدا می کنند، راه های بالقوه حمله به آنها نیز افزایش می یابد. اکنون گروهی از محققان موفق به ایجاد کرم کامپیوتری هوش مصنوعی شدهاند که میتواند از یک سیستم به سیستم دیگر حرکت کند و به طور بالقوه دادهها را بدزدد یا بدافزار را روی سیستم نصب کند.
بن ناسی، محقق Cornell Tech، که بخشی از تیم تحقیقاتی بود، گفت: با این وضعیت، اکنون شما اساساً توانایی انجام نوع جدیدی از حمله سایبری را دارید که قبلاً وجود نداشت.
کرم هوش مصنوعی موریس II
ناسی به همراه همکارانش استیو کوهن و ران بیتتون این کرم کامپیوتری را به نام موریس II ساختند. نام آن به کرم کامپیوتری موریس اصلی اشاره دارد که در سال 1988 باعث هرج و مرج در سراسر اینترنت شد.
آنها در مقاله خود نشان می دهند که چگونه کرم هوش مصنوعی Morris II می تواند به دستیار ایمیل هوش مصنوعی حمله کند و داده های ایمیل را از آن بدزدد. همچنین میتواند پیامهای هرزنامه را برای کاربر ارسال کند و برخی از حفاظتهای امنیتی Gemini و ChatGPT را دور بزند.
برای ایجاد این کرم هوش مصنوعی، محققان از دستوری استفاده کردند که به طور خلاصه به سیستمهای هوش مصنوعی میگوید مجموعهای از دستورالعملهای اضافی را در پاسخهای خود ارائه دهند.
این تحقیق در حالی انجام میشود که مدلهای زبان بزرگ (LLM) در حال تبدیل شدن به مدلهای چندوجهی هستند که میتوانند وظایفی مانند تولید تصویر و ویدیو را انجام دهند. در حالی که کرمهای هوش مصنوعی هنوز تا حد زیادی غیرقابل شناسایی هستند، چندین محقق اشاره کردهاند که این کرمها یک خطر امنیتی هستند که استارتآپها، توسعهدهندگان و شرکتهای فناوری باید نگران آن باشند.