ابزار Nightshade ممکن است مدلهای آینده پلتفرمهای هوش مصنوعی مانند DALL-E، Stable Diffusion و Midjourney را گیج کند.
به گزارش TechNock، ابزار جدیدی به نام Nightshade به کاربران این امکان را می دهد که آن را به کارهای خلاقانه خود متصل کرده و از آن برای خراب کردن یا تحریف داده های آموزشی استفاده کنند. این ابزار میتواند مدلهای آینده پلتفرمهای هوش مصنوعی مانند DALL-E، Stable Diffusion و Midjourney را گیج کند.
بر اساس این گزارش بررسی فناوری MITبن ژائو، استاد دانشگاه شیکاگو و یکی از خالقان Nightshade، امیدوار است که تعادل را از شرکتهای هوش مصنوعی که از دادههای اختصاصی برای آموزش مدلهای خود به هنرمندان استفاده کردهاند، تغییر دهد. مقاله تحقیقاتی Nightshade بیان میکند که دادههای آموزشی مورد استفاده در مدلهای هوش مصنوعی متن به تصویر در معرض نوعی حمله است که ابزار Nightshade باعث ایجاد آن میشود. مقاله ادامه می دهد:
در کمال تعجب متوجه شدیم که تعداد متوسطی از حملات Nightshade میتواند عملکرد کلی هوش مصنوعی تولیدکننده متن به تصویر را بیثبات کند و در واقع توانایی آن را برای تولید تصاویر معنادار غیرفعال کند.
هنرمندانی که انگیزه کافی برای پیمودن این مسیر دارند، می توانند آثار خود را در گلاز آپلود کنند. Glaze ابزاری است که توسط سازندگان Nightshade ساخته شده است که به پنهان کردن سبک هنری هنرمند کمک می کند. به عنوان مثال، نقاشی رئالیستی را به چیزی شبیه به کوبیسم تبدیل می کند. در مقاله خود، سازندگان Nightshade پیشنهاد کردند که ابزار Nightshade و ابزارهای مشابه باید به عنوان «آخرین دفاع برای سازندگان محتوا در برابر خراشهای وب» که از قوانین انصراف اطلاع ندارند، استفاده شود.
در حال حاضر مسائل مربوط به حقوق انتشار محتوا و داده های آموزشی تولید شده توسط هوش مصنوعی به دلیل نبود مقررات مربوطه همچنان معلق مانده است. بسیاری از پرونده های حقوقی نقض حق چاپ هنوز در دادگاه هستند. شرکت هایی مانند Adobe اکنون در حال برنامه ریزی برای استفاده از یک نماد خاص برای نشان دادن اینکه آیا اثری با استفاده از هوش مصنوعی ساخته شده است یا خیر، برنامه ریزی کرده اند.
برخی از شکایت های اولیه علیه پلتفرم های هوش مصنوعی مولد بر پرونده های حقوقی مربوط به دسترسی به داده های آموزشی مدل متمرکز بود. به خصوص در پلتفرم های تبدیل متن به تصویر. در ژانویه 2023، سه هنرمند از Stable Diffusion و Midjourney و همچنین وبسایت هنری DeviantArt شکایتی را مطرح کردند که مدعی شد مدلهایی در آن پلتفرمها از آثار هنری آنها بدون اجازه استفاده کردهاند. علاوه بر این، Getty Images Stable از Diffusion شکایت کرد قبل از اینکه این شرکت سازنده تصویر هوش مصنوعی خود را بر اساس تصاویر دارای مجوز شرکت بسازد.
برای اولین بار در Tech Knock با Nightshade DALL-E اشتباه بگیرید – اخبار دنیای فناوری ظاهر شد.