ابزار Nightshade ممکن است مدلهای آینده پلتفرمهای هوش مصنوعی مانند DALL-E، Stable Diffusion و Midjourney را گیج کند.
به گزارش تکنوک، ابزار جدیدی به نام شبگرد این به کاربران اجازه می دهد آن را به کار خلاقانه خود متصل کنند و اجازه دهند آن کار داده های آموزشی را خراب یا تحریف کند. این ابزار می تواند پلتفرم های هنری آینده را مدل سازی کند هوش مصنوعی (توانایی سیستم ها برای درک، سنتز و استخراج اطلاعات) مانند DALL-E، Stable Diffusion و Midjourney.
بر اساس این گزارش بررسی فناوری MITبن ژائو، استاد دانشگاه شیکاگو و یکی از سازندگان شبگرد، امیدواریم بین شرکت ها تعادل برقرار شود هوش مصنوعی به هنرمندانی که از داده های دارای حق چاپ برای آموزش مدل های خود استفاده کردند. در یک مقاله تحقیقاتی شبگرد، بیان شده است که از داده های آموزشی در مدل ها استفاده شده است هوش مصنوعی (هوش مصنوعی : زمینه علوم کامپیوتر و شیوه های مهندسی برای هوش نشان داده شده توسط ماشین ها و عوامل هوشمند) در معرض نوعی حمله قرار می گیرند که ابزار نشان دهنده آن است. شبگرد او آن را ترک می کند. مقاله ادامه می دهد:
با کمال تعجب، متوجه شدیم که میانگین تعداد حملات شبگرد می تواند توابع کلی در هوش مصنوعی مولد متن به تصویر را ناپایدار کنید و در واقع توانایی آن را برای تولید تصاویر معنادار غیرفعال کنید.
هنرمندانی که انگیزه کافی برای پیمودن این مسیر دارند، می توانند آثار خود را در گلاز آپلود کنند. لعاب ابزاری است که سازندگان از آن استفاده می کنند شبگرد ساخته شده و به پنهان کردن سبک هنری هنرمند کمک می کند. به عنوان مثال، نقاشی رئالیستی را به چیزی شبیه به کوبیسم تبدیل می کند. سازندگان شبگرد آنها در مقاله خود این ابزار را پیشنهاد کردند شبگرد و ابزارهای مشابه باید به عنوان «آخرین دفاع تولیدکنندگان محتوا در برابر خراشهای وب» که از قوانین انصراف بیاطلاع هستند، استفاده شود.
در حال حاضر مشکلات کپی رایت در محتوای ایجاد شده با آن وجود دارد هوش مصنوعی و داده های آموزش و پرورش به دلیل فقدان مقررات مربوطه هنوز نامشخص است. بسیاری از پرونده های حقوقی نقض حق چاپ هنوز در دادگاه هستند. شرکت هایی مانند Adobe اکنون نشان می دهند که آیا با آن کار می کنند یا خیر هوش مصنوعی چه تولید شود چه نباشد، قصد دارند از نماد خاصی استفاده کنند.
برخی از شکایات اصلی علیه سیستم عامل ها هوش مصنوعی قالب بر پرونده های حقوقی که به داده های آموزشی مدل دسترسی دارند متمرکز شد. به خصوص در پلتفرم های تبدیل متن به تصویر. در ژانویه 2023، سه هنرمند از Stable Diffusion و Midjourney و همچنین وبسایت هنری DeviantArt شکایتی را مطرح کردند که مدعی شد مدلهایی در آن پلتفرمها از آثار هنری آنها بدون اجازه استفاده کردهاند. شرکت Getty Images نیز تولید کننده تصویر را تولید کرده است هوش مصنوعی او پس از آشنایی با تصاویر دارای مجوز این شرکت، از Stable Diffusion شکایت کرد.
برای اولین بار در Tech Knock با Nightshade DALL-E اشتباه بگیرید – اخبار دنیای فناوری ظاهر شد.