آیا باید نگران هوش مصنوعی باشیم؟

سرعت رشد هوش مصنوعی هم هیجان انگیز و هم ترسناک است. در ماه‌های اخیر با در دسترس قرار گرفتن هوش مصنوعی «Chatgpt» توسط شرکت استارت‌آپی OpenAI و برخی سیستم‌هایی که با استفاده از هوش مصنوعی تجسم می‌کنند، مقالات زیادی درباره از دست دادن مشاغل در صورت تقویت هوش مصنوعی منتشر شده است. اما سوال اینجاست که این نگرانی چقدر واقعی است؟

به گزارش رویداد۲۴، “آیا روزی هوش مصنوعی و ربات ها جایگزین انسان ها خواهند شد؟ آیا با توسعه هوش مصنوعی با خطر از دست دادن کنترل تمدن زمین مواجه خواهیم شد؟ سال هاست که این سوالات ذهن مردم را به خود مشغول کرده است و سینما چنین چیزی را ترسیم کرده است. آینده برای بشریت بارها

ماه گذشته نیز همین سوالات در قالب نامه ای سرگشاده با امضای رهبران حوزه فناوری از جمله ایلان ماسک از موسسه «آینده زندگی» مطرح شد. این سازمان غیرانتفاعی آمریکایی، سازمانی است که با هدف کاهش خطرات و بلایایی که بر انسان ها تأثیر می گذارد، فعالیت می کند. یکی از مهم ترین خطرات شناسایی شده توسط این موسسه، ریسک هوش مصنوعی است. امضاکنندگان نامه سرگشاده خواستار یک «مکث» شش ماهه در توسعه انواع پیشرفته هوش مصنوعی (AI) شدند تا امکان تحقیق در مورد خطرات احتمالی این فناوری فراهم شود.

این نگرانی ها به ویژه پس از در دسترس قرار گرفتن ChatGBT تشدید شد. قابلیت های این ربات که توسط OpenAI طراحی شده است، حتی سازندگان آن را نیز شگفت زده کرده است. این ربات قادر است همه چیز را از نوشتن کدهای کامپیوتری گرفته تا شناسایی فیلم ها از خلاصه داستان های نوشته شده با شکلک هایی به نام ایموجی را حل کند.

آینده هوش مصنوعی

مجله اکونومیست در گزارشی درباره نگرانی‌ها در مورد آینده انسان‌های دارای هوش مصنوعی می‌گوید این مدل‌ها می‌توانند رابطه انسان‌ها با کامپیوتر، دانش و حتی با خودشان را تغییر دهند. طرفداران هوش مصنوعی بر پتانسیل آن برای حل مشکلات بزرگ، توسعه داروهای جدید، طراحی مواد جدید برای کمک به مبارزه با تغییرات آب و هوایی تاکید می کنند. به گفته دیگران، سناریوی پیشی گرفتن ماشین‌ها از مخترعان خود جدی تلقی می‌شود.

این ترکیب هیجان و ترس، سنجش فرصت ها و خطرات هوش مصنوعی را دشوار می کند. برای سنجش وضعیت باید از تجربیات صنایع دیگر و از تغییرات تکنولوژیک در گذشته درس گرفت. سوال این است که چه چیزی تغییر کرده است که هوش مصنوعی را تا این حد توانمندتر کرده است؟ چقدر باید ترسید؟ و دولت ها چه باید بکنند؟

اکونومیست می‌گوید موج اول سیستم‌های هوش مصنوعی مدرن، که یک دهه پیش ظهور کردند، بر روی داده‌های آموزشی با برچسب‌گذاری دقیق تکیه داشتند. وقتی این سیستم‌ها در معرض نمونه‌های برچسب‌دار کافی قرار می‌گیرند، می‌توانند کارهایی مانند تشخیص تصاویر یا رونویسی گفتار را بیاموزند. سیستم‌های امروزی نیازی به برچسب‌گذاری اولیه ندارند و بنابراین می‌توان با استفاده از مجموعه داده‌های بسیار بزرگ‌تری که از منابع آنلاین گرفته شده‌اند، آموزش دید.

زمانی که Chat GPT در نوامبر منتشر شد، این قابلیت ها عمومی شدند. یک میلیون نفر در عرض یک هفته از آن استفاده کردند. 100 میلیون نفر از آن برای نوشتن انشاهای مدرسه و سخنرانی های عروسی در عرض دو ماه استفاده کردند. استفاده از Chat GPT گاهی اوقات نتایج عجیبی به همراه داشت. بینگ چت مایکروسافت به خبرنگاری پیشنهاد داد همسرش را ترک کند. یک استاد حقوق Chat GPT به افترا متهم شد.

شتاب اخیر در قدرت و دید سیستم‌های هوش مصنوعی و افزایش آگاهی از قابلیت‌ها و کاستی‌های آنها، این نگرانی را ایجاد کرده است که این فناوری به سرعت در حال پیشرفت تبدیل به پدیده‌ای خارج از کنترل ما شود. در نتیجه، برخی از مردم خواستار پایان دادن به فعالیت‌های هوش مصنوعی شده‌اند و این نگرانی وجود دارد که هوش مصنوعی جایگزین بسیاری از مشاغل شود و حتی موجودیت خود بشریت را تهدید کند.

اکونومیست در سرمقاله ای که بر روی جلد مجله هفته گذشته منتشر شد، درباره ترسی صحبت کرد که قرن ها در بین انسان ها وجود داشته است. ترس از اینکه ماشین ها مشاغل انسان ها را بدزدند. اما اتفاقی که تاکنون افتاده این است که فناوری های جدید مشاغل جدیدی را ایجاد کرده اند که جایگزین مشاغلی شده اند که توسط این فناوری ها از بین رفته اند. ماشین‌ها برخی از وظایف را بر عهده می‌گیرند، اما نه همه، و بنابراین تقاضا برای مشاغلی که ماشین‌ها نمی‌توانند از عهده آنها برآیند در حال افزایش است. اما سوال اینجاست که آیا این زمان می تواند متفاوت باشد؟

اکونومیست می گوید تغییر ناگهانی در بازار کار را نمی توان منتفی دانست، حتی اگر تاکنون هیچ نشانه ای از آن وجود نداشته باشد. فناوری‌های قبلی جایگزین مشاغلی شدند که به نیروی کار ماهر نیاز نداشتند، اما هوش مصنوعی می‌تواند برخی از مشاغلی را که قبلاً به نیروی کار ماهر تعلق داشتند، مانند خلاصه کردن اسناد یا کدنویسی، تصاحب کند.

میزان خطر ناشی از رشد هوش مصنوعی به شدت مورد بحث است. کارشناسان در مورد این خطر توافق ندارند. در یک نظرسنجی از محققان هوش مصنوعی که در سال 2022 انجام شد، 48 نفر گفتند که حداقل 10 درصد احتمال دارد که هوش مصنوعی تأثیری “بسیار بد” داشته باشد (مثلاً انقراض انسان). اما 25 درصد گفتند که خطر عواقب بسیار بد هوش مصنوعی نزدیک به صفر است. تعدادی از محققان نیز خطرات هوش مصنوعی را 5 درصد اعلام کردند.

کابوس بزرگ این است که یک هوش مصنوعی پیشرفته با تولید نوعی سم یا ویروس یا تحریک انسان به ارتکاب اقدامات تروریستی در مقیاس وسیع آسیب وارد می کند. این هوش مصنوعی لزوماً قصد شیطانی ندارد: محققان نگران این هستند که هوش مصنوعی آینده ممکن است اهدافی داشته باشد که با اهداف خالقان انسانی آنها همخوانی نداشته باشد.

اکونومیست تاکید می کند که چنین سناریوهایی را نباید نادیده گرفت. اما همه اینها گمانه زنی های زیادی است و منتظر یک جهش جدی در فناوری های امروزی است. بسیاری تصور می کنند که هوش مصنوعی در آینده به انرژی، پول و قدرت محاسباتی دسترسی نامحدودی خواهد داشت. دسترسی هایی که امروزه با محدودیت های جدی مواجه است. علاوه بر این، کارشناسان در هر زمینه تمایل دارند خطرات حوزه خود را اغراق کنند. تحمیل مقررات سنگین یا درخواست توقف در توسعه هوش مصنوعی، به نظر یک واکنش افراطی است.

در واقع، مقررات لازم است، اما به دلایل پیش پا افتاده تر از نجات بشریت. سیستم‌های هوش مصنوعی موجود نگرانی‌های واقعی در مورد تعصب، حریم خصوصی و حقوق مالکیت معنوی ایجاد می‌کنند. با پیشرفت تکنولوژی، ممکن است مشکلات دیگری نیز پیش بیاید. نکته کلیدی این است که وعده‌های هوش مصنوعی باید با ارزیابی ریسک‌هایی که همه مایل به زندگی با آن هستند متعادل شود.

واکنش دولت ها به رشد هوش مصنوعی چه بوده است؟

تاکنون دولت ها سه رویکرد متفاوت در برخورد با هوش مصنوعی در پیش گرفته اند. در انتهای دیگر این طیف، بریتانیا قرار دارد که هیچ قانون یا نهاد نظارتی جدیدی برای هوش مصنوعی ندارد، اما همچنان مقررات موجود را برای سیستم‌های هوش مصنوعی اعمال می‌کند. هدف بریتانیا افزایش سرمایه گذاری و تبدیل این کشور به یک ابرقدرت هوش مصنوعی است. ایالات متحده رویکرد مشابهی را اتخاذ کرده است، اگرچه دولت بایدن به دنبال نظرات عمومی در مورد قوانین احتمالی آینده است.

اتحادیه اروپا موضع سخت تری اتخاذ کرده است. قانون پیشنهادی آنها، کاربردهای مختلف هوش مصنوعی را بر اساس درجه خطر طبقه بندی می کند و بر این اساس مستلزم کشف درجه خطر انواع مختلف استفاده از هوش مصنوعی است. برخی از استفاده از هوش مصنوعی به طور کلی توسط اتحادیه اروپا ممنوع است، مانند پیام های نیمه آگاه در تبلیغات و تشخیص چهره از راه دور. شرکت هایی که قوانین را زیر پا بگذارند جریمه خواهند شد.

اما برخی دیگر می گویند رویکرد سخت گیرانه تری لازم است. دولت ها باید با هوش مصنوعی مانند یک دارو رفتار کنند و قبل از انتشار عمومی مکانیسم شناسایی، آزمایش دقیق و تایید اولیه داشته باشند. چین برخی از این کارها را انجام می‌دهد و شرکت‌ها را ملزم می‌کند تا محصولات هوش مصنوعی خود را ثبت کنند و قبل از انتشار بررسی‌های امنیتی انجام دهند. البته ایمنی بعد از سیاست در جایگاه دوم قرار دارد. در چین، یک الزام کلیدی این است که خروجی هوش مصنوعی باید “ارزش اصلی سوسیالیسم” را منعکس کند.

با هوش مصنوعی چه باید کرد؟

اگر هوش مصنوعی به اندازه خودروها، هواپیماها یا مواد مخدر یک فناوری مهم باشد (که دلایل خوبی برای باور آن وجود دارد)، آنگاه به قوانین جدیدی نیاز خواهد داشت، درست مانند این فناوری ها. بر این اساس، مدل اتحادیه اروپا بهترین مدل خواهد بود، اگرچه سیستم طبقه بندی آن بسیار پیچیده است، بنابراین رویکردی مبتنی بر مجموعه ای از اصول انعطاف پذیرتر بهتر خواهد بود. نحوه آموزش سیستم ها، نحوه عملکرد و نظارت بر آنها و نیاز آنها به بازرسی باید به طور قانع کننده ای افشا شود و سپس دولت ها با قوانینی مشابه سایر فناوری ها به دنبال آن بروند.

در صورت لزوم، مقررات سختگیرانه تر ممکن است در طول زمان اعمال شود. در صورتی که شواهد معتبری مبنی بر خطرناک بودن هوش مصنوعی وجود داشته باشد، ممکن است معاهدات بین دولتی، مشابه آنچه در مورد سلاح های هسته ای امضا شده است، برای نظارت بر چنین خطراتی ایجاد شود.

این فناوری قدرتمند خطرات جدیدی ایجاد می کند، اما فرصت های خارق العاده ای را نیز به همراه خواهد داشت. متعادل کردن این دو به معنای گام برداشتن با دقت است. یک رویکرد سنجیده در ابتدای راه می تواند زمینه را برای اعمال قوانین بهتر و بیشتر در آینده ایجاد کند. اما اکنون زمان شروع ساخت این میدان ها است.