ایالات متحده و بریتانیا و 16 کشور دیگر توافق نامه ای را امضا کرده اند که متعهد به برداشتن گام هایی برای توسعه هوش مصنوعی ایمن هستند.
به گزارش TechNock، ایالات متحده، بریتانیا و دهها کشور دیگر روز یکشنبه از اولین توافقنامه بینالمللی دقیق در مورد نحوه محافظت از هوش مصنوعی در برابر کاربران متقلب رونمایی کردند که بر شرکتها برای توسعه سیستمهای هوش مصنوعی ایمن فشار وارد میکند.
در یک سند 20 صفحه ای 18 کشور روز یکشنبه توافق کردند که شرکت هایی که در حال توسعه و استفاده از هوش مصنوعی هستند باید آن را به گونه ای توسعه دهند که از مشتریان و عموم مردم در برابر سوء استفاده محافظت کند. جن ایسترلی، مدیر CISA؛ وی با بیان اینکه کشورها باید بدانند که توسعه هوش مصنوعی نیازمند رویکرد ایمن است، سایر کشورها را تشویق کرد تا در این امر همراهی کنند.
ایسترلی به رویترز گفت:
این اولین باری است که تأیید میکنیم که این قابلیتها فقط مربوط به ویژگیهای خاص و اینکه چقدر سریع میتوانیم آنها را به بازار برسانیم یا چگونه میتوانیم برای کاهش هزینهها رقابت کنیم، نیستند.
سایر کشورهایی که تاکنون این قرارداد را امضا کرده اند عبارتند از: آلمان، ایتالیا، جمهوری چک، استونی، لهستان، استرالیا، شیلی، اسرائیل، نیجریه و سنگاپور. اروپا شروع به ایجاد قوانین خاصی برای توسعه و استقرار سیستم های هوش مصنوعی ایمن کرده است.
این تلاشها شامل الزام قانونی شرکتها به انجام آزمایشهای امنیتی منظم برای شناسایی آسیبپذیریهای احتمالی است. با این حال، پیشرفت کند بود و منجر به دستیابی فرانسه، آلمان و ایتالیا به توافقات آزمایشی خود شد.
کاخ سفید از کنگره خواسته است تا مقرراتی را برای هوش مصنوعی در ایالات متحده وضع کند. با این حال، تاکنون پیشرفت کمی حاصل شده است. جو بایدن، رئیسجمهور ایالات متحده ماه گذشته فرمان اجرایی را امضا کرد که بر اساس آن شرکتهای هوش مصنوعی موظف شدند آزمایشهای امنیتی انجام دهند. آزمایش هایی که در درجه اول برای محافظت از سیستم ها در برابر هکرها طراحی شده اند.
استفاده اپل از هوش مصنوعی
اپل چندین سال است که ویژگی های هوش مصنوعی را در محصولات خود ادغام کرده است. به خصوص در زمینه عکاسی. این شرکت همچنین چت بات خود را با نام Apple GPT توسعه داده است. با این حال، تا کنون فقط در داخل شرکت استفاده می شود. دلیل این امر این است که اپل احتمالاً می خواهد از قابلیت های هوش مصنوعی برای توسعه نرم افزار بدون به خطر انداختن امنیت محصول استفاده کند.
با توجه به رویکرد محتاطانه کوپرتینویی به فناوری جدید، احتمالا مدتی طول می کشد تا اپل چیزی شبیه به این را در اختیار مشتریان خود قرار دهد. قانون گذاری برای تضمین امنیت سیستم های هوش مصنوعی جدید بسیار دشوار است.
ماهیت سیستم های هوش مصنوعی این است که قابلیت های خود را توسعه می دهند و به طور خاص برای انجام یا عدم انجام برخی کارها برنامه ریزی نشده اند. این به این معنی است که حتی محققانی که روی یک پروژه کار می کنند ممکن است به طور کامل درک نکنند که یک مدل هوش مصنوعی جدید تا زمانی که کامل نشود، چه کاری می تواند انجام دهد. علاوه بر این، اغلب بین محققان در مورد اینکه این قابلیتها چیست و چه معنایی برای آینده دارند، اختلاف نظر وجود دارد.
این توافقنامه 20 صفحه ای یک سند ارزشمند است و بیشتر بیانگر اصول کلی است تا یک طرح اولیه. با این حال، با توجه به چالش های پیش رو، این احتمالا یک نقطه شروع معقول است. این نشان می دهد که شرکت های تحقیقاتی موظف هستند به طور خاص آسیب پذیری های امنیتی را جستجو کنند. با این حال، مهم است که به یاد داشته باشید که این فقط به نحوه استفاده هکرها از سیستم های هوش مصنوعی مربوط می شود.
The post تعهد 18 کشور در سراسر جهان به توسعه هوش مصنوعی امن اولین بار در Tekknock – اخبار دنیای فناوری پدیدار شد. ظاهر شد.