پس از بازگشت سام آلتمن به هیئت مدیره OpenAI، گمانه زنی های زیادی در مورد منشاء تفاوت بین هیئت مدیره و او وجود دارد. دلیل اختلاف آنها چه بود؟
سام آلتمن، مدیر عامل سابق OpenAI، پس از یک هفته پر حادثه در سیلیکون ولی، بازگشتی باشکوه به این شرکت داشت. این بازگشت زمانی اتفاق می افتد که اختلافات او با هیئت مدیره OpenAI در اخبار و رسانه های اجتماعی مورد توجه قرار گرفته است. گفته می شود که ریشه این تفاوت ها ممکن است به دلیل تفاوت بین ماهیت انتفاعی و غیرانتفاعی شرکت مادر OpenAI باشد.
با وجود آن، گزارشی جدید از نیویورک تایمز به نظر می رسد در مرکز این بحث، مقاله تحقیقاتی هلن تونر، عضو هیئت مدیره OpenAI و مدیر مرکز فناوری های نوظهور و امنیتی دانشگاه جورج تاون باشد. این وضعیت پیچیدگی در زمینه فناوری پیشرفته و تأثیر آن بر روابط مدیریتی و سیاست های شرکت های بزرگ را برجسته می کند.
مقاله تونر ممکن است نقش مهمی در اخراج سم آلتمن از OpenAI داشته باشد. در این مطالعه که در اکتبر 2023 منتشر شد، تونر رویکردهای ارتباطی بین دولت ها و شرکت ها را با هدف جلوگیری از سوء تفاهم ها و تصورات نادرست مورد بررسی قرار داد.
مقاله فوق که با همکاری سایر اعضای دانشگاه جورج تاون نوشته شده است، ابزارهای ارتباطی به نام “نشانه ها” را معرفی می کند. این توکن ها به عنوان ابزاری برای فعالان امنیت ملی و هوش مصنوعی طراحی شده اند تا اهداف و مقاصد خود را به وضوح بیان کنند. با این حال، به نظر می رسد تونر در مقاله خود رویکرد “توکن” اتخاذ شده توسط OpenAI را ناکافی می داند.
انتقاد ممکن است به دلیل تفاوت های نظری یا عملی در رویکردها و استراتژی های ارتباطی در زمینه فناوری های پیشرفته مانند هوش مصنوعی باشد. این نسخه بر اهمیت اتخاذ رویکردهای ارتباطی مؤثر و شفاف در محیطهای پیچیده و چند بعدی تأکید دارد.
ترجمه جدول فوق در زیر آمده است:
| حوزه | علامت | شرح |
|---|---|---|
| سیستم های نظامی و زمینی خودمختار | برای بستن دستبند | بیانیههای سیاستی یک صفحهای را برای انتقال مقاصد، مانند تعهد به آگاه نگه داشتن مردم در مورد تصمیمات فرماندهی و کنترل هستهای، صادر کنید. |
| سیستم های نظامی و زمینی خودمختار | هزینه های غرق شده | در تمرینات تیمی قرمز در طول آموزش و پیش از استقرار سرمایه گذاری کنید و استفاده از نشانه ها را برای تسهیل تخصیص سیستم های تسلیحاتی خودران هوش مصنوعی کشف کنید. |
| سیستم های نظامی و زمینی خودمختار | هزینه های نصب | تعهد به بازبینی مداوم شیوههای تأیید برای سیستمهای مبتنی بر هوش مصنوعی و توسعه مقررات برای حسابداری فشرده محاسباتی. |
| هوش مصنوعی دموکراتیک | هزینه های قابل کسر | شناسایی الزامات و ایجاد انگیزه برای سرمایه گذاری در مدل های قابل تفسیر با هوش مصنوعی و اصول طراحی جایگزین. |
| هوش مصنوعی دموکراتیک | هزینه های قابل کسر | از رقابتهای مبتنی بر جایزه برای تحقیقات امنیتی هوش مصنوعی و توسعه فناوریهای تقویتکننده حریم خصوصی که ارزشهای دموکراتیک را ترویج میکنند، حمایت کنید. |
| سیگنالینگ بخش خصوصی | اطلاعات مهم را فاش کنید | اطلاعات مهم در مورد مدلهای پیشرفته هوش مصنوعی، از جمله قابلیت مشاهده در دادههای آموزشی و همچنین عملکرد مدل و قابلیتهای ریسک را به اشتراک بگذارید. |
| سیگنالینگ بخش خصوصی | انتشار دستورالعمل تحقیق | ارائه دستورالعملهای دقت لازم برای شرکتهای خصوصی فعال در بازارهایی که خطر سوءاستفاده سیستماتیک از فناوریهای هوش مصنوعی وجود دارد. |
| سیگنالینگ بخش خصوصی | توسعه استانداردهای مشترک | استانداردها، ابزارها و شیوه های مشترک را برای حسابرسان هوش مصنوعی توسعه دهید. |
اسناد انتشار ربات چت GPT-4 OpenAI شامل یک نقشه سیستمی بود که خطرات مرتبط با GPT-4 و نحوه کاهش آنها توسط OpenAI را در یک فرآیند تسریع برای ارائه اولین مدل GPT-4 به بازار شرح می داد.
نویسندگان مقاله معتقدند که این نقشه سیستم به عنوان یک ابزار ارتباطی برای نشان دادن تعهد OpenAI به امنیت کافی نیست. این تفسیر چالشهایی را که OpenAI در ارائه اظهارات روشن و مؤثر در زمینه مسائل امنیتی و اخلاقی مرتبط با محصولات هوش مصنوعی خود با آن مواجه است، نشان میدهد.
محققان در کار خود، رویکرد OpenAI را با رویکرد Anthropic و پلت فرم کلود آن مقایسه کردند. آنها از تصمیم آنتروپیک برای به تاخیر انداختن راه اندازی کلود برای جلوگیری از توسعه سریع قابلیت های هوش مصنوعی ستایش کردند. به نظر آنها این تصمیم به عنوان نشانه پرهزینه پرهیز تلقی می شود.
دانشمندان در کار خود خاطرنشان کردند که این رویکرد نشان دهنده تعهد عمیق تر به ایمنی و اخلاق در توسعه هوش مصنوعی است. این تصمیم نه تنها نشان دهنده احتیاط آنتروپیک در مواجهه با پیشرفت های تکنولوژیکی است. بلکه میتواند به عنوان الگویی برای سایر شرکتهای هوش مصنوعی باشد که میخواهند نشان دهند که به مفاهیم اخلاقی و ایمنی فناوریهای خود توجه زیادی دارند.
در مقاله فوق الذکر، محققان تاخیر Anthropic در انتشار Claude را تجزیه و تحلیل کردند و دریافتند که با انتظار برای انتشار Claude تا زمانی که یک شرکت دیگر محصول مشابهی را عرضه کند، Anthropic نشان داد که این نوع خاص خواستن برای جلوگیری از عجله بود که به نظر میرسد به انتشار این محصول دامن زده است. کلود ChatGPT. موفق شد. شرکت مذکور با استفاده از پرداخت اقساطی به این هدف دست یافت. اینها هزینه های ثابتی هستند که با گذشت زمان قابل جبران نیستند.
در این تحلیل، آنتروپیک اعتبار تعهدات امنیتی هوش مصنوعی خود را با منصرف کردن مدل خود از انتشار زودهنگام و پذیرش ضررهای احتمالی درآمد در آینده افزایش داد. هدف از این اقدام کسب سهم بیشتر از بازار نبود. بلکه در مورد ارتقای استانداردهای صنعت و کمک به شکلگیری انتظارات مشترک در زمینه توسعه مسئولانه و استفاده از هوش مصنوعی بود. این رویکرد منعکس کننده تاکید آنتروپیک بر اهمیت اخلاق و ایمنی در توسعه هوش مصنوعی است.
گزارش نیویورک تایمز نشان می دهد که سام آلتمن، مدیرعامل وقت OpenAI، پس از انتشار مقاله هلن تونر از نتایج ناراضی بود. آلتمن نگرانی های خود را در مورد این مقاله در ایمیلی به کارکنان OpenAI بیان کرد. سپس اتفاق جالبی رخ داد: ایلیا سوتسکور، رئیس تحقیقات OpenAI، ابتدا موضوع اخراج هلن تونر از هیئت مدیره را مطرح کرد. اما ناگهان تصمیم گرفت به جای آن علیه آلتمن اقدام کند. تصمیمی که ظاهرا بعد از چند روز از آن پشیمان شده است.
نظر شما از کاربران TechNock در مورد ریشه اختلافات بین سام آلتمن و هیئت مدیره OpenAI چیست؟ به نظر شما چه عاملی باعث شد تا این شرکت هفته پر جنب و جوشی داشته باشد؟
علت اختلافات در شرکت OpenAI چه بود؟ برای اولین بار در Tech Knock – اخبار دنیای فناوری. ظاهر شد.