در میان سیل شایعات و گمانه زنی ها پیرامون برکناری و بازگشت ناگهانی مدیر عامل OpenAI سام آلتمن، یک سوال مهم باقی می ماند: چه چیزی هیئت مدیره او را برکنار کرد؟
چیزی را گزارش کنید مجردها بخشی از پاسخ به این سوال در یک پروژه مخفی در OpenAI به نام پروژه Q* یا پروژه Q-Star نهفته است. جزئیات این پروژه محدود و مبهم است، اما تاکنون تمام اطلاعات موجود حاکی از آن است که این پروژه یک تحول بالقوه انقلابی در هوش مصنوعی است.
پروژه Q* چیست؟
Project Q* یک پروژه محرمانه در OpenAI است که اطلاعات آن بر اساس گزارش های اخیر و پیامدهای برکناری مدیر عامل OpenAI سام آلتمن به دست آمده است.
روزنامه نگاران رویترز در 22 نوامبر، آنها اطلاعاتی را از “دو فرد آگاه” دریافت کردند که رویدادهای پشت صحنه ای را که در هفته های منتهی به شلیک در OpenAI رخ داده بود، روشن کرد. این اطلاعات نشان می دهد که پروژه Q* ممکن است بخشی از یک پیشرفت بزرگتر و مهمتر در فناوری هوش مصنوعی باشد.
پروژه Q* در OpenAI به عنوان مدل جدیدی از هوش مصنوعی شناخته می شود که در یادگیری و انجام محاسبات ریاضی برتری دارد. گفته میشود که این مدل هنوز فقط در سطح حل مسائل ریاضی در سطح مدرسه ابتدایی است، اما بهعنوان نقطه شروعی امیدوارکننده برای نشان دادن سطحی از هوش که قبلاً توسط محققان درگیر ناشناخته بود، به نظر میرسید.
در نگاه اول، این پروژه بی ضرر به نظر می رسد، اما موضوع پیچیده تر است. وجود Q* به قدری هشدار دهنده تلقی می شد که باعث شد چندین محقق OpenAI به هیئت مدیره نامه ای علیه این پروژه ارسال کنند. آنها ادعا کرده اند که Q* پتانسیل تهدیدی برای بشریت را دارد. این هشدار نشان می دهد که این پروژه ممکن است اثرات و پیامدهایی فراتر از درک قبلی از هوش مصنوعی داشته باشد.
از سوی دیگر، تفاسیر مختلفی از پروژه Q* وجود دارد که نشان می دهد این پروژه لزوما آنقدر که ادعا می شود مهم و سرنوشت ساز نیست. Yann LeCun، دانشمند ارشد هوش مصنوعی در Meta، در توییتی توضیح داد که هدف پروژه Q* جایگزینی «پیشبینی خودکار توکن» با «برنامهنویسی» است. این رویکرد به عنوان راه حلی برای بهبود قابلیت اطمینان مدل های زبان بزرگ (LLM) پیشنهاد شده است.
LeCun میگوید همه رقبای OpenAI، از جمله Meta، تحقیق و توسعه در این زمینه انجام میدهند و OpenAI افرادی را بهطور خاص برای این منظور استخدام میکند. این نشان می دهد که در حالی که برخی از جنبه های Q* نگران کننده است، جنبه های دیگر ممکن است بخشی از تحقیقات مداوم هوش مصنوعی باشد که برای پیشرفت این زمینه ضروری است.
در توییت Lecun می آید:
یکی از بزرگترین چالشها در بهبود قابلیت اطمینان مدلهای زبان بزرگ (LLM) جایگزینی پیشبینی رمز خودکار با برنامهنویسی است. این یک موضوع اصلی در تحقیقات فعلی هوش مصنوعی است و تقریباً همه آزمایشگاههای برتر در این زمینه روی آن کار میکنند، از جمله FAIR (تحقیقات هوش مصنوعی فیسبوک)، DeepMind و OpenAI. برخی از این موسسات حتی یافته ها و نتایج خود را منتشر کرده اند.
پروژه Q* احتمالاً تلاش OpenAI در این زمینه است. OpenAI تقریباً نوام براون را استخدام کرد که به خاطر کارش در Libratus (در پوکر) و Cicero (در دیپلماسی) شناخته شده است.
استدلال LeCun این نیست که چنین پیشرفت هایی در هوش مصنوعی مهم نیستند. در عوض، او معتقد است که این یک پیشرفت ناشناخته یا بدون مناقشه در میان سایر دانشمندان هوش مصنوعی نیست. LeCun از آلتمن انتقاد می کند و ادعا می کند که آلتمن “سابقه طولانی خودفریبی” دارد و همچنین بیان می کند که گزارش های مربوط به Q* او را متقاعد نمی کند که پیشرفت قابل توجهی در زمینه برنامه نویسی با استفاده از مدل های یادگیری حاصل شده است.
آیا سم آلتمن واقعا از پروژه Q* اخراج شد؟
از زمانی که گمانه زنی ها در مورد اخراج سام آلتمن آغاز شد، یکی از عوامل اصلی در بحث، موضع او در مورد مسائل ایمنی بوده است. آلتمن کسی است که OpenAI را از ریشه های غیرانتفاعی خود دور کرده و به سمت تجاری سازی سوق داد. این با راهاندازی عمومی ChatGPT و در نهایت راهاندازی ChatGPT Plus آغاز شد، که هر دو دوره جدیدی از هوش مصنوعی مولد را آغاز کردند و شرکتهایی مانند گوگل را بر آن داشتند تا فناوریهای خود را عمومی کنند.
با وجود هیجان در مورد تحولات جاری در جهان، نگرانی های اخلاقی و ایمنی همیشه در مورد دسترسی عمومی به این فناوری مطرح شده است.
نگرانی های بیشتری نیز در مورد سرعت توسعه فناوری، به ویژه با توجه به انتقال از GPT-3.5 به GPT-4، مطرح شده است. برخی بر این باورند که این فناوری خیلی سریع و بدون مقررات و نظارت کافی در حال تکامل است. بر اساس گزارش رویترز، “تجاری سازی تحولات قبل از درک کامل تاثیرات آنها” به عنوان یکی از دلایل اصلی اخراج اولیه آلتمن ذکر شده است.
اگرچه ما به طور قطع نمی دانیم که آیا آلتمن به طور خاص در نامه Q* فوق الذکر ذکر شده است یا خیر، این یکی از دلایل تصمیم هیئت مدیره برای اخراج آلتمن ذکر شده است که از آن زمان به کار بازگردانده شده است.
قابل توجه است که چند روز قبل از اخراج، آلتمن در یک کنفرانس هوش مصنوعی گفته بود که در «جلسهای» شرکت کرده است که در آن پیشرفت قابل توجهی در «کشف محدودیتها» حاصل شده است. این زمان می تواند نشان دهنده این باشد که او به موفقیت در Q* اشاره می کند و اگر چنین باشد، نشان دهنده مشارکت عمیق آلتمن در پروژه است.
با کنار هم قرار دادن این اطلاعات، به نظر میرسد که نگرانیهایی در مورد تجاریسازی از همان ابتدا وجود داشت و رفتار آلتمن با Q* تنها جدیدترین عامل تأثیرگذار بود. این واقعیت که هیئت مدیره آنقدر نگران توسعه سریع آن بود (و شاید نگرش خود آلتمن نسبت به آن) که تصمیم گرفت مدیر عامل معروف خود را اخراج کند، شگفت آور است.
برای پایان دادن به برخی گمانه زنی ها، The Verge از یک “فرد با دانش” شنیده است که نامه ادعایی در مورد Q* هرگز توسط هیئت مدیره دریافت نشده است و “پیشرفت تحقیقاتی شرکت” دلیل اخراج آلتمن نبوده است.
قبل از اینکه توضیح مناسبی برای همه این حوادث داشته باشیم، باید منتظر گزارش های بیشتر باشیم تا اطلاعات دقیق تری به دست آوریم و وضعیت را بهتر درک کنیم.
آیا پروژه Q* واقعا آغاز AGI است؟
اما باید به گفته لوکان که قبلا ذکر شد نیز توجه کنیم. سوال هرچه که باشد، احتمالاً می توان فرض کرد که OpenAI تنها آزمایشگاهی نیست که سعی در توسعه آن دارد. و اگر در نهایت دلیل اخراج آلتمن نباشد، همانطور که گزارش شده است لبه او اشاره می کند که شاید آنقدر مهم نباشد که گزارش رویترز ادعا می کند.
هوش عمومی مصنوعی (AGI)، که OpenAI از زمان آغاز به کار خود در تلاش برای دستیابی به آن بوده است، به عنوان سیستمهای مستقلی تعریف میشود که قادر به عملکرد بهتر از انسان در بیشتر وظایف تجاری ارزشمند هستند. در تعریفی که رویترز به آن استناد می کند، به «سیستم های خودآگاه» اشاره ای نشده است. درک این موضوع مهم است زیرا بسیاری از مردم تصور می کنند که AGI مخفف هوش مصنوعی است.
پیشرفت در ریاضیات هوش مصنوعی نقش کلیدی در توسعه AGI ایفا می کند، حتی اگر در ابتدا چندان مهم به نظر نرسد. استفاده از کامپیوتر در ریاضیات برای سالیان متمادی رایج بوده است، اما امکانات ارائه شده توسط سیستم های جدید مانند Q* فراتر از یک ماشین حساب ساده است. این توانایی ها شامل منطق و استدلال انسان وار است که محققان آن را گامی مهم به سوی AGI می دانند.
LLM ها (مدل های زبان بزرگ) مهارت های نوشتاری و زبانی قابل توجهی دارند و می توانند پاسخ های روان و متنوعی ارائه دهند. در مقابل، در ریاضیات معمولاً فقط یک پاسخ صحیح وجود دارد. گزارش رویترز می گوید که محققان هوش مصنوعی معتقدند این نوع هوش حتی می تواند در تحقیقات علمی نوآورانه استفاده شود.
Q* که هنوز در مراحل اولیه توسعه قرار دارد، به نظر می رسد بزرگترین پیشرفت از زمان GPT-4 باشد. این توسعه باید به عنوان یک گام مهم به سمت AGI در مفهوم OpenAI در نظر گرفته شود. بسته به دیدگاه شما، این پیشرفت می تواند باعث ایجاد هیجان خوش بینانه یا ترس وجودی شود.
با این حال، رقابت در این زمینه نیز باید در نظر گرفته شود. به گفته لوکان، Q* نباید تنها توسط OpenAI توسعه یابد؛ آزمایشگاه های دیگری نیز در حال اجرا هستند. همانطور که The Verge اشاره می کند، ممکن است آنقدر مهم نباشد که رویترز ادعا می کند.
پروژه Q* OpenAI چیست؟ برای اولین بار در Tech Knock – اخبار دنیای فناوری. ظاهر شد.