Microsoft Research Orca 2 LLM را منتشر کرده است

این هفته، Microsoft Research اعلام کرد که نسخه دوم زبان Orca خود را با نام Orca 2 LLM منتشر کرده است.

به گفته TechNock، مایکروسافت ممکن است با OpenAI و مدل‌های بزرگ زبان GPT آن برای کمک به ساخت سرویس‌های هوش مصنوعی مانند Copilot (BingChat سابق) همکاری کرده باشد. با این حال، ردموندی ها نیز روی مدل های زبان خود کار می کنند. این هفته، Microsoft Research اعلام کرد که نسخه دوم زبان Orca خود را با نام Orca 2 LLM منتشر کرده است.

در ایمیل یک وبلاگمایکروسافت اعلام کرد که Orca 2 به عنوان یک مدل زبان کوچکتر طراحی شده است. با این حال، هنوز هم می توان از آن برای پاسخ به سوالات پیچیده مانند LLM استفاده کرد. Orca 2 در دو اندازه با 7 میلیارد و 13 میلیارد پارامتر موجود است و برخی از آنها بر اساس مدل Llama 2 LLM هستند که اوایل امسال با همکاری متا عرضه شد. این شرکت این مدل را بر اساس داده های مصنوعی متناسب با کیفیت چشمگیر بهینه کرد.

مایکروسافت اضافه کرد که این به Orca 2 LLM اجازه می‌دهد تا مشکلاتی را که «پنج تا ۱۰ برابر بزرگ‌تر» از سایر مدل‌های زبان هستند، حل کند. Orca 2 با استفاده از مجموعه داده های مصنوعی بزرگ و بسیار سفارشی آموزش داده شده است.

داده های آموزشی برای آموزش Orca به دو روش استدلال مختلف، از جمله پردازش گام به گام و پرس و جو و تولید، پرس و جو و استدلال و تولید، استخراج و تولید، و روش های پاسخ مستقیم تولید شد. و به او بیاموزید که برای کارهای مختلف راه حل های مختلفی را انتخاب کند.

مدل‌های Orca 2 با مدل‌های زبان بزرگ‌تر مانند Llama 2 و WizardLM با استفاده از طیف وسیعی از معیارها در موضوعاتی مانند “درک زبان، تفکر منطقی، تفکر چند سطحی، حل مسئله ریاضی و درک مطلب” مقایسه شدند. در پست وبلاگ مایکروسافت آمده است:

نتایج اولیه ما نشان می‌دهد که Orca 2 به طور قابل‌توجهی بهتر از مدل‌های با اندازه مشابه عمل می‌کند. علاوه بر این، این مدل به سطوح عملکردی مشابه یا فراتر از مدل‌های حداقل 10 برابر بزرگ‌تر دست می‌یابد و امکان تجهیز مدل‌های کوچک‌تر را با قابلیت‌های استدلال بهتر نشان می‌دهد.

اگرچه مایکروسافت اعتراف کرده است که Orca 2 دارای محدودیت‌هایی است، آزمایش‌های انجام شده تاکنون پتانسیل پیشرفت‌های آینده را نشان می‌دهد. مایکروسافت قصد دارد Orca 2 LLM را به عنوان یک پروژه منبع باز منتشر کند تا دیگران بتوانند روی آن کار کنند.

پست “Microsoft Research Orca 2 LLM را منتشر کرد” اولین بار در Tech Knock – Technology World News ظاهر شد. ظاهر شد.