تنها چند روز پس از راه اندازی چت ربات Q آمازون، نگرانی هایی در میان کارمندان این شرکت در مورد دقت و مسائل مربوط به حریم خصوصی این ربات ایجاد شد.
با توجه به اسناد فاش شده از پلتفرمر مشخص شد که چت ربات Q آمازون از توهمات شدید رنج می برد و اطلاعات حساسی مانند مکان مراکز داده AWS و برنامه های تخفیف داخلی درز می کند. یکی از کارمندان آمازون این را به عنوان “سطح شدت 2” توصیف کرد. این بدان معناست که مشکل به قدری جدی است که باید به مهندسان اطلاع داده شود و آنها را برای حل مشکل در آخر هفته تعیین کنند.
Q در زمانی که آمازون تلاش می کند با رقبایی مانند مایکروسافت و گوگل و سایر شرکت های فناوری برای توسعه ابزارها و زیرساخت های مبتنی بر هوش مصنوعی رقابت کند، با مشکل مواجه شده است.
در سپتامبر 2023، غول خرده فروشی آمریکایی اعلام کرد که 4 میلیارد دلار در استارتاپ هوش مصنوعی Anthropic سرمایه گذاری خواهد کرد. همچنین در کنفرانس سالانه توسعه دهندگان خدمات وب آمازون، Chatbot Q معرفی شد که می توان گفت مهم ترین ابتکار جدید هوش مصنوعی این شرکت است.
آمازون در پاسخ به نگرانی های کارمندان خود، اهمیت این مسائل را کم اهمیت جلوه داده است. یکی از سخنگویان شرکت گفت که دریافت بازخورد از طریق کانال‌های داخلی و سیستم‌های فروش بلیط در آمازون یک روش معمول است. وی افزود: بر اساس این بازخورد، تاکنون هیچ مشکل ایمنی شناسایی نشده است. آمازون تاکید کرد که از همه بازخوردهای دریافتی قدردانی می کند و به توسعه و هماهنگی ربات Q چت در حالی که از مرحله پیش نمایش به یک محصول عمومی می رود، ادامه خواهد داد.
سخنگوی آمازون در بیانیه‌ای جداگانه، ادعاهای کارکنان مبنی بر افشای اطلاعات Q را رد کرد و گفت: ربات چت Q هیچ اطلاعات حساسی را فاش نکرد.
Chatbot Q، که در حال حاضر به عنوان موجود است پیش نمایش رایگان این به عنوان نوعی نسخه نرم افزار تجاری ChatGPT در دسترس است. در ابتدا، ربات چت می‌تواند به سؤالات مربوط به AWS پاسخ دهد، کد منبع را ویرایش کند و منابع را ذکر کند. این ابزار برای رقابت با محصولات مشابه مایکروسافت و گوگل و حداقل در ابتدا ارزانتر از رقبا ارائه می شود.
هنگام معرفی Q Chatbot، مدیران آمازون آن را به عنوان ابزاری امن تر از محصولات مصرفی مشابه مانند ChatGPT معرفی کردند. آدام اسلیپسکی، مدیر عامل خدمات وب آمازون نیویورک تایمز این می گوید که شرکت ها استفاده از دستیارهای هوش مصنوعی مانند Q را در محیط تجاری خود به دلایل امنیتی و حفظ حریم خصوصی ممنوع کرده اند. با این حال، آمازون Q را به گونه ای طراحی کرد که از یک ربات چت مصرفی ایمن تر و خصوصی تر باشد.
ناگفته نماند که اکنون یک سند داخلی به مشکلات احتمالی کیو نیز اشاره کرده است. مانند توهمات و پاسخ های نادرست که می تواند حساب های مشتریان را در معرض خطر قرار دهد. این خطرات معمولاً با مدل‌های زبانی بزرگ که گاهی پاسخ‌های نادرست یا نامناسب ایجاد می‌کنند، به وجود می‌آیند.
پست Chatbot Q اطلاعاتی درباره شرکت آمازون فاش می کند اولین بار در Tech Knock – اخبار دنیای فناوری ظاهر شد. ظاهر شد.