OpenAI خیر، گوگل همچنان در زمینه هوش مصنوعی در حال اجراست!


به عنوان کاربران عادی، می‌توانیم بنشینیم و نبرد بین شرکت‌ها را تماشا کنیم و از نتایج لذت ببریم. البته در این میان یک عنصر ریسک وجود دارد. سرعت توسعه هوش مصنوعی احتمالاً پس از ورود ChatGPT تسریع خواهد شد. با تشدید رقابت، پوشش ها نیز تشدید می شوند. از آنجایی که شرکت های بزرگ فناوری سرمایه گذاری زیادی در تحقیق و توسعه هوش مصنوعی دارند، ممکن است تمایل کمتری به افشای جزئیات مدل های خود و نحوه کار آنها در مقالات تحقیقاتی داشته باشند.

پرسی لیانگمدیر مرکز تحقیقات مدل های بنیادی گروه هوش مصنوعی استنفورد می گوید که سطح عمومی و باز بودن علمی جامعه تحقیقاتی هوش مصنوعی در سال گذشته تا حدودی کاهش یافته است. لیانگ همچنین بر اهمیت انتشار جزئیات در مورد مدل ها و نحوه عملکرد آنها و همچنین سیاست های آموزشی مرتبط با هوش مصنوعی تاکید می کند. OpenAI مقالاتی را در مورد مدل های جدید خود منتشر می کند اما طبق اعلامیه لیانگ، این شرکت همیشه جزئیات کافی در مورد روش های کاری خود ارائه نکرده است. وی در بخشی از توضیحات خود گفت:

لیانگ این می گوید که خروجی نهایی یک مدل هوش مصنوعی تا حد زیادی تحت تأثیر تنظیم دقیق و فیلترهای اعمال شده توسط انسان است. توسعه دهندگان باید این کار را انجام دهند تا از خروجی متن یا تصاویری که مدل نادرست، سمی یا مغرضانه به نفع برخی از کاربران و علیه دیگران هستند جلوگیری کنند. برای مثال، اگر از نسخه اولیه مدل GPT-3 OpenAI بخواهید داستان کوتاهی درباره یک پزشک بنویسد، شخصیت دکتر همیشه یک مرد خواهد بود. تا زمانی که ChatGPT منتشر شد، این سوگیری ناپدید شد و چنین مشکلاتی ممکن است با آموزش های اضافی برطرف شود. البته، این تنها یک مثال است و احتمالاً صدها مورد دیگر وجود دارد که باید مورد توجه قرار گیرند.

مطابق با لیانگ، OpenAI تمایل دارد در مورد همسویی ارزش صحبت کند، بنابراین این مدل ها با ارزش های انسانی همسو خواهند شد. به همین دلیل از چنین مدل هایی انتظار نمی رود کارهای خطرناکی انجام دهند، اما در مورد ارزش های چه کسانی صحبت می کنیم؟ این مقادیر دقیقا به چه چیزی اشاره دارند؟ در حال حاضر اطلاعاتی در مورد این مقادیر وجود ندارد و نوع فرآیند تصمیم گیری هوش مصنوعی نیز نامشخص است.

OpenAI برخی از این مسائل را با عمومی کردن ChatGPT برطرف کرد. این پلتفرم حتی یک برنامه Bounty تشخیص تعصب دارد که در آن کاربران می‌توانند خروجی نادرست یا مغرضانه را گزارش کنند تا شانس برنده شدن 500 دلار اعتبار API را داشته باشند. گوگل تمایلی به افشای جزئیات محصولات و قابلیت های هوش مصنوعی خود ندارد. البته، سرعت سرسام آور توسعه هوش مصنوعی می تواند بر این شرکت و دیگر غول های فناوری فشار بیاورد تا تنها پس از رفع تمام مشکلات احتمالی، مدل های جدید را عرضه کنند.

منبع: FastCompany