ربات چت ChatGPT در سال 2022 به یکی از تحسین برانگیزترین نوآوری های فناوری در جهان تبدیل شد. این چت ربات مبتنی بر هوش مصنوعی در هر زمینه ای که فکرش را بکنید نظر خواهد داد. ChatGPT تنها در یک هفته پس از انتشار عمومی به بیش از یک میلیون کاربر رسید.
OpenAI، سازنده ChatGPT، در حال مذاکره با سرمایه گذاران بالقوه برای رسیدن به ارزش بازار 29 میلیارد دلاری است. یکی از مهم ترین سرمایه گذاری ها توسط مایکروسافت انجام می شود. ردموندی ها به دنبال امضای قرارداد 10 میلیارد دلاری با OpenAI برای استفاده از ChatGPT در خدمات نرم افزاری خود هستند.
OpenAI که در سال 2015 با هدف تولید دستگاه های فوق هوشمند در سانفرانسیسکو تاسیس شد، با جذب سرمایه، به یکی از ارزشمندترین شرکت های هوش مصنوعی در جهان تبدیل می شود.
مجله تایم در گزارشی بحث برانگیز مسیر موفقیت OpenAI را مورد بحث قرار داد. به منظور کاهش خطرات و آزار و اذیت احتمالی ناشی از ChatGPT، این شرکت شروع به استخدام کارگران کنیایی با حقوق کمتر از دو دلار در ساعت کرد.
کار با کارگران کنیایی برای بهبود ربات چت برای OpenAI بسیار مهم بود. نسخه قبلی ChatGPT که با نام GPT-3 شناخته می شود، از قابلیت های جمله بندی خود می بالید، اما نتوانست محبوبیت زیادی کسب کند. یکی از دلایل اصلی این بود که GPT-3 گاهی اوقات اظهارات خشونت آمیز، جنسیتی و نژادپرستانه می کرد.
GPT-3 بر روی صدها میلیارد کلمه مورد استفاده در اینترنت آموزش داده شد. همین مجموعه داده بزرگ دلیل پاسخ های هوشمندانه GPT-3 بود، اما در عین حال به عنوان بزرگترین نقطه ضعف آن شناخته می شد.
بخش های مهمی از اینترنت حاوی محتوای نژادپرستانه و تبعیض آمیز است. این باعث شد OpenAI نتواند جلوی اظهارات نژادپرستانه GPT-3 را بگیرد. تیمی متشکل از صدها نفر دهه ها طول کشید تا عبارات نژادپرستانه و جنسیتی را از مجموعه داده استفاده شده برای GPT-3 حذف کنند. OpenAI یک مکانیسم ایمنی جدید مبتنی بر هوش مصنوعی برای از بین بردن مشکلات و ایجاد یک ربات چت که همه می توانند از آن استفاده کنند، توسعه داد.
OpenAI از تجربیات شرکت هایی مانند فیس بوک برای ساخت سیستم امنیتی مورد نظر استفاده کرد. در سال‌های اخیر، شبکه‌های اجتماعی ثابت کرده‌اند که می‌توان از هوش مصنوعی برای توسعه سیستم‌هایی برای مبارزه با سخنان نفرت‌انگیز و نژادپرستی استفاده کرد.
طرح OpenAI ساده به نظر می رسید: نمونه هایی از خشونت، سخنان نفرت انگیز و سوء استفاده جنسی را به هوش مصنوعی تزریق کنید و سیستم محتوای مورد نظر را شناسایی کرده و آن را از چت بات حذف کند. سیستم هوش مصنوعی قرار بود محتویات مزاحم موجود در ChatGPT را شناسایی کرده و از مشاهده آنها توسط کاربر جلوگیری کند.
تحقیقات مجله تایمز نشان می دهد که OpenAI ده ها هزار نمونه متن را برای یک شرکت فعال در کنیا در اواخر سال 2021 ارسال کرد تا سیستم امنیتی خود را توسعه دهد. بخش قابل توجهی از این متون از تاریک ترین مناطق اینترنت استخراج شده است. برخی از این متون موضوعاتی مانند سوء استفاده جنسی از کودکان، وحشیگری انسانی، قتل، خودکشی، شکنجه، رهایی از خود و رازداری را با جزئیات بسیار شرح داده اند.
شریک تجاری OpenAI برای توسعه سیستم امنیتی شرکتی به نام Sama است که در سانفرانسیسکو مستقر است اما کارگرانی را در کنیا، اوگاندا و هند استخدام می کند. این کارگران داده های غول های سیلیکون ولی مانند گوگل، متا و مایکروسافت را برچسب گذاری می کنند. سما خود را یک شرکت هوش مصنوعی «اخلاقی» می‌نامد و می‌گوید بیش از 50000 نفر را از فقر نجات داده است.
تحقیقات مجله تایم نشان داد که کارگران استخدام شده توسط سما از طرف OpenAI بین 1.32 تا 2 دلار در ساعت، بسته به مکان و طول کار، حقوق دریافت می‌کنند. تایم می گوید این ادعا بر اساس مطالعه صدها صفحه از اسناد داخلی Sama و OpenAI، از جمله فیش حقوقی کارگران است. تایم همچنین با چهار کارمند سما که روی این پروژه کار می کردند مصاحبه کرد.
در پاسخ به افشاگری مجله تایم، OpenAI در بیانیه ای همکاری با کارگران سما کنیایی را تایید کرد. این شرکت می گوید این ابزار که با کمک کارگران کنیایی توسعه یافته بود، در نهایت به ChatGPT راه یافت.
یکی از کارمندان سما که وظیفه خواندن متون و تگ کردن آنها را بر عهده داشت، گفت: پس از خواندن متنی با محوریت رابطه جنسی مردی با سگ در مقابل کودک خردسال، بارها این صحنه را تصور کرده و مورد آزار و اذیت قرار گرفته است.
به گفته تایم، سما به دلیل انتقادات، پروژه مشترک با OpenAI را در فوریه 2022، هشت ماه زودتر از حد انتظار لغو کرد. بررسی ها نشان می دهد که OpenAI و Sama سه قرارداد به ارزش حدود 200000 دلار امضا کرده اند.