سلاح های خودمختار؛ کابوس هوش مصنوعی و در آستانه تحقق

و سپس در مورد لزوم تجهیز هر چه سریعتر بخش نظامی آمریکا به سیستم‌های خودمختار و تأثیر هوش مصنوعی بر جنگ مشابه دوران معرفی سلاح‌های هسته‌ای صحبت کردند.

یک احساس به من می گوید در چند ماه آینده، نام اریک اشمیت ما بسیار خواهیم شنید. اشمیت در سال 2001 مدیرعامل گوگل شد. یعنی درست زمانی که موتور جستجوی گوگل فقط چند صد کارمند داشت و به سختی درآمد داشت. زمانی که اشمیت در سال 2017 کنار رفت، آلفابت (شرکت مادر گوگل) با چندین پروژه بزرگ، از جمله هوش مصنوعی پیشرفته، خودروهای خودران و کامپیوترهای کوانتومی، به یک شرکت بسیار درآمدزا تبدیل شده بود.

اما یک سال قبل از ترک آلفابت، اشمیت از پنتاگون بازدید کرد تا از نزدیک وضعیت فناوری نظامی آمریکا را ببیند. در حالی که او هنوز مدیر اجرایی الفبا بود، دعوتنامه اشتون کارتروزیر دفاع دولت اوباما را برای ریاست هیئت نوآوری دفاعی جدید که در تلاش برای مدرن کردن وزارت دفاع ایالات متحده است، منصوب کرد.

در سال 2019، اشمیت رئیس کمیسیون امنیت ملی ایالات متحده در زمینه هوش مصنوعی (NSCAI) شد که مسئولیت بررسی تأثیر هوش مصنوعی بر امنیت و رقابت آمریکا را بر عهده داشت. گزارش نهایی این کمیسیون که در سال 2021 منتشر شد، بر رقابت هوش مصنوعی بین آمریکا و چین متمرکز بود و هشدار داد که اگر آمریکا و جامعه جهانی به خود نیایند، ممکن است برخی کشورها از این فناوری برای ارزش های استبدادی را گسترش دهید این گزارش همچنین از دولت ایالات متحده خواسته است تا با بخش خصوصی همکاری بیشتری داشته باشد و بودجه، داده و قدرت محاسباتی برای پروژه های هوش مصنوعی بخش دولتی و خصوصی فراهم کند.

در یک رویداد در پاییز 2022، اشمیت اعتراف کرد که NSCAI با آگاه کردن او از تهدیدات چین علیه ایالات متحده، مسیر زندگی او را تغییر داد. او گفت:

اشمیت در این مصاحبه تامل برانگیز گفت که آمریکا با کمک هوش مصنوعی می تواند فاصله نظامی خود را با چین افزایش دهد و باید از جنگ روسیه و اوکراین درس بگیرد. اشمیت اشاره کرد که ارتش اوکراین با استفاده از فناوری های توسعه یافته توسط بخش خصوصی توانسته است در برابر حمله روسیه مقاومت کند: از جمله تبدیل پهپادهای تجاری به سلاح های نظامی، تغییر کاربری سیستم های ارتباطی منسوخ، چاپ سه بعدی قطعات کمیاب و توسعه نرم افزار جدید برای مدیریت حقوق و دستمزد نظامی. کار چند سال را به چند ماه تبدیل کرده است.

اشمیت شکایت کرد که پنتاگون قوانین سختگیرانه ای برای استفاده از فناوری مدرن دارد و انتخاب و خرید نرم افزار توسط وزارت دفاع ایالات متحده ممکن است سال ها طول بکشد. وی گفت: چالش اصلی ایالات متحده این است که چقدر سریعتر از رقبای خود می تواند از فناوری های تجاری برای اهداف نظامی استفاده کند.

اشمیت پس از ربط ساختن یک سیستم تسلیحاتی بهتر به حوزه فناوری، تصویر وحشتناکی از اینترنت اشیا ترسیم کرد که البته از نظر او بسیار هیجان انگیز است.

اشمیت هنوز حدود 5 میلیارد دلار در آلفابت دارد، یک سرمایه گذار در استارتاپ پیمانکاری نظامی Rebellion Defense است و با شرکت های دیگری که از طریق شرکت های سرمایه گذاری مختلف با دولت همکاری می کنند، ارتباط دارد.

با این اوصاف، یافتن فرد دیگری با این سطح از نفوذ در بخش فناوری امنیت ملی به سختی تحت فشار خواهید بود. به گفته وایرد، هر پیشرفتی که پنتاگون در تحقق رویاهای هوش مصنوعی خود داشته باشد و هر تأثیری که این رویاها بر جهان داشته باشد، می توان گفت که اشمیت احتمالاً در مرکز همه چیز خواهد بود.

اشمیت در این گفتگو همچنین به استارتاپی به نام Istari اشاره کرد که با استفاده از فناوری یادگیری ماشین و Metaverse به صورت مجازی خودروهای نظامی مانند تانک ها را مونتاژ و آزمایش می کند. شاید فعالیت این استارت آپ که سرمایه اشمیت را در اختیار دارد خسته کننده به نظر برسد، اما او می گوید این فعالیت ها می تواند نوآوری های صنعت فناوری را به بخش نظامی آمریکا بیاورد.

اما ایستاری تنها یک قطعه کوچک از یک پروژه بسیار بزرگتر است که در آن اشمیت تلاش می کند ارتش ایالات متحده را وارد فناوری و طرز فکر دره سیلیکون کند.

سال گذشته، پنتاگون کریگ مارتلمحقق ارشد هوش مصنوعی و یادگیری ماشینی دراپ باکس، لیفت و لینکدین را به عنوان سرپرست هوش مصنوعی این وزارتخانه منصوب کرد. مارتل دقیقاً طرز فکر اشمیت را داشت. پس از تصدی پست جدید، او به بلومبرگ گفت که می‌خواهد پنتاگون را از “سکون بوروکراتیک” خارج کند و معتقد است که ارتش آمریکا بسیار کند به سمت هوش مصنوعی پیش می‌رود و این باید تغییر کند.

اگرچه کمیسیون NSCAI منحل شده است، اشمیت اکنون برای نهادی مشابه کار می کند که پیامدهای پیشرفت در بیوتکنولوژی را بررسی می کند. اشمیت همچنین بودجه یک اندیشکده جدید و مستقل به نام پروژه مطالعات رقابتی ویژه (SCSP) را تأمین کرده است که به فناوری‌های فراتر از هوش مصنوعی، از جمله همجوشی هسته‌ای، محاسبات کوانتومی و ارتباطات، و ویرایش ژن می‌پردازد و دامنه آن تا حدودی شبیه به ضد هوش مصنوعی است. پروژه های شوروی آمریکا در دوران جنگ سرد است.

قانون تراشه‌ها که تابستان امسال با حمایت دو حزبی و با انگیزه نگرانی‌ها در مورد پیشرفت چین در صنعت تراشه به تصویب رسید، دولت ایالات متحده را متعهد می‌کند که به شرکت‌های آمریکایی، از جمله اینتل، 200 میلیارد دلار تحقیق و تولید قطعات نیمه‌رسانا را طی 10 سال آینده ارائه دهد. سال ها. و AMD را قرار دهید.

سلاح های جنگی خودمختار؛ دغدغه اصلی ورود هوش مصنوعی به بخش نظامی

اما بعد از همه این حرف ها، چیزی که بیش از هر چیز مرا نگران می کند، رویکرد بی خیال اشمیت به مقوله ای است که چند سال پیش گروه بزرگی از دانشمندان و افراد مشهور در زمینه هوش مصنوعی هشداری جدی درباره آن داده بودند: سلاح های جنگی خودمختار.

اشمیت در مصاحبه با Wired گفت:

در سال 2015، گروه بزرگی از دانشمندان و افراد مشهور، از جمله استیون هاوکینگ، استیو وزنیاک، ایلان ماسک و گروهی از محققان هوش مصنوعی، در نامه‌ای سرگشاده از دولت‌ها خواستند که توسعه «سلاح‌های جنگی خودگردان» را ممنوع کنند تا از آن جلوگیری شود. باید از «مسابقه تسلیحاتی هوش مصنوعی با استفاده نظامی» جلوگیری کرد.

در این نامه که بیش از 34000 نفر آن را امضا کردند، تمرکز بر روی ربات ها و تجهیزاتی بود که ممکن است در آینده به چنان سطحی از هوش برسند که بخواهند خود مختار شوند و با تصمیم خود و بدون دخالت انسان به اهداف شلیک کنند. چیزی شبیه به ربات چهار پا که سیبل را با سلاح گرم شلیک کرد و شاید حتی همان «سیستم خودکار» که اشمیت در مصاحبه اخیرش با Wired در مورد آن صحبت کرد.

نویسندگان نامه هیچ مشکلی با موشک‌های کروز و پهپادهای هدایت شونده از راه دور نداشتند و می‌گفتند «انسان‌ها همه تصمیم‌گیری‌ها را برای هدف‌گیری می‌گیرند». اما توسعه سلاح‌های کاملاً خودمختار که می‌توانند بدون دخالت انسان بجنگند و بکشند، باید در مراحل اولیه متوقف شود.

در بخشی از این نامه آمده بود:

امضاکنندگان نامه در آن زمان بر این باور بودند که فناوری هوش مصنوعی به نقطه‌ای رسیده است که توسعه سلاح‌های خودمختار با قابلیت انتخاب و شلیک به سمت هدف بدون دخالت انسان در چند سال آینده و حتی در دهه‌های آینده امکان‌پذیر خواهد بود. روزی که نگران آمدنشان بودند الان است؟

در جای دیگر این نامه، سلاح های خودمختار به سلاح های شیمیایی و بیولوژیکی تشبیه شده اند:

این افراد معتقد بودند که مسابقه تسلیحاتی نظامی مبتنی بر هوش مصنوعی به هیچ وجه برای بشریت سودی نخواهد داشت و تاکید کردند که راه‌های زیادی وجود دارد که هوش مصنوعی می‌تواند بدون ایجاد ابزارهای جدید برای کشتن مردم، میدان‌های جنگ را برای انسان‌ها، به ویژه غیرنظامیان، ایمن‌تر کند. اما این راه‌ها دقیقاً چیست و آیا این روزها از این راه‌ها صحبت می‌کنیم یا در مورد توسعه سلاح‌های خودمختار که امضاکنندگان نامه درباره آن هشدار داده‌اند؟

استفاده مسئولانه از هوش مصنوعی در تجهیزات نظامی؟

و اما کنفرانس «استفاده مسئولانه از هوش مصنوعی در تجهیزات نظامی» (REAIM) که در روزهای 15 و 16 فوریه (26 و 27 بهمن) برای اولین بار در تاریخ به میزبانی کره جنوبی و هلند برگزار شد. اجلاس بزرگی که روسیه در آن دعوت نشده بود، اوکراین با وجود دعوت در آن شرکت نکرد و همه شرکت کنندگان به جز اسرائیل با رعایت یک سری قوانین موافقت کردند که از تجهیزات نظامی هوش مصنوعی «مسئولانه» استفاده کنند.