بیانه ای برای جلوگیری از گسترش هوش مصنوعی

بیگ بنگ: ایلان ماسک و بیش از ۱۰۰ کارشناس هوش مصنوعی(AI) در نامه‌ای، از سازمان ملل متحد خواستند مانع ساخت و گسترش تکنولوژی ربات های قاتل شود. نامه سرگشاده‌ای که توسط ماسک، مصطفی سلیمان (از مدیران ارشد گوگل)، و ۱۱۴ متخصص رباتیک و هوش مصنوعی امضا شد، از سازمان ملل متحد می‌خواهد با ممنوعیت توسعه همه سلاح های خودکار مهلک از “انقلاب سوم جنگ جهانی” جلوگیری کند.

به گزارش بیگ بنگ، این نامه، همزمان با بزرگترین کنفرانس جهانی هوش مصنوعی بنام IJCAI 2017، که در هفته جاری در استرالیا برگزار می شود، هشدار می دهد که در آینده نزدیک، دستگاه های خودکار قادر خواهند بود علاوه بر دشمنان مبارز خود، انسان های بی‌گناه را هم مورد حمله قرار دهند. به نوشتۀ این کنسرسیوم: « زمانی که این ربات‌ها تولید شدند، محققان، دامنه اختیارات بسیار گسترده‌ای را در درگیری‌های مسلحانه به آنها می دهند و درک آنها در زمان‌بندی سریع‌تر از انسان است. این ربات‌ها سلاح‌هایی هستند که حاکمان قدرت و تروریست‌ها از آنها بر ضد افراد بی‌گناه استفاده می‌کنند. در واقع، حاکمان قدرتمند جهان این سلاح‌ها را به گونه‌ای هک کرده‌اند که به شیوه‌ نامطلوب رفتار کنند.»

این اولین بار نیست که ماسک و طرفداران دیدگاه جهانی او متحد شده اند تا توجه جهانی را به سمت تهدیدی که سلاح های خودکار به بشریت دارد سوق دهند. ایلان ماسک، بنیانگذار شرکت اسپس ایکس و تسلا، حامی سازمان OpenAI نیز هست، این سازمان غیر انتفاعی به دنبال پیشرفت ِ تحقیقات علمی و اخلاقی است. علیرغم نگرانی های متخصصان هوش مصنوعی، تاخیرهای مداوم در ایجاد ممنوعیت ساخت سلاح های خودکار، موجب شد تا عده‌ای از پیامدهای این تکنولوژی، به خصوص با توجه به سرعت زیاد توسعه سیستم های هوش مصنوعی، واهمه داشته باشند.

در این نامه آمده است: « زمان زیادی برای عمل کردن باقی نمانده. زمانی که این درب باز شود، بستن آن دشوار است. باید امروز تصمیم بگیریم و ببینیم که چه آینده‌ای را می‌خواهیم.» در واقع “انقلاب سوم” که در آن ربات‌های قاتل، جانشین باروت و سلاح های هسته ای هستند و دنیای کنونی را بهتر نکرده‌ است. با اینکه این نامه اولین موردی نیست که کارشناسان در مورد ربات‌های قاتل هشدار داده‌اند، اما اولین باری است که نمایندگان شرکت های هوش مصنوعی و رباتیک – از ۲۶ کشور جهان – موضع مشترکی در این مورد در پیش گرفته‌اند، محققانی همچون استیون هاوکینگ، نوام چامسکی و استیو وازنیاک، بنیانگذار اپل.

رایان گارپی، بنیانگذار فناوری رباتیک Clearpath، می گوید: «تعدادی از شرکت های برجسته و افرادی که این نامه را امضا کرده اند، از اعلام خطر ما حمایت می‌کنند که نشان می‌دهد این سناریوی فرضی نیست، بلکه موضوع بسیار واقعی و جدی است که نیاز به اقدام فوری دارد. نباید این واقعیت را نادیده بگیریم که، بر خلاف سایر حوزه‌های بالقوه هوش مصنوعی که هنوز در قلمرو علمی- تخیلی باقی مانده است، سیستم سلاح های مستقل در حال توسعه هستند.»

در حالی که کابوس سیستم های سلاح مستقل می تواند در آینده شبیه به T-800 در فیلم ترمیناتور باشد، اما واقعیت این است که ماشین های کشتار مبتنی بر هوش مصنوعی، در حال حاضر فقط در حد یک ایده است. با این حال ابزاری با قابلیت خودکار یا نیمه-خودکار در سلاح هایی مانند اسلحه نگهبانی سامسونگ SGR-A1، هواپیمای بدون سرنشین BAE Systems Taranis، و زیردریایی شکارچی دریا متعلق به دارپا، ساخته شده اند. به عبارت دیگر، بذر تکنولوژیکی روبات های قاتل در زمین، دریا و هوا وجود دارد – و قوانین موثر برای تنظیم این ماشین های کشنده (و صنعتی که آنها را می‌سازد) هنوز نوشته و تصویب نشده است.

توبی والش، پژوهشگر هوش مصنوعی استرالیا، یکی از سازماندهندگان IJCAI 2017، می گوید: «هر فناوری می‌تواند به نحو صحیح یا غیرصحیح استفاده شود و هوش مصنوعی نیز از این قاعده مستثنی نیست. می‌توان از این تکنولوژی بهره گرفت تا از پس بسیاری از مشکلات روزافزون جامعه برآمد … و یا می توان در سلاح های خودکار برای صنعتی شدن جنگ استفاده کرد. امروز باید تصمیم بگیریم که کدام یک از این‌ راه ها را انتخاب کنیم.»

ترجمه: فاطمه علیلو/ سایت علمی بیگ بنگ

منبع: sciencealert.com

image_pdfimage_print
(14 نفر , میانگین : 5٫00 از 5)
لینک کوتاه مقاله : http://bigbangpage.com/?p=69480
تحریریه‌ی بیگ بنگ

تحریریه‌ی بیگ بنگ

وب سایت بیگ بنگ یک سایت علمی، تحقیقاتی میباشد که توسط تعدادی از علاقمندان به علم و دانش اداره می شود. این سایت از اواخر سال 1390 تاکنون به فعالیت خود در این حوزه ادامه داده است.

شما ممکن است این را هم بپسندید

۹ پاسخ‌ها

  1. e=mc^2 گفت:

    در نیت خیر ایلان ماسک شکی نیست .ولی یه خورده زوده واسه ترس از استقلال هوش مصنوعی

  2. پوپک گفت:

    مگه میشه جلوی پیشرفت هوش مصنوعی رو گرفت !؟؟ خیلی خنده داره اگه کسی اینطوری فکر کنه

  3. پوپک گفت:

    وقتی صحبت از جلوگیری از هوش مصنوعی میکنیم دقیقا شبیه اینه که صحبت از فکر نکردن و تخیل نداشتن و به طور کلی جلوگیری از ایده پردازی میکنیم…!! و این موضوع اساسا خیلی خنده داره… جلوی هر چیزی رو میشه گرفت به جز تفکر و اندیشه ورزی. جلوی تفکر و اندیشیدن رو مطلقا نمیشه گرفت. از الان تا ابد

  4. امیر گفت:

    دوستان اقای ماسک حتما یه چیزی میدونه که گفته
    هوش مصنوعی موجب بیکاری میلیارد ها نفر می شود
    ممکنه توسط هکرهاهک بشه وازش سواستفاده شه که خیلی خطرناکه

  5. mehran گفت:

    نمیشه بهش فکر نکرد.ولی ایشون میگن از خیر ساخت چنین تکنولوژی بگذرین. الان فکر کردن به اینکه انسانها اثیر رباط ها بشن یکم تخیلی بنظر میاد اگرم چنین تکنولوژی الان ساخته شه و دست ارتش قرار بگیره خیلی کنترل شدست و نهایت بخوان ۱۰۰ تا رباط رو تو یه جنگی ازش استفاده کنن و تست کنن که اگرم هک بشن و کنترلشون از دست بره به هر حال میشه از بین بردشون و مهارشون کرد. ولی چیزی که ایشون داره راجبش حرف میزنه درمورد ۵۰۰،۶۰۰ سال دیگست که این تکنولوژی انقدر نفوذ کنه تو زندگی مردم و همه گیر بشه که نشه کنترلش کرد.مثلا آینده ای که کل ارتش یه کشور رو صلاح های رباتیک و خودکار تشکیل بده

  6. بهنام طیبی گفت:

    اگه واقعا هوش مصنوعی به نقطه ای برسه که دارای خوداگاهی برسه به نظر منم فاجعه بار و خطرناک ولی فکر نکنم به اون نقطه به این زودی ها برسه

  7. محمدحسین گفت:

    خیلی زوده برای این نگرانی ها!! اینکه ربات ها کنترل همه چیز رو بدست بگیرن و از دسترس ما انسانها خارج بشن هنوز سوژه داغ و پرطرفداریه برای ساخت فیلم های علمی تخیلی مثل ترمیناتور! حتی برای شماره های جدید این مجموعه هم باز میشه از این فکر و تخیل استفاده کرد!! دوستان اشاره کردن و واقعا هم همینه؛ سلاح ها و ابزارهای رباتیک الان در دروان کنونی خیلی ساده و کم هستن و در حد گسترده مثل اون چیزی که تو فیلمهایی مثل ترمیناتور وجود داره حالا حالا خیلی فاصله داره!!

  8. علی گفت:

    نظرتون چیه اگر بگویم که بسیاری از انسانهای امروز رباتی بیش نیستند. تسخیر فرهنگ ها و سنتها با فناوری زدگی امر است که محقق شده است و سناریوهای فکری و عقیدتی که توسط غربیها نوشته می شود و در کشورهای دنیا اجرا می شود حاکی از این است که می شود همین انسان پوست و گوشت و خون دار را نیز به ربات تبدیل کرد.

  9. مهران گفت:

    بحث افتادن این سلاح ها بدست افراد سورجو هم هست چه فروشنده و چه خریدار.وقتی بشه این رباط ها و سلاح ها رو با قیمت گذافی فروخت قطعا به یک تجارت پر سور تبدیل میشه ولی دیگه مهم نیست بدست کی بیفته فقط بحث ساخت و فروشش مطرحه اونوقته که اینها بدست گروهک های تروریسی و بخشی از کشورهای آسیایی میفته و این تهدیدی هست برای بشر.همین الان کروهکی مثل داعش سلاح هاش ازکجا تامین میشه؟خودش که سلاح نمیسازه یه عده سود جو بهش میفروشن.

پاسخ دهید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *