آیا هوش مصنوعی از کنترل خارج می‌شود؟

بیگ بنگ: «متاسفم، دِیو؛ نمی تونم این کار رو انجام بدم.» مخاطبان دیالوگ بالا را نخستین‌بار در سال ۱۹۶۸ از زبان رایانۀ هوشمند ِ یک فضاپیما در شاهکار علمی – تخیلی«۲۰۰۱: اودیسه فضایی» شنیدند. با این دیالوگ، رایانه «هال ۹۰۰۰» تایید کرد که قابلیت تفکر دارد و می تواند فضانوردانی را در صدد غیر فعال‌سازی آن هستند، از پای در بیاورد. 

computer named HAL

رایانه قاتل به نام «هال» در فیلم «۲۰۰۱: اودیسه فضایی»

به گزارش بیگ بنگ، حالا پنجاه سال بعد از شاهکار علمی- تخیلی استنلی کوبریک در رابطه با سکونت در فضا، باید این سوال را از خود بپرسیم: «انسان‌ها تا چه اندازه به آینده مورد نظر کوبریک نزدیک هستند؟» آینده‌ای که در آن، انسان‌ها با “هوش مصنوعی” عهد ِ شراکت می بندند و این احتمال وجود دارد که روزی قابلیت کنترل آن را نداشته باشیم!

با توجه به مقاله‌ای که چند روز پیش در مجله «Science Robotics» منتشر شد، پیشرفت‌های مکانیکی حاصل آمده این پیام را می دهد که شاید ما به آینده مورد نظر کوبریک خیلی نزدیک باشیم. «رابین مورفی» نویسنده مقاله و استاد مهندسی و علوم کامپیوتر در دانشگاه تگزاس به خوبی از جزئیات هوش مصنوعی آگاهی دارد؛ او یکی از رهبران پیشگام در توسعه ربات های پاسخگو به فاجعه بود و هم اکنون به عنوان مدیر بخش «آزمایشگاه هوش مصنوعی و رباتیک» دانشگاه تگزاس مشغول به فعالیت می باشد.

تصور کوبریک از رایانه «هال» نشان دهنده نمایی از یک رشته دانشگاهی خیلی جوان بود به نام هوش مصنوعی و رباتیک. مورفی در مقاله خود می نویسد: «لذا سه اصل برای توسعه هوش مصنوعی از اهمیت خاصی برخوردار است: درک زبان طبیعی، تصویرنگری رایانه‌ای و استدلال.» رایانه هال با مشاهده محیط پیرامون، نگاه کردن و تجزیه و تحلیل گفته‌ها، حالات چهره و حرکات فضانوردان در فضاپیما به امر یادگیری پرداخت. این رایانه مسئولیت‌هایِ از قبل تعیین شده‌ای مثل حفظ و نگهداری از فضاپیما را بر عهده داشت، اما بعنوان رایانه‌ای با قابلیت تفکر، توانایی پاسخ به فضانوردان را از طریق برقراری مکالمه نیز داشت.

با این حال، وقتی ماموریت با مشکل روبرو می شود و فضانوردان تصمیم به غیرفعال‌سازی رایانه هال می گیرند، هوش مصنوعی از طریق لبخوانی به نقشه آنان پی می برد. هال به نتیجه‌گیری تازه‌ای رسید که بخشی از برنامه‌نویسی اصلی آن نبود؛ رایانه هال تصمیم گرفت با کشتن سیستماتیک ساکنان فضاپیما جان خودش را نجات بدهد. این تصور که می گوید هوش مصنوعی می تواند صدمات بیشتری را به انسانها وارد آورد، به جای اینکه منافعی به ارمغان بیاورد، چندان دور از دسترس نیست. کارشناسان اعلام داشته‌اند که هوش مصنوعی مجهز به سلاح می تواند نقش چشمگیری در کشمکش‌ها و جنگ‌های جهانی آینده داشته باشد. همچنین، استیون هاوکینگ فقید اعلام کرده بود که بزودی هوش مصنوعی به بزرگترین تهدید برای بقای انسان تبدیل خواهد شد.

هاوکینگ در سال ۲۰۱۴ در مصاحبه با تلویزیون بی بی سی گفت: «توسعه هوش مصنوعی می تواند به معنای پایان نژاد انسان باشد.» در یکی از سکانس‌های فیلم اودیسه فضایی، هال «دیوید بومن» را از فضاپیما به بیرون از فضاپیما پرت می کند و در دیالوگی می گوید: «این مکالمه دیگه هیچ معنا و مفهومی نداره.» وابستگی زیاد انسان به رایانه برای انجام طیف گسترده‌ای از کارها نشان می دهد که هوش مصنوعی در خانه‌ها و زندگی‌های ما نفوذ کرده است.

پایان عصر انسان‌ها؛ یک خدای هوش مصنوعی ظهور خواهد کرد تا بر انسان‌ها حکمرانی کند

«الیزر یودکوفسکی» محقق در موسسه تحقیقات هوش ماشینی می گوید: «هوش مصنوعی نه از انسان‌ها متنفر است، نه آنها را دوست دارد؛ انسان‌ها از اتم ساخته شده‌اند و هوش مصنوعی می تواند از اتم برای اهداف دیگری استفاده کند.» کارشناسان در بحث پیرامون آینده هوش مصنوعی به تازگی اعلام کرده اند که در ۵۰ یا ۱۰۰ سال آینده، هوش مصنوعی بیشتر از کل جمعیت جهان در مغزش اطلاعات خواهد داشت. در آن شرایط، هر وسیله‌ای در این سیاره را کنترل خواهد کرد؛ به جایگاه حکومت بر نژاد انسان‌ها نائل آمده و قدرتش را به رخ می کشد. در صورتی که ماشین‌ها به هوشی فراتر از هوش انسان دست پیدا کنند، چه اتفاقی خواهد افتاد؟ آیا این عوامل مصنوعی سعی در نابودی ما خواهند داشت یا انسان را نجات خواهند داد؟

«نیک بوستروم» زمینه را برای درک آینده بشر و موجودات هوشمند فراهم می کند. مغز انسان از یک سری قابلیت‌ها بهره می برد که سایر حیوانات از آن محروم اند. به پاسِ همین قابلیت‌های متمایز است که گونه‌های ما به چنین جایگاه رفیعی در میان سایر موجودات دسترسی دارد. اگر مغزهای ماشینی به لحاظ هوش از انسانها جلو بزنند، باید انتظار داشت که آنها به موجودات اَبَر هوشمند قدرتمندی تبدیل شوند؛ به طوری که کنترل قدرت آنها برای انسان‌ها مقدور نباشد. همچنانکه در حال حاضر سرنوشت گوریل‌ها بیشتر به انسان‌ها بستگی دارد تا به خود آن گونه‌ها، سرنوشت انسان‌ها نیز به کارهای اَبَرهوش‌های ماشینی بستگی دارد.

اما ما از یک مزیت برخورداریم: حرکت اول با ماست. آیا این امر ممکن خواهد بود یک هوش مصنوعی برای مهندسی شرایط اولیه بسازیم تا امکان بقا در برابر توسعه عظیم هوش به وجود آید؟ بوستروم گفت: «هوش مصنوعی به طور فزاینده‌ای در حال هوشمندتر شدن است. تحقیقات نشان می دهد که در طول قرن حاضر، هوش مصنوعی رایانه می تواند هوشی برابر با هوش انسان داشته باشد. و سپس گوی سبقت را از انسان خواهد ربود. هوش ماشینی باید آخرین اختراعی باشد که انسان‌ها ساختن آن را در دستور کارشان قرار می دهند. من بعنوان فیلسوف و متخصص فناوری از شما می خواهم تا در خصوص جهانی که الان می سازیم، قدری بیشتر تامل کنید. باید جانب احتیاط را در توسعه ماشین‌های هوشمند و متفکر رعایت کرد.» آیا ماشین‌های هوشمند در حفظ بشر و ارزش‌های ما نقش مثبتی ایفا خواهند کرد یا ارزش‌های خود را در اولویت قرار خواهند داد؟

bdd«مکس تگمارک» کیهان شناس و فیزیکدان MIT نیز تاکید می کند که مسئله واقعی مربوط به پیامدهای غیرقابل پیش‌بینی توسعه هوش مصنوعی توانمند است. هوش مصنوعی برای وارد کردن آسیب‌های جبران ناپذیر نیازی ندارد شرور باشد و در قالب یک ربات ظاهر شود. آقای تگمارک خاطر نشان کرد: «خطر جدی که هوش مصنوعی در پی دارد، به کارهای شرورانه آنها نَه، بلکه به توانمندی بالای آنها مربوط می شود. هوش مصنوعی اَبَرهوشمند عملکرد بسیار خوبی در حصول اهداف خویش خواهد داشت؛ اگر اهداف آنها همراستا با اهداف ما نباشد، ما انسان‌ها با مشکل جدی روبرو خواهیم شد.»

«ایلان ماسک» بنیانگذار اسپیس ایکس و تسلا، بر این باور است که ما با سازه‌های ابرهوشمند هوش مصنوعی روبرو خواهیم شد که می توانند پایان گونه‌های انسان را رقم بزنند. «سوزان اشنایدر» از موسسه مطالعات پیشرفته در پرینستون و دانشگاه کانتیکات یکی از معدود اندیشمندانی است که نوع برتری از هوش مصنوعی در جایی از جهان وجود دارد و قدمت آن به قرون متمادی می رسد. خانم اشنایدر بیان می کند: «فکر نمی کنم اکثر تمدن‌های بیگانه پیشرفته از ماهیت زیستی برخوردار باشند. پیشرفته‌ترین تمدن‌ها اَشکال پسازیستی هوش مصنوعی یا اَبرهوش بیگانه خواهند بود.»

ترجمه: منصور نقی لو/ سایت علمی بیگ بنگ

منابع: dailygalaxy.com , livescience.com

(11 نفر , میانگین : 5٫00 از 5)
لینک کوتاه مقاله : https://bigbangpage.com/?p=79986
منصور نقی لو

منصور نقی لو

کارشناسی مترجمی زبان انگلیسی. علاقمند به نجوم، کیهان شناسی، فرگشت، اکتساب زبان اول، یادگیری زبان دوم و بعنوان نویسنده علمی- نجومی در وب سایت بیگ بنگ فعالیت می کند.

شما ممکن است این را هم بپسندید

۱۶ پاسخ‌ها

  1. رضا گفت:

    بر خلاف آنچه که در متن از قول یودکوفسکی گفته شد، برتری هوش مصنوعی نه در ۵۰ سال آینده بلکه بسیار زودتر اتفاق خواهد افتاد. به لطف Deep Learning، الگوریتمهایی که هر روزه متحول تر می شوند و سخت افزارهایی که مرتب قویتر میشوند(کامپیوترهای کوانتومی و نوری) در آینده ای نزدیک شاهد ظهور نسلهای جدیدی از هوش مصنوعی خواهیم بود که درک عملکرد آنها از توان ما خارج است.
    فقط یک اشاره ساده میتواند درک این مسئله را ساده کند که هوش مصنوعی چقدر توانایی دارد (در حال حاضر). برنامه آلفا زیرو شرکت گوگل در عرض ۴ ساعت توانست از اطلاعات تقریبا صفر تبدیل به بزرگترین قهرمان شطرنج شود بدون آنکه کسی تکنیکهای شطرنج را به آن آموزش دهد.
    هوش مصنوعی عملا مرحله بعدی تکامل انسان است. تکاملی که نه بر اساس تغییرات ژنتیک و اندام انسانی بلکه در حوزه اطلاعات انسان صورت میگیرد. قدرت تحلیل بسیار بالا از داده هایی که انسان از درک آنها عاجز است و این امری گریز ناپذیر است که نمیتوان جلوی آن را گرفت چون ساخت چنین سیستمی چالشی است برای کسانی که در این زمینه تلاش می کنند.

    • بهنام طیبی گفت:

      به نکته های خوبی اشاره کردین
      ولی این باید در نظر داشت نمیشه قطعی جواب داد و این فرضیه ها فقط احتمالات و روش های علمی خواهد بود

  2. بهنام طیبی گفت:

    بسیار عالی

  3. شهاب اسمونی گفت:

    همانطور که دورچه ماشین هواپیما زحمت پا رو کم کردن هوش مصنوعی هم زحمت تفکر طاقت فرسا و طولانی رو کم میکنه توجه داشته باشید با نوع جدیدی از موجودی سرو کار دارید که بیولوژیک نیست پس نمیشه مقایسه کرد ایا با وجود اختیار موجود خوبی خواهد بود یا نه قطعا تعاریف فلسفی خود را خواهد داشت

  4. Mhd گفت:

    در هیچ کدام از ادعا های یاد شده در مورد هوش مصنوعی هیچ دلیلی برای سبقت گرفتن آن از هوش انسانی بیان نمیشود و صرفا با نوعی حدس و گمان نشات گرفته از نوعی مقایسه اشتباه و تدریجی این ادعاها شکل گرفته اند. اینکه ما نمیتوانیم ماهیت آگاهی را حتی درک کنیم و جهت اینکه آنرا به پدیده های پایینتری تقلیل دهیم شروع به بافتن انواع نظریات میکنیم به کنار، درستی مقایسه انسان با سیستم های کامپیوتری خود جای سوال بزرگی دارد. اگر منظور از هوش همین توانایی انسانی است که ما در خود سراغ داریم، آیا میتوان قدرت محاسباتی بالای سیستم های کامپیوتری و نتایج حاصل از آن را در رده هوش قرار داد. کامپیوترها آگاهی ندارند و هنوز هیچ کس دلیلی نیاورده که آگاهی صرفا شبه پدیده ای نشات گرفته از محاسبات و تبادل اطلاعات بین نورونی است و پس بنابراین محاسبه پذیر یا به عبارتی قابل شبیه سازی است این فقط یک حدس است و هنوز مسائل بسیار بزرگی در رابطه با ذهن و ارتباط آن با بدن، لاینحل باقی مانده است. وقتی سیستم محاسباتی شما آگاهی ندارد پس نمیتواند خودآگاهی داشته باشد و وقتی خودآگاهی ندارد پس ساده ترین هدف که همان حفظ بقای خود است را نمیتواند داشته باشد و با وجود قدرت محاسباتی فوق العاده بالا، بینهایت کودن خواهد بود نه اینکه برتر از انسان باشد و ارباب انسان شود. نگاه ماژولار به سیستم بدنی انسان و شبیه گرفتن کامل آن با یک ماشین انسان را به اشتباه انداخته و همین نگاه باعث شده که فکر کند ماشین های مصنوعی میتوانند کارکرد های ذهن انسان را تقلید نمایند و یا حتی بالاتر هم باشند.

    • اردشیر گفت:

      اگه به این حرفاست خوداگاهی خودش کلی حرف داره این خوداگاهی هرچی هست تو مغزه و به زودی مغز هیچ رازی نخواهد داشت پژوهشگر هارو دست کم نگیریم هرچی هست یا تو مشتشونه یا تو مشتشون میاد بعدش همونو با سیلیکون و غیره درست میکنن ما میگیم کامپیوتر انم از نوع هوشمندش مصنوعی یا هرچی

      • بهنام طیبی گفت:

        اردشیر جان تخیلی فکر نکن خواهشا
        شما نظریه بزرگترین عصب شناسان و فیلسوفان بخون هنوز هیچ تعریفی براش ندارن
        به زودی هم با قطغیت نمیتونی بگی
        خیلی از پروژه ها تو کل تحقیقات تاریخی علمی یا بهش نرسیدن یا شکست خوردن یا برهه زمانی گفتن اشتباه بوده
        علمی تخیلی سیاه آدم نباید نگاه کنه

        • اردشیر گفت:

          هیچ تعرفی ندارن درسته اما اینم هم که تعریفی دقیق خواهند داشت هم درسته.
          اگه قراره این همه پژوهشگر اخرش به هیچی نرسن پس اصلا الان دارن چیکار میکنن؟
          این همه جایزه و مقام علمی هست که نادونسته ها کشف بشن و هر سال میبینیم کسی یا کسانی چیز های رو کشف کردن و مفتخر شده جایزه بگیرن یک روز هم یک کسی تکلیف این خود آگهی رو تعین میکنه و ما میگیم ا اینکه چیزی نبود چرا من کشفش نکردم!!!!

    • بهنام طیبی گفت:

      درود بر شما
      منم همین طور فکر میکنم
      ما هنوز تعریفی از خودآگاهی و کیفیات ذهن و کارکرد بین مغز و ذهن نمیدونیم و نداریم
      شاید همیشه در قالب راز هم بمونه
      شاید هوش مصنوعی باهوش بشه ولی خودآگاهی خیر چون هیچی نمیدونیم و این ادعاها فقط سمفونی و فرضیه های خام
      خلاصه اینکه دقیق و جالب توصیف کردی

  5. بهنام طیبی گفت:

    در جواب اردشیر
    درود بر شما
    ما هنوز خیلی از مشکلات و عارضه های مغزی و توهمات ذهنی شناخت نداریم. بیماری هایی هست هنوز علم قادر به پاسخش نیست
    پس شما با قطعیت میگی به زودی چندان منطقی نیست
    انسان هزاران سال موضوع هوشیاری و اگاهی هیچ تعریفی نتونسته براش پیدا کنه
    پس این پروژه ها پیچیده تر از اون تخیلات ذهنی ماست که بخواییم با اطمینان نظر بدیم
    چند روز پیش یک دانشمند و عصب شناس انگلیسی درباره خودآگاهی نظریه جالب داده که میگه شاید درون نورون ها هیچ اطلاعاتی نباشه و ما هنوز نمیدونیم اطلاعات و پیوندش با حیات چطور شکل گرفته. ایشان میگه این انرژی و اطلاعات که مغز را شکل داده حالا شما جزئیات بیشتر سرچ بزنید هست در سایت زومیت و غیره
    خلاصه اینکه پیشرفت ها پله پله صورت میگیره ن اون چیزی ما دوس داریم اتفاق بیوفته یا تخیل کنیم. باتشکر

    • اردشیر گفت:

      بهنام خان طیبی زنده باشی برادر
      علم با شتاب بسیار زیاد پیش میره وقتی موشک به اون بزرگی عمودی بلند میشه عمودی فرود میاد چرا نشه صفر تا صد مغز و کبد رو در اورد؟ از درمان تمام بیماری ها عجیب تر پرواز کوه های فلزی تو اسمون انم با چند صد مسافر هست.
      برادر ببین کجای کاری آیا فردا تو دسته اون آدمایی حساب میشی که قبلا به ایده پرواز هواپیما میخندیدن؟ معزی که این اینترنت رو ساخته خود مغزم پیاده میکنه ببین کی گفتم

      • بهنام طیبی گفت:

        همه چی ایده پردازی و تخیل نیست
        ما به همه چی دسترسی نداریم
        بله تحقیقات علمی و روش علمی جای خودش ولی هرچی ما دوس داریم اتفاق نمیوفته
        تفسیر عصبی خودآگاهی در مغز
        این مطالعه کنید جالب.

  6. Fg گفت:

    سلام دوستان
    قبل از اینکه هوش مصنوعی بخواد خودش مستقل بشه توسط یک دولتی یا گروهی علیه خود ما بکار میره پس نگران نباشید زنده نیستیم که ببینیم هوش مصنوعی تا کجا میره
    فرض کنید یک هوض مصنوعی توسط یک گروهی سیستم های هسته ایی یک کشور رو هک کنه خوب چی میشه همه نابودیم
    هوش مصنوعی به نظر من هیچ گاه مستقل برای ما خطری ایجاد نمیکنه بلکه ما انسانها رو از انقراض نجات میده اما مشکل اینجاست ما اونو به جون خودمون میندازیم

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

This site uses Akismet to reduce spam. Learn how your comment data is processed.