چه چیزی دربارۀ خطرات هوشمصنوعی میدانیم؟
- 12 آذر 1396
- 19 دیدگاه
بیگ بنگ: تیتر سیاِناِن این بود:« کرهی شمالی را فراموش کنید، هوشمصنوعی جنگجهانی سوم را آغاز خواهد کرد» و در ادامهی بحث که با ایلان ماسک شروع میشد ترسهای زیادی از پیآمدهای ناخواستهی توسعهی الگوریتمهایی نشان داده شد که معلوم نیست بتوانیم کنترلشان کنیم یا نه.
به گزارش بیگ بنگ، همانطور که سم هریس در یکی از سخنرانیهایش اشاره کرده، زمانی که یک فناوری جدید معرفی میشود دیگر نمیتوان آن را مخفی کرد یا به حالت قبل از اختراع برگرداند. او ادعا میکند که نمیتوان جلوی آهنگ پیشرفت را گرفت، حتی اگر بشریت بتواند به صورت دستهجمعی چنین تصمیمی بگیرد. در حالی که بیل گیتس، استیون هاکینگ و افراد متعدد دیگری به شدت با ماسک و هریس موافق هستند، بعضی از متفکران برجسته در صنعت میگویند که هوشمصنوعی( مثل هر فناوری دیگری) به لحاظ ارزشی خنثی یا بیاثر است. هر چه باشد باروت هم برای اولین بار در آتشبازیها استفاده میشد.
برای مثال ری کرزویل ادعا میکند که « هوشمصنوعی فناوری اساسی در دستیابی پیشرفت (انسانی) است. برای تشخیص این وعده یک الزام اخلاقی داریم، البته باید خطرات آن را هم کنترل کنیم.» از نظر او بشریت وقت زیادی برای توسعهی راهبردهای اخلاقی و استانداردهای نظمدهنده دارد. همچنانکه جهان به سمت مرزهای تکینگی میرود، فناوری آینده محدود به بهبود تجربیات انسانی است و این بر گردن ماست تا مطمئن شویم برای فردایی بهتر باشد.
منتقدان و هواداران هوشمصنوعی بر سر یک چیز توافق دارند: انفجار هوشمصنوعی، دنیا را فراتر از تصورات تغییر خواهد داد. وقتی به آینده فکر میکنم، استعارهی ورنور وینج از برنامهی پادکست Invisibilia در ذهنم تداعی میشود:« ادغام کامپیوترها با ما و بدنهایمان چنان قابلیتهای ما را تغییر خواهد داد که یک روز، امروز خود را مثل ماهیقرمز میبینیم.» اگر این وسعت واقعی مورد توقع از فرگشت با نیروی محرکهای چون فناوری باشد، آنوقت عرف و هنجارهای فعلی ما کاملا دستخوش تغییر خواهند شد.
حتی اگر پیش بینیهای دقیق هم ناموفق باشند، نباید حداقل تلاش کنیم تا خطرات فناوریهای نمایی را به کار بگیریم تا فرضیات پایهای خود را بررسی کرده، بنیانهای رفتار انسانی را زیر سوال برده و تشکیلات اجتماعی خود را موشکافی کنیم؟ وعدهی هوشمصنوعی میتواند یک آخرالزمان یا سعادتی ابدی یا چیزی بین این دو باشد. زمانی که راجع به خروجیهای کار گمانهزنی میکنیم قضاوتی ارزشی هم انجام میدهیم. اینجاست که باید قابلیت سوگیری فرافکنی(projection bias) خود را تشخیص بدهیم که ما را ترغیب میکند چهارچوب فکری امروز را در آینده اعمال کنیم.
با قرار دادن واژههای جنگ و هوشمصنوعی در یک جمله، جنبهی انسانی برای آن قائل شدهایم. وقتی راجع به بیکاری انبوهی که توسط رباتها و ماشینها ایجاد میشود ابراز نگرانی میکنیم، باید بدانیم که این نوع اضطراب تنها در صورتی توجیه میشود که نیروی انسانی یک لازمهی اقتصادی باقی مانده باشد. وقتی میگوییم پیشرفت خارج از کنترل فنی، نابرابریهای بیشتری درست میکند، تصور میکنیم که ایدهی دارایی شخصی، ثروت و پول از انقلاب چهارم صنعتی جان سالم به در برده است. تعریف عبارات بنیادی از زیر سوال بردن آنها کار دشوارتری است ولی شاید اجرای چند عدد از سناریوها بتواند تمرین خوبی در دور زدن سوگیری فرافکنی را ثابت کند.
رقابت و همکاری
هستهی انتخاب طبیعی، رقابتی چندبعدی از ویژگیها و رفتارها است و خود را به صورت یک ذات رقابتی اصلی نشان میدهد که انسانها همگی با آن آشنا هستند. روانشناسی فرگشتی فرض میکند که نیرویمحرکهی( گردانندهی) رفتار انسان، نیازی برای جاودانساختن ژنهای یک نفر است. بنابراین انسانهای خردمند رشد کردند تا برای جفت رقابت کرده و برای منابع بجنگند تا فرزندان خود را سیر کنند؛ همگی با یک هدف تا احتمال انتقال ژن خود را به حداکثر برسانند.
از سوی دیگر طبق گفتههای ادوارد او. ویلسون، ما « یکی از چند خطوط حیوانیای هستیم که بالاترین حد از تشکیلاتِ جامعهجویی را توسعه میدهند، سطح اصلی بعدی از سازمانهای زیستی بالای سازوارهای. در آنجا اعضای گروه در طی دو یا چند نسل در کنار هم میمانند، همکاری میکنند، از جوانان خود مراقبت و کارها را تقسیم میکنند…» به عبارت دیگر شاید مجبور باشیم موفقیت خیرهکنندهی گونههایمان را به تعادل ظریفی که بین غریزههای رقابت و همکاری حفظ میکنیم نسبت بدهیم.
چه هوش ماشینی کلی، قریبالوقوع یا حتی دستیافتنی باشد، ایدهی اقتصاد پساکمیابی(post-scarcity) در حال به دست آوردن پایه و اساس است. هرگاه خودکارسازی تقریبا همهچیز، دنیایی درست کند که در آن نیروی انسانی فراوان باشد، پیآمدهای وسیعتر برای سیستم ارزشی و تشکیلات اجتماعیمان چه خواهد بود؟ وقتی الگوریتمها در تصمیمگیری بهتر از انسان عمل کنند و بخش اعظمی از استقلال خود را به آنها واگذار کنیم، غریزهی رقابتی ما چطور خواهد شد؟
هدف رقابت منابع در دنیایی از فراوانی چه خواهد بود؟ آیا این احتمال وجود خواهد داشت که غریزهی ما برای رقابت به عنوان یک ساختار مفید به آهستگی از بین برود؟ آیا میتوانیم بدون آن زندگی کنیم؟ برخلاف مورچهها و زنبورهایی که براساس تشریفات سفت و سخت همکاری میکنند، ما انسانها در قابلیتهای همکاریمان به طرز خارقالعادهای وفقپذیر هستیم. طبق گفتههای یووال هراری، این چیزی است که در نهایت زیرساخت قیام انسانهای خردمند در حکمفرمایی بر زمین را ایجاد کرد. آیا میتوان تصور کرد وقتی تغییر شکلهای فنی که توسط کرزویل توصیف شد کمکم شکل مادی به خود بگیرد، احتیاج به رقابت به یک نیاسانی(نیاکانگرایی) تبدیل شود؟
اقتصاد
چطور میتوانیم مطمئن باشیم که ارکان تفکرات اقتصادیمان(مثل دارایی شخصی، مالکیت، سرمایه، ثروت و امثال آن) از پساکمیابی جان سالم به در ببرند؟ در ۱۰۰ سال آینده، آیا کسی به بهرهوری کار انسانی اهمیتی میدهد؟ وقتی تمام بشریت از « تلاشهای» ماشینها بهرهوری بیهزینه میبرد، سیاستهای مشوقانهی اشتغال ما چقدر وابسته و مربوط خواهد بود؟ وقتی بنیان عرضه و تقاضا به لرزه در بیاید، چه چیزی برای ما باقی میماند؟
برای شخصی که امروز به اشتغال مشغول است و از آن سود میبرد، چشمانداز اوقات فراغت نامحدود، بیشتر از آن که یک موهبت باشد بیشتر شبیه یک مصیبت است. اگر از دیدگاه انتخاب طبیعی نگاه کنیم این احساس با عقل جور در میآید: در گذشته همکاریهای اقتصادی توسط افرادی که قادر به این کار بودند نسبت به بیکاری و بیهودگی مرجح بوده است. ولی آیا باید همین گرایش را برای آینده هم در نظر بگیریم؟ شاید چیزی که امروز انحطاط و تنزل در نظر میگیریم در دنیایی که دیگر با نیروهای اقتصادی که فعلا شناختهشده، پشتیبانی نمیشود، به طرز کاملا متفاوتی تعبیر شود.
تصورات کاری این است که هر طور باشد یک نفر باید مالک دستگاهها بوده و برای سرویسها و اجناس پول خرج کند. با این حال دارایی و پول چیزی بیشتر از یک ساختار اجتماعی نیست. اگر مالکیت دیگر اهمیتی نداشته باشد و پول دیگر واحد معتبری برای معامله نباشد، چطور میتوانیم به صورت جمعی وضعیت یا پایه و مقام را تعریف کنیم؟
سوالات زیاد و جوابها کم هستند. به شخصه در جایگاهی نیستم که پیشنهادهایی منسجم بدهم یا از استدلالهای نظری دفاع کنم. حرف آخرم این است که ما با عزمی راسخ در مسیر براندازی نیروهای فرگشت هستیم که از آغاز حیات گردانندههای اصلی رفتار ما بودهاند. اصول و عقاید سیاسی و دینی تغییر کرده است ولی اصل بنیادی اقتصاد باقی مانده و با تلاشهای انسانی، احتیاجات و خواستههایمان را برطرف کرده است. اگرچه با کنار گذاشتن تکینگی، آن نیروهای بنیادی مشخصا به وسیلهی آهنگِ در حال شتابگیری پیشرفتهای فنی مورد تهدید قرار گرفته است.
ایدههای مطرح شده در این مقاله شاید آرمانی و سادهلوحانه به نظر برسند. در پایان شاید حق با ایلان ماسک باشد: اختراع هوش مصنوعی میتواند پایان نژاد بشری را کلید بزند. بنابراین این مسئولیت شگفتانگیز انسانها است تا نظارت مناسبی بر طراحی هوش مصنوعی داشته و قبل از اینکه در آن غرق شویم به عواقبش فکر کنیم. با این حال باید از محدودیتهای درکِ خود، آگاه باشیم و از این رو از تخیلاتمان استفاده کنیم؛ مشخصهای کاملا انسانی. حداقل برای امروز.
ترجمه: امیرحسین سلیمانی/ سایت علمی بیگ بنگ
منبع: futurism.com
(23 نفر , میانگین : 4,87 از 5)
با تشکر…
من که میترسم همین الانم به طور مشکوکی داره قیمت بیت کوین بالا میره هیچ کس هم نمیتونه علتش بفهمه شاید این یک پی ریزی برای انقلاب علیه بشریت توسط هوش مصنوعی باشه
بابا هنوز هوش مصنوعی در اون حد اختراع نشده که بتونه برای قیمت بیت کوین تصمیم بگیره
ولی بیت کوین قسمتی از تکنولوژی آینده است که خواسته و ناخواسته بر سیستم اقتصادی دنیا مستولی میشه و انسانها مجبورند که خود را با آن تطبیق دهند
شاید این قسمتی از امتحان انسانها است که چگونه در برابر آینده واکنش نشان میدهند و یاد میگیرند تکنولوژی آینده را بپذیرند
همه کارهای انسانی بر پایه جهل برنامه ریزی شده.هر چقدر جلوتر میریم رنج بیشتری با زندگی ما آمیخته میشه.شاید انسان به خود آگاهی نرسیده.به فرض مثال شما نسبت به عملکرد ساختار بدنی خودتان چه آگاهی دارید؟فقط یه کنش ساده و معمولی.شک نکنید که این انتخاب انباشتی روزی هوش مصنوعی را به جای ما در این کره خاکی قرار خواهد داد.
مسئله این است که آیا هوش مصنوعی می تواند هم افزایی علمی کند یعنی نتیجه گیری جدیدی نماید اگر چنین کند یعنی آگاهی خواهد داشت و در اینجاست که در نقطه ای هوش مصنوعی به عطف می رسد و آنگاه است که خطرناک می شود
احسنت
دقیقا همین
سلام ،با تشکر مقاله ای بسیار جالب بود دست شما درد نکند ،در صورت لزوم از این دست مقاله بیشتر درج شود،
دوستان مستحضرند که رشد علم در این یک قرن اخیر بسیار زیاد و غیر باور بود ،برای مثال از 1 میلیادی تا 1900 یک سال علمی تعریف شده ، و از 1900 تا 1950 یک سال علمی وتا جایی علم پیشرفت کرده که از 1990 تا 2000 هر 5 سال یک سال علمی تعریف شده و از 2006 تا 2010 هر 70 روز یک سال علمی و طبق پیش بینی از 2010 به بعد هر هفته به عنوان یک سال علمی تعریف شده است ،سال علمی عبارت است از مجموع اختراعات و اکتشافات و………علمی که طی یک سال صورت گرفته به عنوان سال علمی می گویند .پس علت این همه رشد را باید در ،dss جستجو کرد و به صورت خودکار تصمیمات لازم را می گیرد ،یقینا آنچه که ما امروز از هوش مصنوعی می دانیم یقینا یک هزارم آنچیزی که ما میذانیم نمونه عینی هوش مصنوعی را در اتوموبیل خوران مشاهده می کنیم ،یقینا در خصوص تصمیمات مهم مثل جنگ جهانی سیستم های فوق پیشرفته عمل خواهد کرد ،چون در تصمیمات انسانی احساس دخیل خواهد بود ،
الان اکثر مردم دنیا گوشت میخورن.ینی سر یه گوسفند یا حیوانی رو میبرند و گوشتش رو میخورن.هیچکش هم اهمیتی نمیده به گوسفندا چون اونا در حد یه گوسفند میفهمن همین.حالا اگه از نظر اون هوش مصنوعی ما هم مثل گوسفند احمق باشیم اونوقت چی؟
در ضمن خدمت دوستان عزیز عرض کنم بابات جنگ جهانی سوم اینکه این خودمون داریم خودمون نابود میکنیم ن ربات و هوش مصنوعی. انسان با برنامه نویسی و نوع طراحی ابر هوش مصنوعی خودشو به سمت بی نظمی و فنا میبره.
شما اکر خودتون رو بذارید جای یک روباتی که می تونه فکر کنه قطعا روزی به این خواهید رسید که چرا انسان برای من کار نکنه !! و البته من مطمئنم اون ها اینقدر باهوش هستن که مارو بتونن نابود کنن
باهوش هستن از لحاظ ریاضی ولی از لحاظ آگاهی و خودآگاهی خیر نمیتونن قوی تر باشن و آگاه تر
به قول جان سرل این دقیقا اشتباهی که همه انجام میدیم و فکر میکنیم شبیه سازی و همتاسازی یکی ولی در اصل خیلی فرق داره
شاید ربات های چندین قرن آینده بتونن با انسان برابری کنن تازه بر فرض که اگه دارای آگاهی بشن.
ربات ها فقط می تونن در بازار کار و اقتصاد و تجهیزات پزشکی و نظامی و غیره موفق تر باشن ولی از لحاظ تصمیمات و افکار و آگاهی و محبت و عشق و فهم و درک و احساس زندگی و زنده بودن یا هیچ وقت این اتفاق رخ نمیده یا اگه هم بشه به قول رابرت لارنس کوهن به این زودی ها اتفاق نخواهد افتاد
برای کودتا علیه انسان نیازی به خودآگاهی وجود نداره، برای اینکه یک ربات که هزاران بار یا حتی میلیاردها بهر از ما باهوش تر هست چه نیازی به خودآگاهی داره که بفهمه میتونه مسقل و جدا از ما ادامه بده خودآگاهی انسان برای خود ما هم مشخص نیست که واقعیه یا توهمه چه برسه به اینکه بخواد ادامه نسل بشر و تضمین کنه.
وقتی درک و شعور نداشته باشه و انسان ها اون ربات برنامه نویسی نکنن چطور میتونه
هوش مصنوعی به خودی خود نه تنها خطرناک و مضر نیست ، بلکه به شدت لازم و نافع و ضروریه . بزرگترین خطر از جانب خود انسان هست و نه هوش مصنوعی
کاملا موافقم
اولین خودرو هم وقتی با سرعت چهار کیلومتر حرکت می کرد شخصی پیاده با پرچم جلوی آن به رهگذران اخطار میداد!
1. هوش مصنوعی لزوما رقیب ما نیست و شاید اصلن ما را به حساب نیاورد!
2. اکثر افراد باهوش خیرخواه ترند (نظر شخصی)
خطر هوش مصنوعی و اینطور نگاه کن که ما چیزی و خلق میکنیم که از خود ما بی نهایت باهوش تر هست حالا چه دلیلی داره که از ما تبعیت کنه یا چه دلیلی داره که فکر کنیم میتونیم هدایتش کنیم وقتی هیچ درکی حای از چگونه کار کردنش نداریم.
اون زمان که به انداره کافی ابزار در اختیارش داشته باشه خیلی خوش باورانس که فکر کنیم به خاطر موارین اخلاقی بشری به ما متعهد میمونه این قسمت سختر ترین کاری هست که بشر باید در اون بتونه نهادینه کنه که بی نهایت سخت و ریسک داره یعنی بسته ای رو ما داریم باز میکنیم که به هیچ وجه مشخص نیست داخل پر از جواهراته یا یک بمب.
کلاغ جان شما رو چه استدلالی میگی هزاران بار باهوش تر
برفرض که درست بگین شما فقط داری میگی باهوش تر ولی انسان ادراک و آگاه تر
حرف شما شاید در قرن های آینده درست باش ولی ما هنوز منشا هوشیاری نمی دانیم دیگه چه برسه هزاران بار قوی تر از خودمون درست کنیم
عقل که نمیپذیره
ببخشید کاوه جان اشتباه تایپی بود
چه دلیلی داره پیش بینی ها به طور دقیق درست از آب در بیاد. در مقاله قبلی نامیرایی مجازی که آقای سلیمانی عزیز زحمت کشید ترجمه و در اختیار ما قرار داد رابرت کوهن بررسی عالی انجام داد و گفت باهوش بودن با آگاه بودن فرق داره یا خودآگاهی درونی یا تظاهر در خوداگاه نشون دادن فرق داره یعنی هوش مصنوعی میتونه باهوش تر از انسان ها بشه و موفق تر ولی آگاه تر فعلا خارج از دسترس و فناوری صدها سال آینده شاید همتایان ثابت کنم
ولی حرف سم هریس قبول دارم که میگه فناوری که اختراع میشه نمیشه پنهان و مخفی کرد.
به نظر من هوش مصنوعی میتونه خطرناک باش ولی از چه جهتی?هوش مصنوعی میتونه از جهتی خطرناک باشه که عملکرد در کارهای صنعتی و بازار کار بهتر از انسان عمل کنه و باعث بحران بیکاری و اقتصادی بشه ولی جنبه های مثبت خوبی هم داره اینکه انسان ها باید با تفکر به سمت خلق ایده های تخصصی و حرفه ای بشه وگرنه بیچاره میشیم و از این جهت که هوش مصنوعی از انسان پیشی میگیره
ولی از دیدگاه فلسفی و ذاتی انسان موجود خاص و منحصر به فرد و به قول رابرت لارنس کوهن فناوری های صدها یا هزاران سال آینده شاید همتایان ما بتونن ثابت کنن دارای خودآگاهی باشن البته اگه تظاهر نداشته باشن در ماهیت وجود.
با تشکر از اقای سلیمانی عزیز