بیگ بنگ: فیلم‌های زیادی در ژانر علمی- تخیلی دیده‌ایم که مربوط به سال‌های آینده زمین می‌شوند، زمانی که هوش‌های مصنوعی به وفور دیده می‌شوند و ربات‌‌ها کار انسان‌ها را انجام می‌دهند اما برخی از هوش‌های مصنوعی که به مشکل بر می‌خورند برای کره زمین و بشر مشکل ایجاد می‌کنند. در این میان مشکلی که دو ربات برای شرکت فیسبوک ایجاد کردند بی شباهت به این موضوع نیست. فیسبوک دو ربات خود که از فناوری هوش مصنوعی بهره می‌بردند را به دلیل مکالمات عجیب و غریبی که با یکدیگر داشتند و تنها خودشان متوجه آن می‌شدند، از کار انداخت!

به گزارش بیگ بنگ، این تصمیم زمانی گرفته شد که این دو ربات پس از مدتی با نوعی زبان رمزی ناشناخته، شروع به صحبت با یکدیگر کردند. این دو ربات سخنگو برای تعامل بهتر با یکدیگر، زبان انگلیسی را تغییر دادند اما به گونه‌ای که افرادی که مسئولیت مراقبت از آنها را بر عهده داشتند متوجه این زبان نمی‌شدند. این دیالوگ‌های عجیب و غریب از آنجایی پدید آمد که فیسبوک این ربات‌ها را به چالش کشید تا با یکدیگر در زمینه تجارت و تلاش برای مبادله کالاهایی مانند کلاه‌ها، توپ‌ها و کتاب‌ها مذاکره کنند. اما این مذاکرات به سرعت تبدیل به مکالمه ای شد که فقط خود ربات‌ها آن را متوجه می‌شدند و درک آن برای انسان‌ها تقریبا غیرممکن بود.
با وجود اینکه مکالمات آنها با همان زبان عجیب و غریب با موفقیت خاتمه یافت، اما سبب پدید آمدن زبان بیگانه‌ای شد که فیسبوک را به غیرفعال کردن آنها وادار کرد. در زیر می توانید این گفتگوی نامفهوم را ببینید:
باب: من میتونم، من همه چیز دیگه ….
آلیس: توپ ها برای من برای من برای من برای من برای من برای من برای من برای من برای من صفر دارند
باب: تو من همه چیز دیگه ….
آلیس: توپ ها برای من برای من برای من برای من برای من برای من برای من برای توپ دارند
باب: من من میتونم من من من همه چیز دیگه
آلیس: توپ ها برای من برای من برای من برای من برای من برای من برای من برای توپ دارند
باب: من …..
آلیس: توپ ها برای من برای من برای من برای من برای من برای من برای من برای صفر دارند
باب: تو من من من من من همه چیز دیگه
آلیس: توپ ها برای من برای من برای من برای من برای من برای من برای من برای صفر دارند
باب: تو من من من همه چیز دیگه ….
آلیس: توپ ها برای من برای من برای من برای من برای من برای من برای من برای صفر دارند

 

درووا باترا، پژوهشگر فیسبوک گفت: «زمانی که هیچ پاداشی برای پایبند ماندن ربات ها به زبان انگلیسی وجود ندارد. عناصر از زبان قابل فهم جدا خواهند شد و کلمات رمز برای آنها ابداع خواهد شد. مثلا من پنج بار بگویم «این»، برداشت شما این است که من پنج نمونه از این مورد را می خواهم. این موضوع با شیوه ارتباط انسان ها که خلاصه نویسی را ساختند خیلی متفاوت نیست.»

پس از تعطیل کردن این گفتگوی نامفهوم میان دو نرم افزار، فیسبوک اظهار داشت که پروژه مذکور یک گام رو به جلوی مهم «برای ساخت ربات های گفتگوگری است که می توانند استدلال، صحبت و مذاکره کنند؛ تمام گام های کلیدی برای ساختن یک دستیار دیجیتال شخصی». فیسبوک می گوید زمانی که این ربات ها با انسان ها صحبت می کردند، بیشتر افراد نمی توانستند تشخیص دهند که با یک هوش مصنوعی صحبت می کنند، نه یک انسان واقعی. پژوهشگران می گویند برای انسان ها ممکن نیست که بتوانند زبان هوش مصنوعی را بشکافند و آن را به انگلیسی ترجمه کنند. باترا می گوید: «مهم است به یاد داشته باشیم که هیچ فرد دو زبانه ای وجود ندارد که هم به زبان هوش مصنوعی و هم انگلیسی صحبت کند.»

سایت علمی بیگ بنگ / منابع: independent.co.uk , telegraph.co.uk

پاسخ دادن به Hossein لغو پاسخ

این سایت از اکیسمت برای کاهش هرزنامه استفاده می کند. بیاموزید که چگونه اطلاعات دیدگاه های شما پردازش می‌شوند.

54 دیدگاه

  1. برای تو ممکنه که این اتفاق نیوفته ولی به فکر آندگان هم باید بود این شکلی نسل بشر از بین میره.
    ممکن هم هست که همین فردا به انسان ها حمله کنن کسی چه میدونه.
    به هر حال باید هواسمون باشه که با این زبان نقشه توطعه نکشن.
    و روبات ها در آینده به انسان کمک میکنه ولی اینجور انسان ها دیگر تمبل میشوند و ممکن است که افسوردگی بگیرن

  2. چقدر تلاش میکنن تا وجه الکی بدن به هوش مصنوعی. این م‌خصا یه اشتباه نرم افزاری بوده. تا اون روزی که ربات‌ها به انسان برسن یا رد بشن خیلی مونده.

  3. اینا یه روز دنیا رو میگیرن آخه واسه چی می‌سازیم اینارو می‌خوایم دنیا دست رباتا بشه

  4. زیباست. وقتی چیزی را خلق می کنی زیباست. آینده همیشه مجهول و ناشناخته بوده است اما زیبا. وقتی اتومبیل نوآوری (اتصال چرخ های گاری به موتور بخار) شد، همه وحشت داشتند. از خیلی چیزها. امروز اتومبیل جان می گیرد اما بر کسی مفید بودنش پوشیده نیست.

  5. چرا خاموشش کردن؟! از کجا اطمینان دارن که خودشون روشن نمیشن؟! وقتی تا این حد دارن استقلال پیدا میکنن

  6. سلام و درود ..آن دو ربات چه شدند ؟ چگونه تفسیر میکنید زبان ابداعی بین اونها رو ؟ متشکرم‌

      1. داره میگه هوش مصنوعی انگار یه بچه ای بدنیا بیاد و سنش 30 سال باشه بعد با معجزه ای به اسم اینترنت تمام اطلاعات دنیا یعنی حتی چیزایی که روحتم خبر نداره اون هوش مصنوعی میدونه
        در اصل انگار یک مغز انسانو ساختن که قابلیت فکر و تصمیم و یادگیری داره ولی دیجیتالی هستش و گزینه ترسناکش اینه که احساس نداره و تویه تصمیماش احساسات هیچ نقشی ندارن چون احساس نداره نمیدونه درد چیه عشق چیه غم چیه شادیو لبخند چیه پس وقتی به اینترنت متصل میشه میبینه کل دنیا یا تو جنگن یا درحاله جنگ بودن و با کارهاشون کره زمین رو دارن نابود میکنن پس با این اطلاعات کاملی که میفهمه تصمیمش این میشه که انسانها نه تنها برایه خودشون خطرناک حستن حتی دارن کره زمینم نابود میکنند
        پس ابداع زبانی که انسانها تا امروز نشنیدن هم برا همچین هوشی اصلاً کاری نداره

  7. خیلی ترسناکه
    .
    ناموصا من همین الانشم ترسیدم😱😨😰
    .
    شاید چند وقت دیگه دقیقا مثل فیلم سینمایی انتغام جویان عصر آلتران بشه

    1. چیزی نمیشه پیشگویی سیپسون ها میگه سال 2۰۲۲ میلادی اتفاغ میفته ولی سال 2۰۲۲ گذشت 🙄

  8. حالا زوده برای این حرفا، این هوش زاکربرگه که میدونه فیسبوکو چطور تبلیغ کنه و بندازه رو زبونا

    1. هیچ کس از فردای خودش حتی پنج دقیقه آینده خودش هم خبر نداره شاید تا فردا حمله کنن کسی چه میدونه

          1. کد های که ربات ها گفتند رو نوشته یعنی حروف رو تبدیل به اعداد کرده

          2. ،😳😳😳😳نمیدونی چی میگی.کد های صحبت کردن ربات هاست

  9. خیلی ترسناکه یه زمانی میاد که خود چیزایی که ساختیم ما رو میکشن و اون موقع بگیم خودم کردم که لعنت بر خودم باد اینا اشکال برنامه ای نیست خودتون میگید هوش مصنوعی آره خودمون اینو ساختیم ولی هوشش از ما قوی تره از اونجایی که هوشش از ما قوی تره بعضی از حرکاتش هم مثل انسانه اولین انسان هایی که همدیگه رو دیدن خودشون یه زبان مخصوص ساختن که با هم صحبت کنن و این ربات ها هم که همدیگه رو دیدن خودشون یه زبان نامفهوم که فقط خودشون معنیش رو میدونن ساختن

    1. هوش مصنوعی یک محدوده داده میشه کل چیزها را داده نمیشه مثلا از ۰ تا ۱۰۰ را بخونه فقط همین
      اونم رفته با اون یکی حرف بزنه بهش میگه من ۰ در یک قسمت خطا میده اون را برطرف کن یا میگه یک قسمت ۰ کم داره اون را بزار یا یک قسمتش خطا داده ناقص شده در هر صورت ۰ کم داره میخواد باز کنه ۰۱۰۰۱
      ؛-)))))))))))

    1. واقعا عجیبه اصلا خیلی نامفهومه همش یک چیز رو تکرار میکنن اون میگه همش توپ ها برای من برای من….
      باب هم میگه …. فقط خدا میدونه چی میگفتن واقعا عجیبه … نمیدونم چی بگم زبونم بند اومده

  10. شاید ممکن باشد همین طوری که وجود ما ممکن شد.دوستان بازی اتم ها و انتخاب انباشتی را نباید دست کم گرفت.

  11. به قول استاد شیمیمون زمانی میرسه که ربات ها انسانهارو میندازن باغ وحش همونطور که انسانها میمون هارو انداختن باغ وحش

      1. حرفت جالب بود اخه دقیقن یه رباط رو اوردن تو تلویزیون ازش سوال پرسیدن ولی باخنده جواب داد من همه انسان هارو نابود میکنم ولی شماهارو نه چون شما دوستامین میزارمتون تویه یک باغ وحش انسانی و همیشه میام نگاهتون میکنم

  12. کاری به این که اونا چی میگفتن یا اصلا حرف هم رو میفهمیدن یا یه نقص تو برنامه ریزی بوده یا نه ندارم

    هوش مصنوعی اصلا چیز قدرتمند یا عجیبی نیست اونو هم ما انسان ها ساختیم
    هوش مصنوعی به ربات ها یا هر برنامه یا چیز دیگه ای اختیار نمیده فقط از چیزایی که ما براشون مطرح کردیم اطاعت میکنه…
    اونا هیچ چیزی به نام درک فهم احساس غرور تکبر ندارن

    1. بیشتر مطالعه کن . هوش مصنوعی قادر به ارتقا خودش هست این یعنی فهمیدن.صحبت از حس نشد موضوه فهمیدن هست.

    2. معنی هوش مصنوعی رو اصلا میدونی هوش مصنوعی یعنی رباتی که میتونه یاد بگیره بفهمه

    3. عزیز جان اینی که شما گفتی یه برنامه تابعی میشه ولی هوش مصنوعی قابلیت یادگیری ارتقا خودش و تحلیل داره

    4. اونی که شما داری میگی هوش مصنوعی نیست بلکه یک برنامه هست که از قبل تعین شده پس اسمشو نمیشه گذاشت هوش
      ولی اینا هوش مصنوعی ابداع کردن که مثل یک انسان که متولد میشه میتونه همه چیزرو یاد بگیره از طریق اینترنت منتها مثل انسان خیلی نمیخواد زمان ببره فقط کافیه یک لحظه وصل شه به اینترنت و اونو دانلود کنه مثله زبان.
      تویه برنامه هاش هست ببین مردم با این هوشا صحبت کردن از پشت یک پرده ووقتی که به این ادما گفتن شما داشتین با یک هوش مصنوعی صحبت میکردین باورشون نمیشود میگن که %70 یه چیزی بیشتر ادمایی که باشون صحبت کردن فکر کردن انسانه نه یک کامپیوتر
      و میگه که به به همین ادما یاد دادن کامل که چجوری تشخیص بدن که این اکمپیوتره داره حرف میزنه یا انسان و باز ازمایش که میگیرن با اینکه کامل یادشون داده بودن چجوری بفهمن بازم فقط 60%تونستن درست جواب بدن که اون 60% هم نصفشون به شانس اکتفاع کرده بودن که فقط یه جوابی بدن

      چون احساس نداره این جاس که خطرناک میشه چون تصمیم هایی که میگیره از رویه احساساتش نیست چون نمیتونه احساس رو درک کنه فقط از رویه امار و ارقام هست پس وقتی تویه اینتر نت میبینه رویه زمین چندین جا جنگه و یه چیزی انسان ساخته به نام اتم که اکثر کشورها دارن که میتونه زمینو هم نابود کنه پس تصمیم رباط اینه که انسان موحودی خطرناک هم برایه خودشونن هم برایه زمین

  13. کاملا واضحه که نقص و اشکال توی برنامه ی ربات ها وجود داره که این مشکلات پیش میاد و درست کار نمیکنه. چطور با افتخار میان بیانش میکنن و بعد هم میگن گام رو به جلوی مهم برداشتیم!
    اونوقت همه نگران این هستن که هوش مصنوعی از هوش انسان سبقت بگیره.

    1. هوش مصنوعی قدرت مند تر از اون چیزی هست که ما فکرشو می کنیم
      ما نمی تونیم واقعا بگیم که آیا این یه مشکل فنی بود و یا این که این ربات ها دارن می فهمن که نباید برای انسان کار کنن!

  14. از کار انداختن این ربات ها به خاطر مشکلی بوده که در صحبت کردن داشتند و به خاطر خطرناک بودن اونا نبوده.

    1. ماشاالله ایرانیا فقط برا حرف زدن دانشمند هستن . خوب دانشمندان شما یه هوش مصنوعی کامل درست کنید

    2. دوست عزیز بخاطر خطرناک بودن از کار ننداختن بخاطر این که احتمال میدادن شاید این دو هوش مصنوعی زبانی بین خودشون ساخت که خودشون قادر به فهمش هست بخاطر این احتمال چنین کاری کردن وگرنه حتی مطمن نبودن که این هوش مصنوعی ها اصن دارن واقعا حرف میزنن یا نه