ترس ما از هوش مصنوعی

از همان روزهای اولیه رایانه ، افرادی بودند که ذهن آنها درگیر آن بود. بسیاری از کتابها ، فیلمها و آثار ادبی-هنری در مورد هوش مصنوعی ، چه از نظر علمی و چه از نظر تخیل ساخته شده است. در این مقاله تحلیلی سعی شده است موضوع هوش مصنوعی مورد بررسی دقیق قرار گرفته و امکان دستیابی به ویژگی های انسانی مانند اراده و اختیار توسط هوش مصنوعی و ماشین های هوشمند مورد بررسی قرار گیرد. با ما همراه باشید.

هوش مصنوعی واقعی می تواند جهان را نابود کند. با فرض اینکه چیزی به نام هوش مصنوعی واقعی اصلاً امکان پذیر باشد.

پل فورد ، نویسنده این مقاله در وب سایت MIT Technology Review ، شروع می کند: “سالها پیش ، با یکی از دوستانم که مدیر یک شرکت نوپا بود قهوه خوردم. او تازه 40 ساله شده بود. پدرش بیمار بود و کمردرد داشت. “دوست من در آستانه دهه جدیدی از زندگی خود در حال غرق شدن در زندگی است.” او گفت: “به من نخند ، اما من روی تکینگی حساب می کردم.”

دوستم در زمینه فناوری کار می کرد. او با چشمان خود تغییراتی را مشاهده کرد که باعث شد ریزپردازنده ها سریعتر و شبکه ها بیشتر شبکه شوند. برای او باور چندانی نداشت که قبل از میانسالی ، هوش ماشینی از هوش انسانها پیشی بگیرد (لحظه ای که آینده پژوهان آن را به عنوان لحظه تکینگی می نامند.) او انسان را بررسی می کند و راز جوانی ابدی را برای ما فاش می کند. یا حداقل می تواند راهی برای درمان کمردرد تعیین کند.

اما اگر هوش مصنوعی اینقدر خیرخواهانه نبود چطور؟ نیک بوستروم ، فیلسوفی که م Instituteسسه آینده بشریت را در دانشگاه آکسفورد اداره می کند ، سناریوی فوق را در کتاب Superintelligence خود شرح می دهد. کتاب او بحث ها و بحث های زیادی را در مورد آینده هوش مصنوعی برانگیخته است. تصور کنید ماشینی برنامه ریزی شده است که تا حد امکان گیره کاغذ تولید کند و ما می توانیم آن را “حداکثر کننده گیره کاغذ” بنامیم. حالا تصور کنید ، به هر دلیلی ، آن ماشین فوق العاده هوشمند شده است. بسته به هدف دستگاه ، ممکن است تصمیم بگیرد که تعداد بیشتری گیره کاغذ جدید تولید کند. تا آنجا که به سبک پادشاه میداس او عملاً همه چیز را به گیره کاغذ تبدیل می کند.

ممکن است بگویید نیازی به نگرانی نیست ؛ می توانیم مثلاً دقیقاً یک میلیون گیره کاغذ بسازیم و بعد از کار متوقف شویم. اما اگر دستگاه تصمیم بگیرد عملکرد خود را پس از ساخت کلیپ ها آزمایش کند ، چطور؟ آیا تعداد کلیپ ها را درست شمرد؟ مطمئناً این امر مستلزم هوشمندتر بودن خودرو است. این ماشین فوق هوشمند نوعی مواد اولیه محاسباتی تولید می کند که هنوز اختراع نشده است و با آن ، هر گونه شبهه ای را بررسی می کند. اما هر شک و تردید جدیدی باعث ایجاد شک و تردیدهای دیجیتالی جدید می شود و این کار را ادامه خواهد داد تا زمانی که همه چیز روی کره زمین تبدیل به ماده اولیه محاسباتی شود. البته به جز یک میلیون گیره کاغذی که او ابتدا ساخت!

نیک بستروم معتقد نیست که حداکثر کننده گیره کاغذ به درستی کار می کند. این یک آزمایش فکری است. آزمایشی طراحی شده است که نشان می دهد حتی سیستم های بسیار دقیق نیز نمی توانند هوش بیش از حد ماشین ها را مهار کنند. اما پروفسور بوستروم معتقد است که فوق هوشمند می تواند ایجاد شده و مفید باشد. و البته او فکر می کند که فوق هوشمند ممکن است تصمیم بگیرد که دیگر نیازی به انسان ندارد. یا چنین رفتارهایی که جهان را نابود خواهد کرد. در این راستا ، عنوان فصل هشتم کتاب وی به شرح زیر انتخاب می شود: “آیا پیامدهای فوق هوشمند به طور پیش فرض مخرب و مخرب خواهند بود؟”

این یک آزمایش فکری است. آزمایشی که طراحی شده تا نشان دهد حتی سیستم‌های بسیار دقیق نیز در مهار کردن هوش مفرط ماشین‌ها، شکست می‌خورند.

اگر این برای شما احمقانه به نظر می رسد ، شما تنها کسی نیستید که اینطور فکر می کند. بسیاری از منتقدان چنین تصور می کنند. رودنی بروکس ، یکی از پیشگامان رباتیک ، می گوید کسانی که از هوش مصنوعی غیرقابل کنترل می ترسند واقعاً نمی دانند کامپیوترها چه کار می کنند و نمی دانند وقتی می گوییم کامپیوترها هوشمندتر هستند منظور ما چیست. . او تأکید می کند که آنچه نیک باستروم درباره چشم انداز هوش مصنوعی و ابر هوش به تصویر می کشد در مورد آینده بسیار دور است و ممکن است در کل غیرممکن باشد.

اما در عین حال ، بسیاری از متفکران دیگر با بوستروم موافق هستند و در حال حاضر نگران آینده هوش مصنوعی هستند. چرا؟

اراده

آلن تورینگ در سال ۱۹۵۰ میلادی تئوری‌ای مطرح کرده است که می‌گوید ماشین‌ها، می‌توانند مثل یک بچه مورد آموزش و تدریس قرار بگیرند.

سوال این است که “آیا رایانه ها می توانند فکر کنند؟” از ابتدای کار رایانه ها ، دنیای این ماشین ها تحت الشعاع قرار گرفت. در سال 1950 ، آلن تورینگ این نظریه را مطرح کرد که ماشین ها را می توان مانند یک کودک آموزش داد. جان مک کارتی ، مخترع زبان برنامه نویسی LISP (LISP) ، در دهه 1950 واژه “هوش مصنوعی” را ابداع کرد. همانطور که محققان هوش مصنوعی در دهه های 1960 و 1970 از رایانه ها برای شناسایی تصاویر ، ترجمه زبان های مختلف و درک دستورالعمل ها به زبان معمولی و نه فقط کد استفاده کردند ، این ایده که کامپیوترها سرانجام توانستند با تفکر صحبت کنند – و در نتیجه قادر به انجام بدی نیز بودند ، از رایانه ها استفاده کردند. اعمال – در جریان غالب فرهنگی نفوذ کرده است. علاوه بر فیلم 2001 ادیسه فضایی ، که اغلب به آن اشاره می شود ، فیلم دیگری در دهه 1970 ، Colossus: The Forbin Project ، این ایده را به جامعه داد که کامپیوترها سرانجام جهان را به مرز نابودی هسته ای و هسته ای می رسانند. زمستان و 13 سال پس از فیلم ، همین موضوع مبنای کار دیگری به نام WarGames قرار گرفت. تا سال 1973 بود که احمق های فیلم وست ورلد کاملاً دیوانه شدند و شروع به کشتن مردم در سراسر جهان کردند.

وقتی تحقیقات در زمینه هوش مصنوعی نتوانست به نتایج جاه طلبانه ای که امیدوار بود دست پیدا کند ، بودجه این تحقیق به شدت کاهش یافت و “زمستان هوش مصنوعی” آغاز شد. اما در همان شرایط ، شعله های ماجراهای ماشین های هوشمند و هوش مصنوعی توسط بسیاری از نویسندگان ، دانشمندان و کارآفرینان در طول دهه های 1970 و 1980 زنده نگه داشته شد. چنین افرادی شامل نویسندگان داستان های علمی تخیلی مانند ورنور وینگه بودند که مفهوم تکینگی را به عموم مردم معرفی کردند. و همچنین محققان رباتیک مانند هانس موراوک ، متخصص بینایی کامپیوتر و مهندس ، و همچنین کارآفرین ری کورزویل ، نویسنده کتاب عصر ماشین های معنوی ، چاپ شده در 1999. بوده است ، خواهد بود. در حالی که آلن تورینگ نوعی هوش مصنوعی مشابه هوش انسانی را فرض می کرد ، افرادی مانند وینگ ، موراوک و کورزویل فراتر از این فکر می کردند: هنگامی که یک کامپیوتر می تواند به طور مستقل راههای متفاوتی را برای رسیدن به اهداف خود طراحی کند ، به احتمال زیاد رایانه قادر خواهد بود تفکر و استدلال ؛ و وقتی بتواند فکر کند ، می تواند نرم افزار خود را اصلاح کرده و خود را باهوش تر نشان دهد. به طور خلاصه ، چنین رایانه ای می تواند سخت افزار خود را به تنهایی طراحی کند.

به گفته کرزویل ، چنین رویدادهایی دوران جدید و زیبایی را ایجاد خواهد کرد. برخی از ماشین ها درک و صبر کافی (در تریلیون ها ثانیه اندازه گیری) خواهند داشت تا مشکلات برجسته فناوری نانو و پروازهای فضایی را حل کنند. این دستگاه ها وضعیت انسان را بهبود می بخشد. و آنها شرایطی را برای ما فراهم می کنند که بتوانیم دانش خود را در قالب دیجیتالی بی زمان ذخیره کنیم. به این ترتیب ، اطلاعات در سراسر کهکشان پخش می شود.

از سوی دیگر ، شما می توانید دقیقاً نقطه مقابل چنین خوش بینی زیبایی را تصور کنید. استفان هاوکینگ هشدار می دهد که در چنین شرایطی ، زیرا انسان ها قادر به رقابت با هوش مصنوعی بسیار پیشرفته نخواهند بود ، ممکن است نسل بشر از بین برود. کارآفرین ایلان ماسک پس از خواندن کتاب Supernatural در حساب توییتر خود نوشت: “امیدوارم ما فقط حامل بیولوژیکی ضمیر ناخودآگاه نباشیم.” متأسفانه این امر بیشتر و بیشتر محتمل می شود. “ایلان ماسک سپس 10 میلیون دلار به زندگی آینده اهدا کرد. موسسه. نه به این دلیل که او در مرکز شهر باستروم گیج شده است ، بلکه به این دلیل است که یک موسسه مرکزی است که “برای کاهش خطرات پیش روی بشریت کار می کند.” فعالیت هایی که منجر به “گسترش هوش مصنوعی به سطح انسان ها” می شود.

هیچ کس فکر نمی کند چیزی به نام فوق هوش وجود دارد. در حقیقت ، ما هنوز هیچ هدف جامع یا حتی روش خاصی برای دستیابی به هوش مصنوعی نداریم. پیشرفت های اخیر در زمینه هوش مصنوعی ، از دستیاران خودکار مانند Siri اپل گرفته تا ماشین های بدون راننده گوگل ، محدودیت های شدید فناوری را نشان می دهد. هر دوی این فناوری ها نمی توانند موقعیت هایی را که قبلاً با آن مواجه نشده اند ، کنترل کنند. شبکه های عصبی مصنوعی می توانند گربه ها را در عکس ها پیدا کنند ، اما باید صدها هزار عکس به آنها نشان داده شود ، اما ممکن است هنوز آنقدر دقت نکنند که گربه ها را از کودکان تشخیص دهند.

بروکس می‌گوید: حداقل برای چند صد سال آینده، نگران وجود هوش مصنوعی شرور نباشید.

اینجاست که افرادی مانند بروکس ، بنیانگذار iRobot و Rethink Robotics وارد بازی می شوند. حتی اگر تشخیص رایانه گربه پیشرفت قابل توجهی نسبت به قابلیت های رایانه های اولیه باشد ، رایانه هنوز اراده ای ندارد. یک ماشین نمی تواند درک کند که گربه چگونه است یا اتفاقات دیگری در تصویر رخ می دهد و افکار بی شماری که انسان ها دارند. با این دیدگاه ، هوش مصنوعی احتمالاً می تواند منجر به تولید ماشین های هوشمند شود. با این حال ، این نیاز به تلاش بیشتری نسبت به تصور افرادی مانند بوستروم دارد. حتی اگر این اتفاق بیفتد ، این هوش لزوما منجر به ادراک نمی شود. بروکس اخیراً در Edge.org نوشت: “اگر به وضعیت فعلی هوش مصنوعی نگاه کنیم ، فکر می کنیم به هوش فوق العاده ای دست یافته ایم ، مانند این است که عملکرد م ofثر موتورهای احتراق داخلی را ببینیم و به این نتیجه برسیم که در حال دستیابی به” ما سریعتر هستیم در فناوری نسبت به سرعت نور. “او می گوید:” حداقل در چند صد سال آینده ، نگران هوش مصنوعی نباشید. “

این مطلب ادامه دارد … .