*samira*
کاربر نگاه دانلود
از همان ابتداییترین روزهای ساخته شدن کامپیوترها، بودند اشخاصی که ذهنشان درگیر این مساله شده است. کتابها، فیلمها و آثار ادبی-هنری بسیاری چه از وجه علمی و چه از نگاه تخیلی، دربارهی هوش مصنوعی، ساخته شده است.
zoomit.ir - مهدی ملکزاده: از همان ابتداییترین روزهای ساخته شدن کامپیوترها، بودند اشخاصی که ذهنشان درگیر این مساله شده است. کتابها، فیلمها و آثار ادبی-هنری بسیاری چه از وجه علمی و چه از نگاه تخیلی، دربارهی هوش مصنوعی، ساخته شده است. در این مقالهی تحلیلی، سعی شده، مسالهی هوش مصنوعی به دقت موشکافی شود و احتمال کسب خصلتهای انسانی، مثل اراده و اختیار توسط هوش مصنوعی و ماشینهای هوشمند، مورد بررسی قرار بگیرد.
هوش مصنوعی واقعی، میتواند دنیا را نابود کند. به فرض این که چیزی به نام هوش مصنوعی واقعی، اصولا ممکن باشد.
پاول فورد، نویسندهی این مقاله در وبسایت MIT Technology Review، خاطرهای را اینگونه آغاز میکند: "سالها پیش، با یکی از دوستانم که مدیر یک استارتآپ بوده، قهوه میخوردیم. او به تازگی چهل ساله شده بود. پدرش بیمار بود و از ناحیهی کمر، ناراحتیهایی داشت. دوست من، خودش را در آستانهی دههی جدیدی از عمرش، غرق در زندگی مییافت. او گفت: «به من نخند، اما من روی تکینگی حساب میکردم.» "
دوست من در حوزهی تکنولوژی کار میکرد. وی به چشم خود تغییراتی که باعث سریعتر شدن ریزپردازندهها و شکل گرفتن شبکهها شده بود را دیده بود. برای او، اتفاق مهمی نبود که باور داشته باشد قبل از میانسالیاش، هوش ماشینها، از انسانها فراتر خواهند رفت.(لحظهای که آیندهپژوهان به آن لحظهی تکینگی میگویند.) یک هوش مصنوعی خارقالعاده، اگر خیرخواه انسانها باشد، در زمان کوتاهی، رمزهای ژنتیکی انسان را بررسی خواهد کرد و رمز جوانی ابدی را برای ما آشکار خواهد ساخت. یا در حداقلیترین حالت، خواهد توانست راه بهبودی درد کمر را مشخص کند.
ولی اگر هوش مصنوعی به وجود آمده، آنقدرها هم خیرخواه نبود چه؟ نیک بوستروم (Nick Bostrom)، فیلسوفی که انستیتوی بشریت در دانشگاه آکسفورد (Future of Humanity Institute at the University of Oxford) را مدیریت میکند، در کتابش با نام فوق هوش (Superintelligence)، سناریوی بالا را شرح داده است. کتاب وی باعث به وجود آمدن مناظرات و بحثهای بسیاری دربارهی آیندهی هوش مصنوعی شده است. ماشینی را تجسم کنید که برنامهریزی شده است تا حداکثر کلیپس کاغذ که ممکن است را تولید کند و ما میتوانیم آن را «حداکثرکنندهی کلیپس کاغذ/paper-clip maximizer» بنامیم. حالا تصور کنید به هر دلیلی، همین ماشین، به شکل فوقالعادهای هوشمند شده است. با توجه به هدف این ماشین، ممکن است تصمیم بگیرد که کلیپسهای کاغذی جدید و بیشتری تولید کند؛ تا آنجا که به سبک شاه میداس عملا همه چیزی را به کلیپس کاغذ تبدیل خواهد کرد.
ممکن است بگویید جای نگرانی نیست؛ میتوانیم برنامهریزی کنیم که به عنوان مثال دقیقا یک میلیون کلیپس کاغذ درست کند و بعد از کار بایستد. ولی اگر این ماشین، بعد از درست کردن کلیپسها تصمیم گرفت عملکرد خودش را نیز بررسی کند، چه؟ آیا تعداد کلیپسها را درست شمرده است؟ قطع به یقین، برای این کار نیاز است که ماشین، هوشمندتر شود. ماشین فوقهوش، نوعی مواد خام محاسباتی که هنوز ابداع نشده است را تولید میکند و به وسیلهی آن، هر شک و شبههای را بررسی خواهد کرد. اما هر شبههی تازهای، شبهههای دیجیتالی جدیدی را حاصل خواهد شد و همینطور تا جایی ادامه پیدا میکند که هر چه روی زمین است به آن مواد خام محاسباتی تبدیل شود. البته به جز یک میلیون کلیپس کاغذ که ابتدا ساخته است!
نیک بوستروم باور ندارد که ماشین حداکثرکنندهی کلیپس کاغذ به طور دقیق عمل خواهد کرد. این یک آزمایش فکری است. آزمایشی که طراحی شده تا نشان دهد حتی سیستمهای بسیار دقیق نیز در مهار کردن هوش مفرط ماشینها، شکست میخورند. اما پروفسور بوستروم به این موضوع اعتقاد دارد که فوقهوش میتواند به وجود بیاید و مفید هم باشد. و البته وی فکر میکند که فوق هوش ممکن است تصمیم بگیرد که دیگر به انسانها نیازی ندارد؛ یا از این قبیل رفتارها که باعث نابودی جهان خواهد شد. در همین راستا، عنوان فصل هشتم کتاب وی، اینچنین انتخاب شده است: «آیا پیامدهای فوقهوش، به طور پیشفرض، نابودکننده و مخرب خواهد بود؟»
اگر این صحبتها به نظرتان مضحک میآید، شما تنها نیستید که اینطور فکر میکنید. منتقدان بسیاری نیز چنین فکر میکنند. از جمله رادنی بروکس (Rodney Brooks) از پیشگامان علم روباتیک، میگوید آنهایی که در ترس از یک هوش مصنوعی غیرقابل کنترل به سر میبرند، در واقع درک درستی از اینکه کامپیوترها چه کار میکنند ندارند و متوجه نیستند وقتی میگوییم کامپیوترها دارند هوشمندتر میشوند منظورمان چیست. وی تاکید میکند که آنچه نیک بوستروم دربارهی چشمانداز هوش مصنوعی و فوقهوش تصویر کرده است، به آیندهی بسیار دور مربوط است و شاید هم به کل، غیرممکن باشد.
اما در عین حال، بسیاری از متفکران دیگر با بوستروم موافقاند و از همین حالا نگران آیندهی هوش مصنوعی هستند. چرا؟
اراده
این پرسش که «آیا کامپیوترها قادر به فکر کردن هستند؟» از ابتدای به وجود آمدن کامپیوترها، بر دنیای این ماشینها، سایه افکنده بود. آلن تورینگ در سال ۱۹۵۰ میلادی تئوریای مطرح کرده است که میگوید ماشینها، میتوانند مثل یک بچه مورد آموزش و تدریس قرار بگیرند. جان مککارتی (John McCarthy) مخترع زبان برنامهنویسی لیسپ (LISP)، اصطلاح «هوش مصنوعی-Artificial Intelligence» را در سال ۱۹۵۰ میلادی ابداع کرده است. به موازات این که محققان حوزهی هوش مصنوعی در دهههای ۱۹۶۰ و ۱۹۷۰ میلادی شروع به استفاده از کامپیوترها برای شناسایی عکسها، ترجمه زبانهای مختلف به یکدیگر و درک دستورالعملها در زبان معمولی و نه فقط در کدها کردند، این ایده که کامپیوترها نهایتا قادر به صحبت و تفکر-و بنابراین قادر به انجام اعمال شرورانه- خواهند بود، به جریان فرهنگی غالب نفوذ کرد.
علاوه بر فیلم ۲۰۰۱: یک اودیسه فضایی (2001: A Space Odyssey) که غالبا به آن ارجاع داده میشود، فیلم دیگری در دهه ۱۹۷۰ با نام کلوسوس: پروژهی فوربین (Colossus: The Forbin Project) تصوری را به جامعه القاء میکرد که نهایتا کامپیوترها، جهان را به مرز نابودی هستهای و زمستان هستهای خواهند کشاند. و ۱۳ سال پس از این فیلم نیز، همین موضوع، دستمایهی اثر دیگری به نام بازی جنگ (WarGames) شد. همینطور گذشت تا بالاخره در سال ۱۹۷۳، آدم مصنوعیهای فیلم جهان غرب (Westworld) به کلی دیوانه شدند و شروع به کشتار مردم دنیا کردند.
زمانی که تحقیقات روی هوش مصنوعی، به نتایج بلندپروازانهای که مد نظر بود، نرسید، بودجههای مربوط به این تحقیقات به شدت کاهش یافت و با این اتفاق، «زمستان هوش مصنوعی» آغاز شد. اما در همین شرایط نیز، شعلهی ماجراهای ماشینهای هوشمند و هوش مصنوعی، در طول دهههای ۱۹۷۰ و ۱۹۸۰ میلادی، توسط نویسندگان، دانشمندان و کارآفرینان بسیاری، روشن نگه داشته شد. این گونه افراد شامل نویسندگان علمی تخیلی مانند ورنور وینج (Vernor Vinge) که مفهوم تکینگی (Singularity) را به عامه مردم شناساند، بودند. و همچنین محققان فعال در عرصهی روباتیک، همچون هانس موراوک (Hans Moravec)، متخصص بینش کامپیوتری، و مهندس و همچنین کارآفرینی مانند ری کرزویل (Ray Kurzweil) نویسندهی کتاب «دوران ماشینهای معنوی - The Age of Spiritual Machines» که در ۱۹۹۹ میلادی منتشر شده است، میشوند.
در حالی که آلن تورینگ، یک نوع هوش مصنوعی شبیه به هوش انسانی را فرض قرار داده بود، افرادی مثل وینج، موراوک و کرزویل فراتر از این میاندیشیدند: هنگامی که یک کامپیوتر به طور مستقل قادر باشد برای دستیابی به اهدافش راههای مختلفی ابداع کند، بسیار محتمل خواهد بود که آن کامپیوتر، قادر به تفکر و اندیشیدن نیز باشد؛ و هنگامی که بتواند فکر کند، خواهد توانست نرمافزارهایش را اصلاح و خودش را هوشمندتر کند. خلاصه این که، چنین کامپیوتری، قادر خواهد بود به تنهایی سختافزارهای خودش را طراحی کند.
آن طور که کرزویل میگوید، چنین اتفاقاتی، باعث به وجود آمدن دورهی جدید و زیبایی خواهد شد. برخی ماشینها، فهم و صبر کافی را خواهند داشت (که با تریلیونیم ثانیه اندازهگیری خواهد شد) تا بتوانند مشکلات برجستهی نانوتکنولوژی و پرواز فضایی را برطرف سازند. این ماشینها، شرایط بشر را بهبود خواهند بخشید. و برای ما شرایطی فراهم خواهند کرد که بتوانیم آگاهیها و دانستههای خود را در یک قالب دیجیتالی جاودانه، نگهداری کنیم. و به این شکل، اطلاعات در سرتاسر کهکشان پخش خواهد شد.
از طرف دیگر، میتوانید دقیقا نقطهی مقابل اینطور خوشبینیهای زیبا را تصور کنید. استیون هاوکینگ (Stephen Hawking) هشدار داده است که در چنین شرایطی، به این دلیل که انسانها قادر به رقابت با هوش مصنوعی بسیار پیشرفته نخواهند بود، ممکن است نژاد انسان از بین برود. الون ماسک (Elon Musk)، کارآفرین، پس از مطالعه کتاب فوقهوش، در حساب توییتر خود، چنین نوشته است که: «امیدوارم ما فقط حامل بیولوژیکی برای فوقهوش نباشیم. متاسفانه این مساله روزبهروز بیشتر محتمل میشود.» پس از آن، الون ماسک، مبلغ ۱۰ میلیون دلار به «انستیتو آینده زندگی» کمک مالی کرد. نه به این دلیل که در مرکز بوستروم گیج شده بود، بلکه این انستیتو مرکزی است که در آن «برای کاهش خطرات پیش روی بشر فعالیت میشود». فعالیتهایی که در اثر آنها، «گسترش هوش مصنوعی در حد انسان» به وقوع خواهد پیوست.
هیچکس تصور نمیکند چیزی مانند فوقهوش وجود داشته باشد. در واقع، هنوز هیچ هدف همه جانبه و یا حتی روش مشخصی برای دستیبابی به هوشمصنوعی نداریم. پیشرفتهای اخیر هوش مصنوعی، از دستیاران اتوماتیک مانند سیری در اَپل تا ماشینهای بدون رانندهی گوگل، نمایانگر محدودیتهای شدید تکنولوژی در این زمینه میباشند. هر دوی این تکنولوژیها نمیتوانند موقعیتهایی که قبلاً با آن مواجه نشدهاند را کنترل کنند. شبکههای عصبی مصنوعی میتوانند خودشان گربهها را در عکسها پیدا کنند، البته باید صدها هزار عکس به آنها نشان داده شود و هنوز هم ممکن است در تشخیص گربه از کودکان دقت کافی را نداشته باشند.
در اینجاست که افرادی مانند بروکس پایهگذار آیروبات (iRobot) و ریتینک روباتیک (Rethink Robotics) وارد عمل میشوند.حتی اگر تشخیص گربه توسط کامپیوتر–در مقایسه با قابلیتهای کامپیوترهای اولیه، پیشرفت قابل ملاحظهای باشد، هنوز هم کامپیوتر هیچ اردهای ندارد. یک ماشین نمیتواند هیچ درکی دربارهی اینکه گربه چطور موجودی است و یا اتفاقات دیگری که در عکس رخ میدهد و افکار بیشماری که انسانها دارند، داشته باشد.
با این نگاه، هوش مصنوعی، احتمالا میتواند به تولید ماشینهای هوشمند منجر شود؛ اما، این کار به تلاشی بیش از تصور افرادی مانند بوستروم، نیاز دارد. حتی اگر این اتفاق نیز رخ دهد، این هوش لزوماً منجر به ادراک نمیشود. بروکس اخیراً در سایت Edge.org نوشته است «اگر با مشاهدهی وضعیت کنونی هوش مصنوعی، تصور کنیم در حال دستیابی به فوقهوش هستیم، مانند زمانی است که کارکرد موثر مورتورهای احتراقی داخلی را ببینیم و با دیدن آنها به این نتیجه برسیم که در حال دستیابی به تکنولوژی سرعتی بیشتر از سرعت نور هستیم.» او میگوید: «حداقل برای چند صد سال آینده، نگران وجود هوش مصنوعی شرور نباشید.»
zoomit.ir - مهدی ملکزاده: از همان ابتداییترین روزهای ساخته شدن کامپیوترها، بودند اشخاصی که ذهنشان درگیر این مساله شده است. کتابها، فیلمها و آثار ادبی-هنری بسیاری چه از وجه علمی و چه از نگاه تخیلی، دربارهی هوش مصنوعی، ساخته شده است. در این مقالهی تحلیلی، سعی شده، مسالهی هوش مصنوعی به دقت موشکافی شود و احتمال کسب خصلتهای انسانی، مثل اراده و اختیار توسط هوش مصنوعی و ماشینهای هوشمند، مورد بررسی قرار بگیرد.
هوش مصنوعی واقعی، میتواند دنیا را نابود کند. به فرض این که چیزی به نام هوش مصنوعی واقعی، اصولا ممکن باشد.
پاول فورد، نویسندهی این مقاله در وبسایت MIT Technology Review، خاطرهای را اینگونه آغاز میکند: "سالها پیش، با یکی از دوستانم که مدیر یک استارتآپ بوده، قهوه میخوردیم. او به تازگی چهل ساله شده بود. پدرش بیمار بود و از ناحیهی کمر، ناراحتیهایی داشت. دوست من، خودش را در آستانهی دههی جدیدی از عمرش، غرق در زندگی مییافت. او گفت: «به من نخند، اما من روی تکینگی حساب میکردم.» "
دوست من در حوزهی تکنولوژی کار میکرد. وی به چشم خود تغییراتی که باعث سریعتر شدن ریزپردازندهها و شکل گرفتن شبکهها شده بود را دیده بود. برای او، اتفاق مهمی نبود که باور داشته باشد قبل از میانسالیاش، هوش ماشینها، از انسانها فراتر خواهند رفت.(لحظهای که آیندهپژوهان به آن لحظهی تکینگی میگویند.) یک هوش مصنوعی خارقالعاده، اگر خیرخواه انسانها باشد، در زمان کوتاهی، رمزهای ژنتیکی انسان را بررسی خواهد کرد و رمز جوانی ابدی را برای ما آشکار خواهد ساخت. یا در حداقلیترین حالت، خواهد توانست راه بهبودی درد کمر را مشخص کند.
ولی اگر هوش مصنوعی به وجود آمده، آنقدرها هم خیرخواه نبود چه؟ نیک بوستروم (Nick Bostrom)، فیلسوفی که انستیتوی بشریت در دانشگاه آکسفورد (Future of Humanity Institute at the University of Oxford) را مدیریت میکند، در کتابش با نام فوق هوش (Superintelligence)، سناریوی بالا را شرح داده است. کتاب وی باعث به وجود آمدن مناظرات و بحثهای بسیاری دربارهی آیندهی هوش مصنوعی شده است. ماشینی را تجسم کنید که برنامهریزی شده است تا حداکثر کلیپس کاغذ که ممکن است را تولید کند و ما میتوانیم آن را «حداکثرکنندهی کلیپس کاغذ/paper-clip maximizer» بنامیم. حالا تصور کنید به هر دلیلی، همین ماشین، به شکل فوقالعادهای هوشمند شده است. با توجه به هدف این ماشین، ممکن است تصمیم بگیرد که کلیپسهای کاغذی جدید و بیشتری تولید کند؛ تا آنجا که به سبک شاه میداس عملا همه چیزی را به کلیپس کاغذ تبدیل خواهد کرد.
ممکن است بگویید جای نگرانی نیست؛ میتوانیم برنامهریزی کنیم که به عنوان مثال دقیقا یک میلیون کلیپس کاغذ درست کند و بعد از کار بایستد. ولی اگر این ماشین، بعد از درست کردن کلیپسها تصمیم گرفت عملکرد خودش را نیز بررسی کند، چه؟ آیا تعداد کلیپسها را درست شمرده است؟ قطع به یقین، برای این کار نیاز است که ماشین، هوشمندتر شود. ماشین فوقهوش، نوعی مواد خام محاسباتی که هنوز ابداع نشده است را تولید میکند و به وسیلهی آن، هر شک و شبههای را بررسی خواهد کرد. اما هر شبههی تازهای، شبهههای دیجیتالی جدیدی را حاصل خواهد شد و همینطور تا جایی ادامه پیدا میکند که هر چه روی زمین است به آن مواد خام محاسباتی تبدیل شود. البته به جز یک میلیون کلیپس کاغذ که ابتدا ساخته است!
نیک بوستروم باور ندارد که ماشین حداکثرکنندهی کلیپس کاغذ به طور دقیق عمل خواهد کرد. این یک آزمایش فکری است. آزمایشی که طراحی شده تا نشان دهد حتی سیستمهای بسیار دقیق نیز در مهار کردن هوش مفرط ماشینها، شکست میخورند. اما پروفسور بوستروم به این موضوع اعتقاد دارد که فوقهوش میتواند به وجود بیاید و مفید هم باشد. و البته وی فکر میکند که فوق هوش ممکن است تصمیم بگیرد که دیگر به انسانها نیازی ندارد؛ یا از این قبیل رفتارها که باعث نابودی جهان خواهد شد. در همین راستا، عنوان فصل هشتم کتاب وی، اینچنین انتخاب شده است: «آیا پیامدهای فوقهوش، به طور پیشفرض، نابودکننده و مخرب خواهد بود؟»
اگر این صحبتها به نظرتان مضحک میآید، شما تنها نیستید که اینطور فکر میکنید. منتقدان بسیاری نیز چنین فکر میکنند. از جمله رادنی بروکس (Rodney Brooks) از پیشگامان علم روباتیک، میگوید آنهایی که در ترس از یک هوش مصنوعی غیرقابل کنترل به سر میبرند، در واقع درک درستی از اینکه کامپیوترها چه کار میکنند ندارند و متوجه نیستند وقتی میگوییم کامپیوترها دارند هوشمندتر میشوند منظورمان چیست. وی تاکید میکند که آنچه نیک بوستروم دربارهی چشمانداز هوش مصنوعی و فوقهوش تصویر کرده است، به آیندهی بسیار دور مربوط است و شاید هم به کل، غیرممکن باشد.
اما در عین حال، بسیاری از متفکران دیگر با بوستروم موافقاند و از همین حالا نگران آیندهی هوش مصنوعی هستند. چرا؟
اراده
این پرسش که «آیا کامپیوترها قادر به فکر کردن هستند؟» از ابتدای به وجود آمدن کامپیوترها، بر دنیای این ماشینها، سایه افکنده بود. آلن تورینگ در سال ۱۹۵۰ میلادی تئوریای مطرح کرده است که میگوید ماشینها، میتوانند مثل یک بچه مورد آموزش و تدریس قرار بگیرند. جان مککارتی (John McCarthy) مخترع زبان برنامهنویسی لیسپ (LISP)، اصطلاح «هوش مصنوعی-Artificial Intelligence» را در سال ۱۹۵۰ میلادی ابداع کرده است. به موازات این که محققان حوزهی هوش مصنوعی در دهههای ۱۹۶۰ و ۱۹۷۰ میلادی شروع به استفاده از کامپیوترها برای شناسایی عکسها، ترجمه زبانهای مختلف به یکدیگر و درک دستورالعملها در زبان معمولی و نه فقط در کدها کردند، این ایده که کامپیوترها نهایتا قادر به صحبت و تفکر-و بنابراین قادر به انجام اعمال شرورانه- خواهند بود، به جریان فرهنگی غالب نفوذ کرد.
علاوه بر فیلم ۲۰۰۱: یک اودیسه فضایی (2001: A Space Odyssey) که غالبا به آن ارجاع داده میشود، فیلم دیگری در دهه ۱۹۷۰ با نام کلوسوس: پروژهی فوربین (Colossus: The Forbin Project) تصوری را به جامعه القاء میکرد که نهایتا کامپیوترها، جهان را به مرز نابودی هستهای و زمستان هستهای خواهند کشاند. و ۱۳ سال پس از این فیلم نیز، همین موضوع، دستمایهی اثر دیگری به نام بازی جنگ (WarGames) شد. همینطور گذشت تا بالاخره در سال ۱۹۷۳، آدم مصنوعیهای فیلم جهان غرب (Westworld) به کلی دیوانه شدند و شروع به کشتار مردم دنیا کردند.
زمانی که تحقیقات روی هوش مصنوعی، به نتایج بلندپروازانهای که مد نظر بود، نرسید، بودجههای مربوط به این تحقیقات به شدت کاهش یافت و با این اتفاق، «زمستان هوش مصنوعی» آغاز شد. اما در همین شرایط نیز، شعلهی ماجراهای ماشینهای هوشمند و هوش مصنوعی، در طول دهههای ۱۹۷۰ و ۱۹۸۰ میلادی، توسط نویسندگان، دانشمندان و کارآفرینان بسیاری، روشن نگه داشته شد. این گونه افراد شامل نویسندگان علمی تخیلی مانند ورنور وینج (Vernor Vinge) که مفهوم تکینگی (Singularity) را به عامه مردم شناساند، بودند. و همچنین محققان فعال در عرصهی روباتیک، همچون هانس موراوک (Hans Moravec)، متخصص بینش کامپیوتری، و مهندس و همچنین کارآفرینی مانند ری کرزویل (Ray Kurzweil) نویسندهی کتاب «دوران ماشینهای معنوی - The Age of Spiritual Machines» که در ۱۹۹۹ میلادی منتشر شده است، میشوند.
در حالی که آلن تورینگ، یک نوع هوش مصنوعی شبیه به هوش انسانی را فرض قرار داده بود، افرادی مثل وینج، موراوک و کرزویل فراتر از این میاندیشیدند: هنگامی که یک کامپیوتر به طور مستقل قادر باشد برای دستیابی به اهدافش راههای مختلفی ابداع کند، بسیار محتمل خواهد بود که آن کامپیوتر، قادر به تفکر و اندیشیدن نیز باشد؛ و هنگامی که بتواند فکر کند، خواهد توانست نرمافزارهایش را اصلاح و خودش را هوشمندتر کند. خلاصه این که، چنین کامپیوتری، قادر خواهد بود به تنهایی سختافزارهای خودش را طراحی کند.
آن طور که کرزویل میگوید، چنین اتفاقاتی، باعث به وجود آمدن دورهی جدید و زیبایی خواهد شد. برخی ماشینها، فهم و صبر کافی را خواهند داشت (که با تریلیونیم ثانیه اندازهگیری خواهد شد) تا بتوانند مشکلات برجستهی نانوتکنولوژی و پرواز فضایی را برطرف سازند. این ماشینها، شرایط بشر را بهبود خواهند بخشید. و برای ما شرایطی فراهم خواهند کرد که بتوانیم آگاهیها و دانستههای خود را در یک قالب دیجیتالی جاودانه، نگهداری کنیم. و به این شکل، اطلاعات در سرتاسر کهکشان پخش خواهد شد.
از طرف دیگر، میتوانید دقیقا نقطهی مقابل اینطور خوشبینیهای زیبا را تصور کنید. استیون هاوکینگ (Stephen Hawking) هشدار داده است که در چنین شرایطی، به این دلیل که انسانها قادر به رقابت با هوش مصنوعی بسیار پیشرفته نخواهند بود، ممکن است نژاد انسان از بین برود. الون ماسک (Elon Musk)، کارآفرین، پس از مطالعه کتاب فوقهوش، در حساب توییتر خود، چنین نوشته است که: «امیدوارم ما فقط حامل بیولوژیکی برای فوقهوش نباشیم. متاسفانه این مساله روزبهروز بیشتر محتمل میشود.» پس از آن، الون ماسک، مبلغ ۱۰ میلیون دلار به «انستیتو آینده زندگی» کمک مالی کرد. نه به این دلیل که در مرکز بوستروم گیج شده بود، بلکه این انستیتو مرکزی است که در آن «برای کاهش خطرات پیش روی بشر فعالیت میشود». فعالیتهایی که در اثر آنها، «گسترش هوش مصنوعی در حد انسان» به وقوع خواهد پیوست.
هیچکس تصور نمیکند چیزی مانند فوقهوش وجود داشته باشد. در واقع، هنوز هیچ هدف همه جانبه و یا حتی روش مشخصی برای دستیبابی به هوشمصنوعی نداریم. پیشرفتهای اخیر هوش مصنوعی، از دستیاران اتوماتیک مانند سیری در اَپل تا ماشینهای بدون رانندهی گوگل، نمایانگر محدودیتهای شدید تکنولوژی در این زمینه میباشند. هر دوی این تکنولوژیها نمیتوانند موقعیتهایی که قبلاً با آن مواجه نشدهاند را کنترل کنند. شبکههای عصبی مصنوعی میتوانند خودشان گربهها را در عکسها پیدا کنند، البته باید صدها هزار عکس به آنها نشان داده شود و هنوز هم ممکن است در تشخیص گربه از کودکان دقت کافی را نداشته باشند.
در اینجاست که افرادی مانند بروکس پایهگذار آیروبات (iRobot) و ریتینک روباتیک (Rethink Robotics) وارد عمل میشوند.حتی اگر تشخیص گربه توسط کامپیوتر–در مقایسه با قابلیتهای کامپیوترهای اولیه، پیشرفت قابل ملاحظهای باشد، هنوز هم کامپیوتر هیچ اردهای ندارد. یک ماشین نمیتواند هیچ درکی دربارهی اینکه گربه چطور موجودی است و یا اتفاقات دیگری که در عکس رخ میدهد و افکار بیشماری که انسانها دارند، داشته باشد.
با این نگاه، هوش مصنوعی، احتمالا میتواند به تولید ماشینهای هوشمند منجر شود؛ اما، این کار به تلاشی بیش از تصور افرادی مانند بوستروم، نیاز دارد. حتی اگر این اتفاق نیز رخ دهد، این هوش لزوماً منجر به ادراک نمیشود. بروکس اخیراً در سایت Edge.org نوشته است «اگر با مشاهدهی وضعیت کنونی هوش مصنوعی، تصور کنیم در حال دستیابی به فوقهوش هستیم، مانند زمانی است که کارکرد موثر مورتورهای احتراقی داخلی را ببینیم و با دیدن آنها به این نتیجه برسیم که در حال دستیابی به تکنولوژی سرعتی بیشتر از سرعت نور هستیم.» او میگوید: «حداقل برای چند صد سال آینده، نگران وجود هوش مصنوعی شرور نباشید.»
