کتاب نیک بوستروم در سال 2014، «فوق هوش»، متنی حیاتی برای جامعه نگران خطرات هوش مصنوعی، با یک افسانه آغاز می‌شود: قبیله گنجشک‌ها که از وجود حاشیه‌ای خسته شده‌اند، متقاعد می‌شوند که اگر می‌توانستند همه چیز بهتر می‌شد. فقط یک جغد داشته باشید که به آنها کمک کند – لانه بسازد، در مراقبت و تغذیه کمک کند، و مراقب شکارچیان دیگر باشد. گنجشک‌ها که از این ایده خوشحال شدند، تصمیم می‌گیرند به شکار یک تخم جغد یا جوجه جغد بروند که ممکن است به عنوان مال خود بزرگ کنند.
فقط اسکرونک فینکل، «گنجشکی یک چشم با خلق و خوی پریشان»، اشاره می کند که شاید باید خطرات زندگی با یک جغد بالغ را در نظر بگیرند و ابتدا کمی به رام کردن جغدها و اهلی کردن جغدها فکر کنند. اما او به این دلیل رد شده است که صرفاً گرفتن جغد به اندازه کافی سخت خواهد بود و زمانی برای نگرانی در مورد اهلی کردن جغد پس از به دست آوردن و پرورش آن وجود خواهد داشت. بنابراین در حالی که بقیه برای جستجوی تخم‌ها و جوجه‌ها پرواز می‌کنند، اسکرونک فینکل و چند گنجشک دیگر سعی می‌کنند ذهن خود را به مشکل رام کردن معطوف کنند – چالشی دشوار، نداشتن جغد برای کار کردن، و ترسی که هر لحظه در سایه آن وجود دارد. جفت های لانه آنها ممکن است با یک جغد برگردند و تئوری های ترسیم شده خود را در معرض آزمایشی بی رحمانه قرار دهند.
این یک افسانه زیبا در مورد آنچه هشداردهنده های هوش مصنوعی فکر می کنند در حال حاضر اتفاق می افتد است. قدرت شتاب دهنده هوش مصنوعی که تاکنون در چت ربات ها و تولیدکنندگان تصویر به طور عمومی آشکار شده است، جغد در حال رشدی در لانه ما است و هشداردهنده های ما هنوز برای مهار آن آمادگی ندارند. و بر اساس روحیه Scronkfinkle است که مجموعه‌ای از سرشناسان سیلیکون ولی، از جمله ایلان ماسک، به تازگی نامهای سرگشاده امضا کردند که در آن خواستار توقف حداقل شش ماهه آزمایش‌های هوش مصنوعی در مقیاس بزرگ شد تا به پروتکل‌های ایمنی ما اجازه داده شود تا به نتیجه برسد.
اما یک تفاوت اساسی بین افسانه و موقعیت خود ما وجود دارد، که به توضیح اینکه چرا اصرارهای مکث انسانی حتی از Scronkfinkle کار سخت تری دارند، کمک می کند. توجه داشته باشید که گنجشک ها، با همه بی گناهی خود، حداقل به طور کلی می دانند که جغد چگونه است، چیست و چه کار می کند. بنابراین تصور قدرت‌هایی که یک جغد رام نشده می‌تواند برایشان سخت باشد، و برای خواننده نیز دشوار نیست – قدرت‌های آشنای سرعت، بینایی و قدرت، که می‌تواند پاره کند و ببرد و ببلعد. قبیله گنجشک های بدشانسی
با این حال، با یک ابر هوش خیالی، تمام نکته این است که در حال حاضر مشابهی وجود ندارد که بتوانیم مشاهده کنیم، درک کنیم و ترسیدن را بیاموزیم. هشداردهنده ها سناریوی ساده ای از خطر، توصیف واضحی از پنجه ها و منقار ندارند. آنها سناریوهای بسیار نامطمئن زیادی دارند که بر اساس حدس و گمان های نامطمئن تر در مورد اینکه یک هوش به نحوی بزرگتر از ما می تواند انجام دهد.
این باعث نمی شود که استدلال آنها اشتباه باشد. در واقع، می‌توانید استدلال کنید که همین عدم قطعیت، هوش مصنوعی فوق‌هوشمند را ارزش ترسیدن بسیار بیشتر می‌کند. اما به طور کلی، زمانی که انسان‌ها علیه یک فناوری روی می‌آورند یا برای مهار آن حرکت می‌کنند، ما ایده خوبی از اتفاقی که می‌ترسیم، داریم و می‌خواهیم از چه نوع آخرالزمانی جلوگیری کنیم، داریم. معاهده‌های ممنوعیت آزمایش هسته‌ای پس از هیروشیما و ناکازاکی آمدند، نه قبل از آن. یا یک مثال کمتر وجودی: بحث فعلی در مورد محدود کردن قرار گرفتن کودکان در رسانه های اجتماعی قوی است زیرا ما مدتی با اینترنت و آیفون زندگی کرده ایم. ما در مورد معایب فرهنگ آنلاین چیزهای زیادی می دانیم. در حالی که تصور اینکه کسی را متقاعد کنید که پیشگیرانه TikTok را در سال 1993 تنظیم کند، سخت است.
من این را به عنوان کسی می نویسم که در تلاش برای درک عذاب های خاصی است که ممکن است برای ما اتفاق بیفتد اگر هشدار دهنده های هوش مصنوعی درست باشند یا حتی دقیقاً منظور ما از «ابر هوش» چیست.
برخی از عدم اطمینان من به بحث در مورد آگاهی ماشینی و اینکه آیا هوش مصنوعی برای خطرناک شدن واقعی نیاز به کسب حس خودآگاهی دارد یا خیر. اما همچنین می توان عدم قطعیت را به سؤالات محدودتری که نیازی به موضع گیری در مورد ماهیت خود یا روح ندارند، تقطیر کرد.
پس بیایید یکی از آنها را مرور کنیم: آیا هوش ماشینی سوپرشارژ پیش بینی آینده را بسیار آسان تر خواهد کرد؟
من این سوال را دوست دارم زیرا به حرفه خودم مرتبط است – یا حداقل اینکه دیگران فکر می کنند شغل من باید باشد: مهم نیست که چند بار دانش نبوی را انکار می کنید، برای یک ستون نویس روزنامه هیچ سوال قابل اعتمادتری برای مهمانی شام وجود ندارد. “در اوکراین قرار است چه اتفاقی بیفتد؟” یا “چه کسی در مرحله مقدماتی بعدی پیروز خواهد شد؟”
فکر نمی‌کنم هوش خودم برای این نوع پیش‌بینی مناسب باشد. وقتی به نوشته‌های خودم نگاه می‌کنم، در توصیف گرایش‌های بزرگی که معلوم می‌شود تأثیر شکل‌دهنده‌ای بر رویدادها دارند، خوب عمل می‌کنم – مثلاً تبدیل حزب جمهوری‌خواه به یک ائتلاف طبقه کارگر پایین‌مقیاس. اما در جایی که گرایش‌های بزرگ به رویدادهای خاص تقطیر می‌شوند، من مانند بقیه فقط حدس و گمان می‌زنم: علیرغم درک من از نیروهایی که باعث ظهور دونالد ترامپ شده‌اند، همچنان به طور مداوم پیش‌بینی می‌کردم که او نامزد جمهوری‌خواهان در سال 2016 نخواهد بود.
با این حال، اشکالی از هوش وجود دارد که بهتر از من در پیش بینی دقیق عمل می کنند. اگر کار فیلیپ تتلاک را بخوانید، که در مورد ابرپیش‌بینی‌کنندگان مطالعه می‌کند، واضح است که برخی عادات ذهنی، پیش‌بینی‌های بهتری نسبت به دیگران به دست می‌دهند، حداقل زمانی که آینده‌شناسی آنها در درصدهایی بیان می‌شود که به طور میانگین در طیف وسیعی از پیش‌بینی‌ها بیان می‌شود.
بنابراین (برای استفاده از نمونه‌ای از کتاب تتلاک، «پیش‌بینی فوق‌العاده» که با دن گاردنر نوشته شده است) یک کارشناس متوسط، در اوایل جنگ داخلی سوریه، ممکن است احتمال از دست دادن قدرت، رئیس‌جمهور بشار اسد ظرف شش ماه را حدود 40 درصد اعلام کند. . اما ابر پیش بینی ها، با تمرکز کمی عمیق تر بر وضعیت، شانس را کمتر از 25 درصد می دانند. بقای بعدی اسد به تنهایی ثابت نمی‌کند که ابرپیش‌بینی‌کنندگان دقیقاً درست عمل کرده‌اند – شاید دیکتاتور فقط شانس‌ها را شکست داده است – اما به میانگین کلی ضربتی آنها کمک می‌کند، که در طیفی از سناریوهای پیش‌بینی‌کننده مشابه بالاتر از سطح پایه کارشناسان است.
اما نه آنقدر بالاتر که یک دولتمرد بتواند فقط بر روی مجموعات آنها تکیه کند تا به نوعی از بردهای ژئوپلیتیکی ادامه دهد. بنابراین یک هدف قابل تصور برای یک هوش بسیار برتر، بهبود اساسی در این نوع پیش‌بینی صرفاً انسانی است.
ما می دانیم که هوش مصنوعی در حال حاضر دارای قدرت تشخیص الگو است که از سازندگان انسانی آن فراتر می رود و گاهی اوقات آنها را مبهم می کند. به عنوان مثال، هوش مصنوعی می‌تواند جنسیت فرد را با نرخ‌های بالاتر از حد متوسط، تنها بر اساس عکس شبکیه چشم، به دلایلی که هنوز مشخص نیست، پیش‌بینی کند. و شواهد فزاینده ای وجود دارد که هوش مصنوعی قادر به انجام کارهای تشخیصی قابل توجه در پزشکی خواهد بود.
بنابراین تصور کنید مقیاس بزرگ‌تری از تشخیص الگو در سیاست جهانی اعمال شود و نه تنها احتمال سقوط یک دیکتاتور مبهم، بلکه این نوع توطئه را در این ماه خاص با این توطئه‌گران خاص پیش‌بینی کند. یا این نتیجه نظامی خاص در این استان خاص با این اتفاقات به سرعت در حال پیگیری است.
ابر هوش در این سناریو به عنوان نسخه‌ای از «تاریخ روانی» عمل می‌کند که آیزاک آسیموف در رمان‌های «بنیاد» خود تصور می‌کند، که معمار خود را قادر می‌سازد تا نسل‌های آینده را از طریق سقوط یک امپراتوری کهکشانی راهنمایی کند. و یک هدیه پیشگویانه از این دست می‌تواند کاربردهای آشکاری فراتر از سیاست داشته باشد – برای مثال، برای پیش‌بینی بازار سهام، یا به نوعی موتور پیش‌بینی «پیش‌جرم» که فیلیپ کی دیک و سپس، در اقتباس، استیون اسپیلبرگ تصور می‌کردند.
همچنین به خوبی در برخی از گمانه زنی های بدبینان هوش مصنوعی قرار می گیرد. به عنوان مثال، زمانی که اسکات الکساندر، نویسنده مجاور دره سیلیکون، تصمیم گرفت تا چشم اندازی از پیشرفت یک هوش مصنوعی بدخواه بنویسد، تصور کرد که در ابتدا خود را به کیم جونگ اون متصل می کند و کشورش را از طریق نوعی قدرت پیش بینی فوق العاده در اختیار می گیرد: «توصیه های آن. همیشه عالی است – استراتژی‌های سیاسی آن همیشه جواب می‌دهند، برنامه‌ریزی نظامی آن بی‌عیب و نقص است و ایده‌های محصولش، کره شمالی را به یک نیروگاه اقتصادی غیرمنتظره تبدیل می‌کند.»
اما آیا هر هوشی، اعم از پرشور یا غیر آن، قادر به چنین آینده نگری است؟ یا جهان آنقدر پیچیده است که کاهش ناپذیر است که حتی اگر تشخیص الگو را روی تشخیص الگو انباشته کنید و اجازه دهید هوش مصنوعی شبیه‌سازی‌های بی‌پایانی را اجرا کند، باز هم احتمالاتی خواهید داشت که خیلی دقیق‌تر از آنچه می‌توان با قضاوت و هوش انسانی به دست آورد، نیست. ?
فرض من این است که این دومی است، که بازدهی رو به کاهشی برای هر نوع هوش به عنوان ابزار پیشگویی وجود دارد، که جهان به گونه ای ساخته نشده است که با چنین روش های دقیق پیش بینی شود – بیش از ظرفیت های فعلی ترال-اینترنت ChatGPT آن را فعال کرده است تا اسرار فعلی را که نیازی به پیشگویی ندارند، حل کند. هنگامی که یک چت بات شواهد مفصلی را به سبک شرلوک هلمز فاش می کند که قدرت های بیش از حد انسانی ما از دست داده اند و بمباران خط لوله نورد استریم را حل می کند یا ناپدید شدن پرواز 370 خطوط هوایی مالزی را توضیح می دهد، آنگاه من در آینده منتظر تاریخچه روانی خواهم بود. تکرار. اما به نظر می رسد به احتمال زیاد قدرت پیشگویی واقعی از هوش مصنوعی فرار کند، و هر سناریوی روز قیامت که مستلزم آینده نگری کامل ماکیاولیستی از سوی ارباب بالقوه ما باشد، هر چقدر هم که پیش بینی آن فوق العاده باشد، بسیار معتبر نیست.
یا شاید من فقط یک گنجشک هستم که هرگز جغد را ندیده و نمی توانم تصور کنم که چگونه در تاریکی به این وضوح می بیند.
خلاصه
تایلر کوون و جیمز پتوکوکیس در برابر توقف هوش مصنوعی.
اسکات الکساندر و زوی موشوویتز در برابر تایلر کاون.
فردی دبور در مورد خود واقعیت.
الیوت کافمن و دیمون لینکر درباره آشفتگی اسرائیل.
دن درزنر با من در مورد ویتنام و عراق بحث می کند.
آیا این رمان می تواند دگرجنس گرایی را نجات دهد؟
این هفته در انحطاط
در اوایل دهه 1990، دو هنرمند روسی به نامهای ویتالی کومار و الکساندر ملامید اقدامی غیرعادی برای استخدام یک شرکت تحقیقاتی بازار انجام دادند. خلاصه آنها ساده بود. درک کنید که آمریکایی ها بیشتر از همه در یک اثر هنری آرزو دارند….
کومار و ملامید سپس مشغول نقاشی قطعه‌ای شدند که نتایج را منعکس می‌کرد. این زوج این روند را در تعدادی از کشورها از جمله روسیه، چین، فرانسه و کنیا تکرار کردند.
هر قطعه در این مجموعه، با عنوان “انتخاب مردم”، قرار بود یک همکاری منحصر به فرد با مردم یک کشور و فرهنگ متفاوت باشد.
“اما کاملا مطابق برنامه پیش نرفت.
گریسون پری هنرمند در توصیف این اثر در کتاب خود به نام «بازی در گالری» گفت:
تقریباً در هر کشوری، تمام چیزی که مردم واقعاً می‌خواستند، منظره‌ای با چند شکل در اطراف، حیوانات در پیش‌زمینه، عمدتاً آبی بود.
علیرغم جلب نظر بیش از 11000 نفر از 11 کشور مختلف، هر یک از نقاشی‌ها تقریباً یکسان به نظر می‌رسند.
سی سال پس از انتخاب مردم، به نظر می‌رسد مناظری که کومار و ملامید کشیده‌اند به منظره‌هایی تبدیل شده‌اند که در آن زندگی می‌کنیم.
فضای داخلی خانه ها، کافی شاپ ها و رستوران های ما همگی یکسان به نظر می رسند. ساختمان‌هایی که ما در آن زندگی و کار می‌کنیم همگی شبیه هم هستند. ماشین‌هایی که سوار می‌شویم، رنگ‌ها و آرم‌هایشان همه شبیه هم هستند. شکل ظاهری و لباس پوشیدن ما همه یکسان به نظر می رسند. فیلم‌ها، کتاب‌ها و بازی‌های ویدیویی ما همگی شبیه هم هستند. و برندهایی که می‌خریم، آگهی‌ها، هویت‌ها و برچسب‌های آنها همگی یکسان به نظر می‌رسند.
اما همه چیز به همین جا ختم نمی شود. در عصر متوسط، همگنی را می توان در تعداد تقریبا نامحدودی از حوزه ها یافت.
«تصاویر اینستاگرامی که پست می‌کنیم، توییت‌هایی که می‌خوانیم، تلویزیونی که تماشا می‌کنیم، آیکون‌های برنامه‌ای که کلیک می‌کنیم، خطوط آسمانی که می‌بینیم، وب‌سایت‌هایی که بازدید می‌کنیم و تصاویری که همه آنها را تزئین می‌کنند یکسان هستند. این لیست ادامه دارد و ادامه دارد و ادامه دارد.»
– «عصر میانگین»، الکس مورل (20 مارس)
