icon
icon
طرح از دنیل لوانو
طرح از دنیل لوانو
در قاب
چرا پدرخوانده‌ی هوش‌مصنوعی از چیزی که ساخته می‌ترسد
جفری هینتون عمری را صرف آموختن یادگیری به رایانه‌ها کرده. اما حالا نگران است که این مغزهای مصنوعی از مغز ما بهتر باشند.
نویسنده
جاشوئا راثمن
24 بهمن 1403
ترجمه از
آیدین رشیدی
طرح از دنیل لوانو
طرح از دنیل لوانو
در قاب
چرا پدرخوانده‌ی هوش‌مصنوعی از چیزی که ساخته می‌ترسد
جفری هینتون عمری را صرف آموختن یادگیری به رایانه‌ها کرده. اما حالا نگران است که این مغزهای مصنوعی از مغز ما بهتر باشند.
نویسنده
جاشوئا راثمن
24 بهمن 1403
ترجمه از
آیدین رشیدی

در مغز ما عصب‌ها در شبکه‌های بزرگ و کوچک نظم می‌یابند. با هر عمل و هر فکری که می‌کنیم این شبکه‌ها تغییر می‌کنند: عصب‌هایی به شبکه‌ها وارد می‌شوند و عصب‌هایی از آنها کنار گذاشته می‌شوند، و ارتباط بینشان قوی‌تر یا ضعیف‌تر می‌شود. این فرایندها تمام‌مدت در جریان‌اند—همین حالا که دارید این کلمات را می‌خوانید هم رخ می‌دهند—و حجمشان از تصور خارج است. هر آدم چیزی حدود هشتادمیلیارد عصب دارد که با هم بیش از صدتریلیون پیوند برقرار کرده‌اند. در جمجمه‌‌ی آدمی کهکشانی است پر از صورت فلکی که مدام دگرگون می‌شوند.

جفری هینتون، دانشمند علوم رایانه‌‌‌ای مشهور به «پدرخوانده‌ی هوش مصنوعی»، چوب‌دستی‌ به دستم داد و گفت «احتیاجت می‌شود». بعد به مسیری زد که از دل جنگل می‌گذشت و به ساحل می‌رسید. در راه از جای مسطحی زیر سایه‌ی درختان و از کنار چند آلونک گذشتیم و بعد از پلکانی سنگی پایین رفتیم تا به لنگرگاهی کوچک رسیدیم. اولِ سراشیبی هینتون اخطار داد «اینجا لیز است».

دانش‌های جدیدی که کسب می‌کنیم خودش را به‌ شکل تغییراتی جزئی در شبکه‌های موجود به ‌جا می‌گذارد. این تغییرات گاهی موقتی‌اند: وقتی در مهمانی با فرد جدیدی آشنا می‌شوید، احتمالاً نامش فقط مدتی کوتاه بر شبکه‌های حافظه‌تان اثر می‌گذارد. اما ممکن هم هست که تا آخر عمر دوام بیاورد، مثلاً اگر آن غریبه همسرتان شود. از آنجا که چیزهای جدیدی که می‌دانیم با چیزهای قدیمی ترکیب می‌شوند، دانش فعلی‌تان به چیزی که می‌آموزید شکل می‌دهد. اگر در مهمانی شب قبل کسی درباره‌ی سفرش به آمستردام با شما حرف زده باشد، فردا که به موزه می‌روید شبکه‌هایتان احتمالاً شما را به دیدن آثار وِرمیر اندکی مشتاق‌تر می‌کنند. به این ترتیب، تغییرات کوچک امکان دگرگونی‌های عظیم را به ‌وجود می‌آورند.

هینتون گفت: «اینجا آتش روشن می‌کردیم.» رسیده بودیم به لبه‌ی صخره‌ای رو به «خلیج جرجین» انتاریو که از غرب تا دریاچه‌ی هورون کشیده می‌شود. جزیره‌ها نقطه‌نقطه از آب بیرون زده‌اند؛ هینتون این ‌یکی را سال ۲۰۱۳، وقتی شصت‌و‌پنج‌ساله بود و پس از فروختن استارتاپ سه‌نفره‌شان به قیمت ۴۴ میلیون دلار به گوگل، خرید. او سه دهه‌ قبل از آن در دانشگاه تورنتو استاد علوم رایانه‌ای بود—شخصیتی برجسته در زیرشاخه‌ای غیرجذاب به ‌نام شبکه‌های عصبی که از شیوه‌ی ارتباط عصب‌ها در مغز الهام گرفته شده بود. آن ‌زمان شبکه‌های عصبی مصنوعی موفقیت کمی در انجام وظایف محول‌شده—دسته‌‌بندی تصویرها، تشخیص کلام گفتاری و غیره—داشتند، بنابراین اکثر پژوهشگران در بهترین حالت آنها را نسبتاً جالب و در بدترین حالت هدردادن وقت می‌دانستند. هینتون به یاد می‌آورد که «شبکه‌های عصبی ما بهتر از یک بچه قادر به انجام‌دادن کارها نبودند.» وقتی در سال‌های ۱۹۸۰ ترمیناتور را دید، هیچ ناراحت نشد که اسکای‌نت، هوش‌مصنوعی‌ای که در آن فیلم جهان را به نابودی کشانده بود، یک‌جور شبکه‌ی عصبی بود؛ از اینکه می‌دید این فناوری این‌قدر آینده‌دار تصویر شده خوشحال هم بود.


از فرورفتگی کوچکی که آتش در آن بود در سنگ ترک‌هایی به هر طرف باز شده بود. هینتون، که انگلیسی‌ای لاغر و قدبلند است، با نوک چوب‌دستی‌اش کف گودال را کاوید. او دانشمندی تمام‌عیار است که در همه حال مشغول مشاهده‌ی هر چیزی است که در جهان مادی رخ می‌دهد: زندگی جانوران، جریان آب خلیج و زمین‌شناسی جزیره. با حالتی اندیشناک گفت: «یک مش میل‌گرد را زیر چوب‌ها می‌گذاشتم که هوا به درون آتش برسد و آن‌قدر داغ می‌شد که آهن را کاملاً نرم می‌کرد. به این می‌گویند آتش—چیزی که باید به آن افتخار کرد!»

هینتون چند دهه مشغول وررفتن با شبکه‌های عصبی و ساختن شبکه‌های بزرگ‌تر با ساختارهایی مبتکرانه بود. او برای تعلیم آنها و کمک به ارتقایشان به روش‌های جدیدی فکر می‌کرد. دانشجویان کارشناسی را متقاعد می‌کرد که شبکه‌های عصبی خیال باطل نیستند و به کار‌شان می‌گرفت. تصورش این بود که دارد پروژه‌ای را پیش می‌برد که شاید صد سال بعد، پس از مرگش، به نتیجه برسد. تو همین حیث‌و‌بیث بود که زنش مرد و مجبور شد دو بچه‌ی کوچکش را تنهایی بزرگ کند. در دوره‌ای بسیار سخت که فشار زندگی و ضرورت‌های کار پژوهشی کمرش را خم کرده بود به این فکر افتاد که هر کاری می‌توانسته کرده. او گفت: «در چهل‌و‌شش‌سالگی به خاک سیاه نشسته بودم.» فکرش را هم نمی‌کرد که فناوری شبکه‌های عصبی مثل یک دهه‌ی اخیر این‌قدر سریع و ناگهانی پیشرفت کنند. رایانه‌ها سریع‌تر شدند و شبکه‌های عصبی با بهره‌مندی از داده‌های موجود در اینترنت شروع به رونویسی از گفتار، بازی‌کردن، ترجمه از زبان‌های مختلف و حتی راندن خودروها کردند. همان موقعی که گوگل شرکت هینتون را خرید، انفجاری در هوش ‌مصنوعی اتفاق افتاد که به ایجاد سامانه‌هایی مثل چت‌جی‌بی‌تیِ اُپن‌اِی‌آی و بارد گوگل منجر شد، سامانه‌هایی که خیلی‌ها معتقدند جهان را به ‌شکلی پیش‌بینی‌ناپذیر دگرگون خواهند کرد.

هینتون در امتداد ساحل به راه افتاد و من هم به دنبالش صخره‌ی ترک‌خورده را پشت سر گذاشتم. گفت: «حالا این را ببین.» جلوی تخته‌سنگی ناصاف به‌ بزرگیِ یک آدم که راهمان را سد کرده بود ایستاد. «اینجا باید این‌طوری رد شوی. چوب‌دستی‌ات را پرت کن.» مال خودش را به آن ‌طرف تخته‌سنگ پرت کرد. «بعد پایت را بگذار اینجا و اینجا و یک جای دست هم اینجاست.» تماشایش کردم که چطور با خیال راحت خودش را بالا کشید و بعد خودم مردد همان کار را کردم.

چند ماه پیش هینتون از گوگل که پس از فروش شرکتش به آنها برایشان کار می‌کرد بیرون آمده بود. او از پتانسیلی که هوش‌ مصنوعی برای به‌بارآوردن خسارت داشت نگران بود و مصاحبه‌هایی کرد که در آنها از «تهدید وجودی»‌ای که این فناوری ممکن است برای گونه‌ی انسان داشته باشد سخن گفت. او هرچه بیشتر از چت‌جی‌بی‌تی، سامانه‌ای که با حجم بزرگی از نوشته‌های انسان آموزش دیده، استفاده می‌کرد بیشتر مشوش می‌شد.

خب پیشرفت هوش مصنوعی به دلایل بسیاری نگران‌کننده است. مثلاً فهم عامه نگران این است که رایانه‌ها جای انسان‌های کارگر را بگیرند. اما هینتون با متخصصان فناوری بسیاری از جمله سم آلتمن، مدیرعامل اُپن‌اِی‌آی، همراه شد که نوشتند سامانه‌های هوش مصنوعی ممکن است اندیشه‌ای مستقل پیدا کنند و حتی بخواهند تمدن انسانی را به ‌دست بگیرند یا نابود کنند. شنیدن این هشدار از زبان برجسته‌ترین پژوهشگران هوش مصنوعی بسیار تکان‌دهنده بود. او که در آشپزخانه ایستاده بود به من گفت: «مردم می‌گویند این فقط یک‌جور تکمیل خودکار ارتقایافته است.» (بیشتر زندگی‌اش کمردرد داشته که این اواخر این‌قدر شدید شده که کلاً دیگر نمی‌نشیند. او از سال ۲۰۰۵ تاکنون بیشتر از یک ساعت ننشسته.) «حالا بیا تحلیلش کنیم. فرض کن می‌خواهی کلمه‌ی بعدی را خیلی خوب پیش‌بینی کنی. اگر بخواهی واقعاً خوب باشی، باید بفهمی چه چیز دارد گفته می‌شود. این تنها راه است. پس وقتی به چیزی می‌آموزیم که در پیش‌بینی کلمه‌ی بعدی واقعاً خوب باشد، در واقع داریم آن را وادار به فهمیدن می‌کنیم.» به گمان هینتون، «مدل‌های بزرگ زبانی» مثل جی‌پی‌تی، که چت‌بات‌های اُپن‌اِی‌آی قدرتشان را از آن می‌گیرند، می‌توانند معنای واژه‌ها و ایده‌ها را درک کنند. کسانی که این نظر را قبول ندارند و می‌گویند قدرت هوش ‌مصنوعی را دست‌بالا گرفته‌ایم، بر تفاوت بزرگی تأکید دارند که ذهن انسان و شبکه‌های عصبی را از هم جدا می‌کند. یکی اینکه شبکه‌های عصبی آن‌جور که ما می‌آموزیم نمی‌آموزند: ما دانش را به ‌طور طبیعی کسب می‌کنیم، با تجربه‌‌کردن و درک ارتباط این تجربه‌ها با واقعیت و با خودمان، در حالی ‌که آنها به‌طور انتزاعی و با پردازش مقادیر عظیم اطلاعات درباره‌ی جهانی که واقعاً در آن زندگی نمی‌کنند چیز می‌آموزند. اما هینتون استدلال می‌کند هوشی که سامانه‌های هوش‌ مصنوعی از خود نشان داده‌اند از خاستگاه مصنوعی‌اش فراتر می‌رود.


چند هفته پیش که هینتون مرا برای دیدن جزیره‌اش دعوت کرده بود سناریوهای ممکن را در ذهنم تصور کردم. شاید آدم درون‌گرایی بود که می‌خواست تنها باشد، یا یکی از سردمداران فناوری بود که عقده‌ی خدایی‌‌اش با آینده‌نگری آمیخته بود. چند روز قبل از قرارمان، برایم عکسی را ایمیل کرد از یک مار زنگی روی چمن‌های جزیره‌اش. نمی‌دانستم باید خوشحال بشوم یا بترسم.

در واقع، جزیره‌ی هینتون در مقایسه با جزیره‌های خصوصی بسیار ساده و محقر است. هینتون خودش مخالف منجی‌باوری فناورانه‌ی سیلیکون ولی1 است. او در هفتادوپنج‌سالگی چهره‌ای انگلیسی شبیه نقاشی‌های جاشوئا رینولدز دارد، با موهایی سفید که دور پیشانی‌ فراخش را گرفته‌اند؛ چشمان آبی‌اش معمولاً بی‌حرکت‌اند و بیان احساسات‌ را به دهانش وامی‌گذارند. او که قصه‌گویی زبردست است از حرف‌زدن درباره‌ی خودش لذت می‌برد—«جف Geoff مخفف مقلوب ego fortissimo2 است»— اما خودشیفته نیست؛ زندگی‌اش آن‌قدر در سایه‌ی اندوه بوده که نمی‌تواند خودشیفته باشد. اولین باری که با هم حرف زدیم گفت: «شاید بهتر باشد از همسرانم برایت بگویم. من سه بار ازدواج کرده‌ام. یکی دوستانه پایان یافت و دو تای دیگر به‌ شکلی غمبار.» او هنوز با جوئان، همسر اولش، که در سن کم با او ازدواج کرد دوست است، اما همسر دوم و سومش هر دو از سرطان مردند، رُزالین در سال ۱۹۹۴ و جکی در سال ۲۰۱۸. هینتون در چهار سال گذشته با رزماری گارتنر بوده که جامعه‌شناسی بازنشسته است. رزماری با مهربانی به من گفت که «فکر می‌کنم او از آن آدم‌هایی است که همیشه به همراه و همدم نیاز دارند.» هینتون عقل‌گرایی (rationalist) رمانتیک است که حساسیت زیادش بین علم و احساسات توازن برقرار می‌کند. در ویلایش، کانویی شرابی‌رنگ را در اتاقی بزرگ گذاشته که بیشتر سطح زمین را گرفته است؛ او و جکی آن را در وضعیتی درب‌و‌داغان بین درختان جزیره پیدا کرده بودند، و جکی، مورخ هنر، با چند زن کانوساز روی آن کار کردند تا از نو بسازندش. در همین سال‌ها بود که بیماری سراغ جکی آمد. هینتون گفت: «جکی آن را به آب انداخت و سوارش شد.» از آن وقت تاکنون دیگر کسی از آن استفاده نکرده.

خانواده‌ی هینتون از آن خانواده‌های علمی خاص انگلیسی است: از لحاظ سیاسی رادیکال و به‌ طور خستگی‌ناپذیر نوآور. بالاسرش در درخت خانواده‌ کسانی قرار دارند مثل عموی بزرگش سباستین هینتون، مخترع «جانگل جیم»، و دخترعمویش، جوئان هینتون، که فیزیکدانی بود که در «پروژه‌ی منهتن» کار می‌کرد. بالاترشان لوسی اِوِرست است، نخستین زنی که به عضویت انجمن سلطنتی شیمی درآمد؛ چارلز هاوارد هینتون، ریاضیدانی که مفهوم فرامکعب را به‌ وجود آورد، دروازه‌ای که به بعد چهارم باز می‌شود (همان که در فیلم میان‌ستاره‌ای ظاهر می‌شود)؛ و جیمز هینتون، جراح گوش پیشرو و یکی از طرفداران چندهمسری. (او در این ‌باره گفته «مسیح منجی آدم‌ها (men) بود اما من منجی زنانم».) پدر پدر پدربزرگ هینتون، در اواسط قرن نوزدهم، ریاضیدان انگلیسی جرج بول، نظام منطق دوگانی را بسط داد که حالا به‌ نام جبر بولی شناخته می‌شود و پایه‌ی تمام محاسبات است. بول با ماری اورست ازدواج کرده بود که ریاضیدان و نویسنده بود و عموزاده‌اش، جرج اورست، نقشه‌برداری بود که نام رشته‌کوه اورست را از روی نام او گذاشتند.

«بند ناف جف را با علم بریدند»، این را یکی از دانشجویان و همکاران سابق هینتون، یان لوکن، به من گفت که حالا مدیر هوش‌ مصنوعی در مِتاست. اما خانواده‌ی هینتون عجیب‌تر از اینهاست. پدرش، هاوارد اورست هینتون، در مکزیک و در بحبوحه‌ی انقلاب مکزیک در سال‌های ۱۹۱۰، در معدن نقره‌ای که پدرش اداره می‌کرد بزرگ شد. هینتون درباره‌ی پدرش می‌گوید: «او گردن‌کلفت بود»: در خانواده نقل کرده‌اند هاوارد در دوازده‌سالگی مربی بوکسش را تهدید کرد که یک گلوله حرامش می‌کند، چون زیادی محکم به او مشت زده بود. مربی هم آن‌قدر این حرف را جدی گرفت که گذاشت و از شهر رفت. زبان اول هاوارد اسپانیایی بود و در برکلی، که دوران دانشگاهش را در آن سپری کرد، بابت لهجه‌اش مسخره‌اش می‌‌کردند. هینتون می‌گفت: «او با دسته‌ای فیلیپینی می‌گشت که آنها نیز قربانی تبعیض بودند، و یکی از رادیکال‌های برکلی شد.» موضع سیاسی بزرگسالی هاوارد نه‌فقط مارکسیستی که استالینیستی بود: در سال ۱۹۶۸، که تانک‌ها خیابان‌های پراگ را تسخیر کردند، او گفت: «چه عجب!»

هینتون در مدرسه به علوم تمایل پیدا کرده بود. اما پدرش به دلایل ایدئولوژیک او را از تحصیل در زیست‌شناسی منع کرد؛ از نظر هینتون، امکان جبرگرایی ژنتیکی با باور کمونیستی به شکل‌پذیری نهایی سرشت انسان مغایرت داشت. (هینتون در یادآوری این دوران گفت «من از همه‌ی انواع ایمان نفرت داشتم».) هاوارد، که در دانشگاه بریستول درس می‌داد، حشره‌شناسی از نوع ایندیانا جونز بود: جانوران نادر را از سراسر جهان قاچاقی لای چمدان‌هایش به انگلستان می‌آورد، و سردبیر یکی از مهم‌ترین نشریات رشته‌اش بود. هینتون، که نام میانی او نیز اورست است، فشار زیادی روی خود حس می‌کرد که کار مهمی انجام دهد. یادش می‌آید که پدرش به او می‌گفت: «اگر دو برابر من کار کنی، وقتی سنت دو برابر من شد، شاید نصف من خوب باشی.»

در کمبریج، هینتون رشته‌های مختلفی را امتحان کرد، اما از اینکه می‌دید در هیچ کلاسی باهوش‌ترین دانشجو نیست دلسرد شده بود. او مدت کوتاهی کالج را ترک کرد و به خواندن «رمان‌های افسرده‌کننده» و شغل‌های عجیب‌غریب در لندن روی آورد، بعد برگشت و به ‌اندازه‌ی یک روز رشته‌ی معماری را امتحان کرد. سرانجام، پس از آنکه فیزیک، شیمی، فیزیولوژی و فلسفه را امتحان کرد، تا جایی را پیدا کند که متمرکز شود، در رشته‌ی روان‌شناسی تجربی متوقف شد. او تمام مدتی که فیلسوف اخلاق برنارد ویلیامز در دفترش بود پیشش می‌نشست و با او بحث می‌کرد. این فیلسوف علاقه‌ی زیادی به رایانه‌ها و مغز نشان می‌داد.

هینتون در ویلایش مدام سرپا بود و از پشت کانتر آشپزخانه به این‌ طرف و آن ‌طرف طبقه‌ی اول می‌رفت و می‌آمد. چندتا نان تست درست کرد، یک سیب به من داد و یکی خودش خورد، و بعد با یک چهارپایه‌ی پله‌دار نشیمنگاهی پشتیبان برای خودش درست کرد. فشار خانواده باعث شده بود از دلخوشی‌های کوچک بی‌نصیب شود. حین خوردن، باحسرت به یاد آورد که «من همیشه عاشق کار با چوب بودم. تو مدرسه می‌توانستیم عصرها به میل خودمان این کار را بکنیم. و همیشه با خودم فکر می‌کنم اگر معمار می‌شدم، خوشحال‌تر بودم یا نه، چون لازم نبود خودم را به انجام‌دادنش مجبور کنم. در حالی‌ که در علم همیشه خودم را مجبور کرده‌ام. به‌ خاطر خانواده باید موفق می‌شدم—باید هرطور شده راهی پیدا می‌کردم. لذت‌ هم داشت، اما بیشترش اضطراب بود. حالا که موفق شده‌ام بار بزرگی از روی دوشم برداشته شده.»

لپ‌تاپ هینتون دینگ صدا کرد. از وقتی که از گوگل بیرون آمده صندوق ایمیلش انباشته از درخواست برای اظهارنظر درباره‌ی هوش مصنوعی است. سلانه‌سلانه رفت و نگاهی به ایمیل انداخت، و بعد دوباره در جنگل درخت‌های خانواده گم شد که انگار هرکدام یک‌ جای کارشان می‌لنگید.


صبح فردا هینتون گفت: «هوا خوب است. باید درخت قطع کنیم.» پیراهن آستین‌بلند سفیدش را توی شلوار ارتشی‌اش کرده بود و خیلی شباهتی به چوب‌برها نداشت، با این ‌حال، دست‌هایش را به هم مالید. او در جزیره همیشه درخت قطع می‌کند تا مجسمه‌هایی برای چیدمان‌هایش بسازد.

هنگامی که هینتون داشت دکترای هوش ‌مصنوعی‌اش را از دانشگاه ادینبرو می‌گرفت، در این فکر بود که چطور می‌توان «دانستن» در مغز را در رایانه شبیه‌سازی کرد. آن زمان، یعنی سال‌های ۱۹۷۰، بخش اعظم محققان هوش ‌مصنوعی «نمادگرا» بودند. از نظر آنها، دانستن یک چیز، مثلاً کچاپ، به تعدادی مفاهیم دیگر مثل «غذا»، «سس»، «چاشنی»، «شیرین»، «سرخ»، «گوجه»، «آمریکایی»، «سیب‌زمینی سرخ‌کرده»، «مایونز» و «خردل» مربوط می‌شد؛ اینها همه با هم داربستی می‌شدند که مفهومی جدید مثل کچاپ می‌توانست به آن آویخته شود.

اما هینتون به این رویکرد مشکوک بود. زیادی صلب به‌ نظر می‌رسید و بیش ‌از حد بر مهارت‌های استدلالی‌ فیلسوفان و زبان‌شناسان تمرکز داشت. او می‌دانست که در طبیعت بیشتر حیوانات بدون داشتن مفاهیمی که بتوان با کلمات بیانشان کرد هوشمندانه عمل می‌کنند. آنها صرفاً آموخته‌اند که چطور از طریق تجربه زیرک باشند. موتور محرک هوشْ آموختن بود، نه دانش.

به ‌نظر می‌رسید تفکر پیچیده‌ی انسانی از‌ طریق نمادها و کلمات رخ می‌دهد. اما هینتون و همکارانش، جیمز ال مک‌کلِلان و دیوید روملهارت، معتقد بودند بیشتر کار در سطح زیرمفهومی انجام می‌شود. آنها نوشتند ببینید چطور «وقتی حقیقت تازه‌ای درباره‌ی چیزی می‌آموزید، معمولاً پیش‌بینی‌تان از چیزهای مشابه تغییر می‌کند»: مثلاً، اگر به شما بگویند شامپانزه‌ها پیاز دوست دارند، حدس می‌زنید گوریل‌ها هم آن را دوست داشته باشند. این نشان می‌دهد که دانش احتمالاً در ذهن به‌طور «توزیع‌شده» قرار دارد—یعنی از بلوک‌های کوچک‌تری تشکیل شده که ایده‌های شبیه به هم می‌توانند مشترکاً آنها را داشته باشند. برای مفاهیم «شامپانزه» و «گوریل» دو شبکه‌ی مجزای عصب وجود ندارد، در عوض، دسته‌هایی از رشته‌های عصبی هست که نماینده‌ی «ویژگی»‌های عینی یا انتزاعی مختلف‌اند—پشمالوبودن، روی چهار دست‌وپا راه رفتن، نخستی‌بودن، حیوان‌بودن، وحشی‌بودن و چیزهایی از این قبیل—و به یک شیوه ممکن است برای دلالت بر «شامپانزه» فعال شوند و به شیوه‌ای اندکی متفاوت برای دلالت بر «گوریل». پیازدوست‌داشتن به این مجموعه‌ی ویژگی‌ها اضافه می‌شود. ذهنی که به این شیوه ساختار می‌یابد در معرض خطر اشتباه‌کردن و عوضی‌گرفتن قرار دارد: ممکن است ویژگی‌ها را در نظمی نادرست با هم ترکیب کند و به موجودی خیالی برسد که نه گوریل است نه شامپانزه. اما مغزی با الگوریتم یادگیری درست می‌تواند با وزن‌دهی مناسب به عصب‌هایش ترکیب‌های معقول را بر نامعقول‌ها ترجیح دهد.

هینتون این ایده‌ها را ابتدا در دانشگاه سن‌دیگوی کالیفرنیا دنبال کرد، جایی که فوق‌دکترایش را گرفت (و با جوئان که در زمینه‌ی بینایی رایانه‌ای دانشجویش بود ازدواج کرد)، بعد در کمبریج، که در رشته‌ی روان‌شناسی کاربردی به کار تحقیقی مشغول شد، و بعد در کارنگی ملون در پیتسبورگ، که در سال ۱۹۸۲ پرفسور علوم رایانه‌ای شد، آن ایده‌ها را ادامه داد.

هینتون با بی‌میلی طرز کار ماشین بولتزمان را برایم توضیح داد. گفت: «بهت می‌گویم شبیه چی است. شبیه این است که بچه‌ای کوچک داشته باشی و پای پیاده راه بیفتی و کوهی سر راهتان باشد و مجبور باشی این بچه‌ی خردسال را بالای آن کوه ببری و برگردانی.» او به من—کودک استعاری—نگاه کرد و آه کشید. او حق داشت نگران باشد که با توضیحی ساده‌شده ممکن است گمراه شوم و دیگران را هم به گمراهی بکشانم. «تلاش برای توضیح ‌دادن ایده‌های پیچیده‌ای که درکشان نمی‌کنی فایده‌ای ندارد. اول باید درک کنی که چیزها چطور کار می‌کنند. در غیر این ‌صورت، فقط چرت‌وپرت تولید می‌کنی.» سرانجام چند برگ کاغذ آورد و شروع کرد به کشیدن دیاگرام‌ عصب‌ها که با فلش به هم وصل می‌شدند و نوشتن معادلات، که سعی کردم به‌دقت دنبالشان کنم (پیش از دیدارمان یک دوره جبر خطی در آکادمی «خان» گذرانده بودم.)

رؤیاهایش به او می‌گفتند چه چیزی را یاد نگیرد. این سامانه خیلی خوب کار کرد و به مرور زمان توانست خطاهایش را کم کند و به واقعیت نزدیک شود، و لازم نبود کسی به آن درست و غلط را بگوید، فقط کافی بود چیزی را که وجود داشت ببیند، و چیزی را که وجود نداشت خیال کند.

هینتون گفت یک دلیل اینکه به دانشگاه تورنتو نقل‌مکان کردند نفرت رزالین از رونالد ریگان بود. دو بچه‌، یک دختر و یک پسر اهل آمریکای لاتین را به فرزندی گرفتند و در خانه‌ای در آن شهر زندگی کردند. هینتون گفت: «این‌جور پروفسور سوسیالیست بودم که خود را وقف کارش کرده بود.»

رزالین در تلاش برای درمان نازایی تجربه‌های بدی با دکترهای بی‌عاطفه داشت. شاید به همین دلیل بود که بعدها وقتی مبتلا به سرطان تخمدان شد به هُموپاتی روی آورد. هینتون گفت «اصلاً با عقل جور درنمی‌آمد. نمی‌شود که چیزها را رقیق‌تر کنید و آنها قوی‌تر شوند.» او نمی‌توانست بفهمد چطور یک زیست‌شناس مولکولی ممکن است هموپات شود. با این ‌حال، رزالین مصمم بود خودش سرطان را درمان کند و حتی پس از آنکه آزمایش‌ها غده‌ای به بزرگی گریپ‌فروت را نشان دادند حاضر نشد جراحی‌اش کنند؛ بعداً به عمل جراحی رضایت داد اما به شیمی‌درمانی تن نداد و در عوض بیشتر و بیشتر دنبال درمان‌های گرانقیمت هموپاتی، اول در کانادا و بعد در سوئیس، رفت. غده‌ی جدیدی دوباره در بدنش رشد کرد. او از هینتون خواست خانه‌شان را بفروشند تا بتواند پول درمان‌های تازه‌ی هموپاتی را بدهد. با چشمانی که از اندوه تنگ شده بودند به خاطر آورد که «آنجا بود که دیگر جلویش ایستادم. گفتم ’نه، خانه را نمی‌فروشیم. چون اگر تو بمیری، من باید مراقب بچه‌ها باشم، و برای آنها بهتر است که بتوانیم اینجا بمانیم.‘»

رزالین به کانادا برگشت و بلافاصله به بیمارستان رفت. او چند ماه دیگر دوام آورد، اما نگذاشت بچه‌ها تا یک روز پیش از مرگش او را ببینند، چون نمی‌خواست او را این‌قدر بیمار ببینند. در تمام مدت بیماری باور داشت که به‌زودی خوب می‌شود. یادآوری اتفاقاتی که افتاده هنوز هینتون را به‌شدت ناراحت می‌کند—او خشمگین، زخم‌خورده و مبهوت است و احساس گناه می‌کند. وقتی رزالین مرد، هینتون چهل‌وشش سال داشت، پسرشان پنج‌ساله بود و دخترشان سه‌ساله. می‌گوید: «او با نپذیرفتن اینکه دارد می‌میرد بقیه را اذیت کرد.»

سکوت بعدازظهر انباشته از صدای موج‌ها بود. زردی تیز آفتاب از پنجره‌های قدی اتاق به درون می‌ریخت و پرهیبی از تارهای عنکبوت ناپیدایی را که در مسیر نور کشیده شده بودند به چشم می‌آورد. هینتون لحظه‌ای مکث کرد تا خودش را جمع‌وجور کند.

گفت: «فکر کنم احتیاج دارم درختی را بیندازم.»

از در جلویی خارج شدیم و در مسیری که به آلونک‌ها می‌رسید پایین رفتیم. هینتون از یکی از آلونک‌ها یک اره‌برقی کوچک سبزرنگ و دو تا عینک ایمنی برداشت.

او گفت: «رزماری می‌گوید اجازه ندارم وقتی کس دیگری اینجا نیست درخت ببُرم، مبادا بازو یا جای دیگرم را قطع کنم. تو تا حالا قایق رانده‌ای؟»

گفتم: «نه.»

«پس نباید دست راستم را قطع کنم.»

روی شلوار ارتشی‌اش روکش‌های محافظ وصل کرد و گفت «نمی‌خواهم به تو القا کنم که این کار را خوب بلدم. اما ایده‌ی اصلی این است که آن‌قدر تکه‌هایی وی‌شکل می‌بریم تا درخت بیفتد.»

هینتون به سمت درختی که در ذهن داشت راه افتاد و در راه بوته‌ها را وارسی می‌کرد که ببیند ماری زیر‌شان هست یا نه. درختی که نشان کرده بود درخت سدری پرشاخ‌وبرگ بود که شش هفت متر ارتفاع داشت؛ هینتون بالا را ورانداز کرد که ببیند درخت به کدام طرف متمایل است، بعد اره را روشن و از سمت مخالف شروع به بریدن تنه کرد. اره را بیرون آورد و از زاویه‌ای دیگر برش داد تا یک وی دربیاورد. بعد ایستاد و رو به من کرد و توضیح داد که «چون وزن درخت در جهت خم‌شدگی شکاف را از هم باز می‌کند، هرچه جلوتر برویم دهن وی گشادتر می‌شود و تیغه گیر نمی‌کند.»

سرانجام برش بعدی را از سمت دیگر درخت شروع کرد و در جهت برش اول پیش رفت. بعد چند بار رفت ‌و آمد و هر دو شکاف را عمیق‌تر کرد تا درخت را به لحظه‌ی بی‌نظمی برساند. ناگهان و تقریباً بی‌صدا، جاذبه کار خودش را کرد. درخت وزن خودش را تاب نیاورد و با نرمی غیرمنتظره‌ای کف گودی افتاد. نور از جای خالی‌اش تابیدن گرفت.


هینتون عاشق ماشین بولتزمان بود. امیدوار بود این سازوکار یا چیزی شبیه به آن شالوده‌ی یادگیری مغز واقعی باشد. او به من گفت: «باید درست می‌بود. من اگر خدا بودم، کاری می‌کردم درست باشد.» اما آزمایش بیشتر نشان داد با بزرگ‌شدن ماشین‌های بولتزمان، تصادفی‌بودن که اساس کارشان بود، آنان را از توان می‌اندازد.

پس‌انتشار3 یا «بک‌پراپ» الگوریتمی بود که چند محقق دیگر از سال‌های ۱۹۶۰ کاوش روی آن را آغاز کرده بودند. هینتون، همزمان که با سِجْنووسکی روی ماشین بولتزمان کار می‌کرد، با روملهارت و دانشمند رایانه‌ی دیگری به نام رونالد ویلیامز نیز در ساخت پس‌انتشار همکاری می‌کرد. آنها گمان می‌کردند این روش پتانسیل یادگیری را دارد، به‌ویژه می‌خواستند آن را با شبکه‌های عصبی که روی تعداد زیادی لایه‌ کار می‌کردند ترکیب کنند.

یک راه درک ‌پس‌انتشار این است که نظام محاکمه‌ای کافکایی را در نظر بیاوریم. تصور کنید قرار باشد بالایی‌ترین لایه‌ی یک شبکه‌ی عصبی در مقام هیئت‌منصفه به‌ صورتی ابدی پرونده‌ها را بررسی کند. فرض کنید هیئت‌منصفه در یک مورد به حکمی رسیده. در پادآرمانشهری که ‌پس‌انتشار در آن عمل می‌کند قاضی می‌تواند به اعضای هیئت‌منصفه بگوید حکمشان اشتباه بوده و مجازات می‌شوند تا زمانی که روش‌هایشان را اصلاح نکنند. اعضای هیئت‌منصفه کشف می‌کنند که سه نفرشان تأثیر ویژه‌ای در هدایت گروه به مسیر اشتباه داشته‌اند. این تقسیم مسئولیت خطا اولین گام پس‌انتشار خطاست.

در گام بعدی، سه عضو خطاکار هیئت‌‌منصفه مشخص می‌کنند که خودشان چطور گمراه شده‌اند. کسانی را که دَرشان تأثیر گذاشته‌اند—والدین، معلمان، مفسران و امثالهم—بررسی می‌کنند و افرادی را که اطلاعات غلط داده‌اند شناسایی می‌کنند. این افراد تأثیرگذارِ مقصر هم کسانی را که در آنها تأثیر گذاشته‌اند پیدا می‌کنند و این روند همین‌طور پلکانی به عقب می‌رود. در نهایت، وقتی معلوم می‌شود که چه کسانی و تا چه حد اطلاعات غلط داده‌اند، شبکه خودش را متناسب با آن اصلاح می‌کند، طوری که افراد به تأثیرهای «بد» کمی کمتر گوش کنند و به تأثیرهای «خوب» کمی بیشتر. کل این فرایند بارها و بارها، با دقت ریاضی، تکرار می‌شود تا وقتی حکم‌ها به‌‌طور کلی—نه‌‌فقط در این مورد، که در همه‌ی موارد—تا جای ممکن «صحیح» شوند.

در سال ۱۹۸۶، هینتون، روملهارت و ویلیامز مقاله‌ای سه‌صفحه‌ای در ِنیچر منتشر کردند و نشان دادند که سامانه‌ای با شبکه‌ی عصبی چطور کار می‌کند. آنها خاطرنشان کردند که پس‌انتشار، مثل ماشین بولتزمان، «مدلی محتمل برای یادگیری در مغز» نیست: مغز، برخلاف رایانه، نمی‌تواند نوار را عقب ببرد تا عملکرد گذشته‌اش را بررسی کند. با این‌ حال، پس‌انتشار امکان یک ‌جور تخصصی‌شدن عصبی را شبیه آنچه در مغز انجام می‌شد فراهم می‌کرد. فرایند یادگیری ممکن بود به مسیرهای اشتباه بسیاری بیفتد. مثلاً در حالت «برازش مازاد» شبکه به‌ جای آنکه یاد می‌گرفت داده‌های آموزشی را تعمیم‌ دهد آنها را حفظ می‌کرد. پرهیز از اشکالات غیرمنتظره‌ی مختلف همیشه قابل‌فهم نبود، چون به ‌عهده‌ی خود شبکه بود که آن را یاد بگیرد.

«ساختارهای» جدید شبکه‌-عصبی به ‌وجود آمدند: شبکه‌های «بازگشتی»4 و «هم‌گشتی»5 به سامانه‌ها اجازه می‌دادند خودشان خودشان را به شیوه‌های مختلف بسازند و کار را پیش ببرند. اما این کار مثل آن بود که پژوهشگران فناوری‌ای متعلق به فضایی‌ها را کشف کرده‌اند، فناوری‌ای که نمی‌دانستند چطور از آن استفاده کنند. آنها مکعب روبیک را این‌طرف و آن‌طرف می‌چرخاندند و سعی می‌کردند از بی‌نظمی نظم بیرون بکشند. هینتون گفت: «همیشه معتقد بودم که این چرت‌وپرت نیست. این باوری قلبی نبود، فقط کاملاً برایم واضح بود.» مغز از عصب‌ها برای یادگیری استفاده می‌کرد، بنابراین یادگیری پیچیده از طریق شبکه‌های عصبی لابد ممکن ‌بود. او باید دوبرابر بیشتر و دوبرابر سخت‌تر کار می‌کرد.


چند سال بعد از مرگ رزالین، هینتون دوباره به جکلین فورد نزدیک شد، استاد تاریخ هنری که پیش از نقل‌مکان به ایالات متحده مدت کوتاهی با او رابطه داشت. جکی بافرهنگ، خونگرم، کنجکاو و زیبا بود. خواهر هینتون می‌گفت «از سرت هم زیادی است». با این‌ حال، جکی کارش را ول کرد و از بریتانیا به تورنتو آمد. آنها ۶ دسامبر ۱۹۹۷—تولد پنجاه‌سالگی هینتون—ازدواج کردند. ده بیست سال بعد شادترین سال‌های زندگی او بودند. خانواده‌اش دوباره کامل شده بود. بچه‌هایش عاشق مادر جدیدشان بودند. او و جکی شروع کردند به گشتن در جزیره‌های خلیج جرجین. هنگام یادآوری آن زمان به کانوی وسط اتاق چشم دوخته بود. گفت «آن را لای درخت‌ها پیدا کردیم، سروته گذاشته بودند‌ش و رویش را پارچه کشیده بودند. کاملاً پوسیده بود، هرچیزی که دوروبرش بود پوسیده بود. اما جکی تصمیم گرفت هرطور شده نجاتش دهد، همان کاری که با من و بچه‌ها کرد.»

هینتون عاشق پس‌انتشار نبود. ‌گفت: «از نظر ذهنی اصلاً راضی‌کننده نبود.» برخلاف ماشین بولتزمان، «کاملاً جبری بود. فقط بدبختانه بهتر کار می‌کرد.» آرام‌آرام، همزمان با پیشرفت‌های عملی، قدرت پس‌انتشار غیرقابل‌ انکار می‌شد. در اوایل سال‌های ۲۰۰۰، وقتی شبکه‌های عصبیِ چندلایه مجهز به رایانه‌های قدرتمند شروع به تعلیم‌دیدن با مجموعه‌داده‌های بزرگ‌تر کردند، هینتون، بنجیو و لوکن از امکان «یادگیری عمیق» با یکدیگر حرف زدند. این امکان در سال ۲۰۱۲، وقتی هینتون، آلن کریژِفسکی و ایلیا سوتسکِوِر اَلکس‌نت را عرضه کردند تحقق یافت. اَلکس‌نت شبکه‌ای هشت‌لایه‌ بود که در نهایت توانسته بود اشیای ایمیج‌نت را با دقتی در حد انسان تشخیص دهد. هینتون با کریژفسکی و سوتسکور شرکتی تأسیس کرد و آن را به گوگل فروخت. او و جکی این جزیره را در خلیج جرجین خریدند—به گفته‌ی هینتون «تنها ولخرجی واقعی‌ من».

دو سال بعد، جکی به سرطان پانکراس مبتلا شد. دکترها گفتند یک یا دو سال زنده می‌ماند. هینتون گفت: «او به ‌طرزی باورنکردنی شجاع و منطقی بود. به انکار نیفتاد و به خودش امید واهی نمی‌داد. دیدگاهش این بود که ’می‌توانم برای خودم تأسف بخورم، یا می‌توانم بگویم وقت زیادی برایم نمانده و بهتر است تا می‌توانم از آن لذت ببرم و همه‌چیز را برای بقیه راست‌وریس کنم.‘» او و هینتون پیش از آنکه روش‌ درمان را انتخاب کنند آمار و احتمالات را دقیقاً بررسی کردند؛ با شیمی‌درمانی، توانستند یکی دو سال را تا سه سال تمدید کنند. در ویلایشان، وقتی جکی دیگر نمی‌توانست از پله‌ها بالاپایین برود، هینتون سبد کوچکی درست کرد تا او بتواند چایش را از طبقه‌ی دوم به اول بفرستد و هینتون برایش در ماکروویو گرم کند. (هینتون حالا می‌گوید «باید ماکروویو را می‌بردم طبقه‌ی بالا».)

هینتون به این عقیده رسیده که اگر دقیق بنگریم، شبکه‌های عصبی می‌توانند احساسات هم داشته باشند. جلوتر بهم گفته بود: «فکر می‌کنم احساسات گزاره‌هایی جایگزین حقیقت‌اند درباره‌ی چیزهایی که می‌توانستند باعث عمل شوند. فرض کن احساس می‌کنم دوست دارم توی صورت کسی مشت بزنم. یعنی اگر موانع اجتماعی نبودند—اگر جلوی خودم را نمی‌گرفتم—مشت می‌زدم توی صورتش. پس وقتی می‌گویم ’عصبانی‌ام‘ یک‌جور خلاصه‌سازی این است که بگویم ’احساس می‌کنم دوست دارم عملی تهاجمی انجام دهم.‘ احساسات فقط نوعی حرف‌زدن درباره‌ی تمایلمان به عمل است.»

وقتی عکس‌ها را نگاه می‌کردیم، گفت: «من این خانه را دوست دارم، ولی گاهی جای غمباری می‌شود. چون او خیلی دوست داشت اینجا باشد و نیست.»

آفتاب تقریباً غروب کرده بود و هینتون چراغ کوچکی را روی میزش روشن کرد. رایانه را بست و عینکش را روی بینی‌اش بالا داد، شانه‌هایش را صاف کرد و به زمان حال برگشت. گفت: «‌خواستم ماجرای رز و جکی را بدانی، چون آنها بخش مهمی از زندگی‌ام‌ هستند. اما در واقع به هوش ‌مصنوعی هم کاملاً مربوط است. دو رویکرد در قبال هوش ‌مصنوعی وجود دارد. یکی انکار، و دیگری رواقی‌گری. اولین واکنش همه به هوش ‌مصنوعی این است که ’باید جلویش را بگیریم.‘ مثل اولین واکنش هرکس به سرطان که می‌گوید ’چطور آن را ببُریم و دور بیندازیم؟‘» اما مهم بود که بپذیریم بریدن و دورانداختنش خیالی بیش نیست. آهی کشید و گفت: «نمی‌توانیم در انکار بمانیم. باید واقع‌بین باشیم. باید به این بیندیشیم که چطور نگذاریم آن‌قدرها برای بشریت بد شود.»


هوش‌ مصنوعی چقدر سودمند—یا خطرناک—از آب درخواهد آمد؟ هیچ‌کس مطمئن نیست. یک دلیلش این است که شبکه‌های عصبی خیلی غریب‌اند. در قرن بیستم، دانشمندان بسیاری می‌خواستند رایانه‌هایی بسازند که از مغز تقلید کنند. اما شبکه‌های مصنوعی‌ای شبیه مدل‌ جی‌پی‌تی اوپن‌اِی‌آی، گرچه از این لحاظ که میلیاردها عصب مصنوعی در آنها به کار رفته شبیه مغزند، ولی عملاً تفاوتی اساسی با مغزهای بیولوژیک دارند. هوش ‌مصنوعی‌های امروزی بر سامانه‌ی ابری مبتنی‌اند و در مراکز داده‌ای مستقرند که در مقیاس صنعتی برق مصرف می‌کنند. از برخی جهات نادان‌اند و در جاهایی دیگر مثل نابغه‌ها عمل می‌کنند. برای میلیون‌ها کاربر دلیل و برهان می‌آورند، اما فقط وقتی ازشان خواسته باشند. آنها زنده نیستند. شاید آزمون تورینگ را گذرانده باشند، معیاری قدیمی که آلن تورینگ بنا گذاشته بود و بر اساس آن هر رایانه‌ای که بتواند به‌‌طور قانع‌کننده عین انسان‌ با انسان گفتگو کند منطقاً می‌توان گفت می‌اندیشد. با این ‌حال، حسی شهودی به ما می‌گوید چیزی که در نوار مرورگر جای دارد نمی‌تواند واقعاً آن‌طور که ما می‌اندیشیم بیندیشد. این سامانه‌ها ما را وامی‌دارند از خود بپرسیم آیا نوع اندیشیدن ما تنها نوعی است که می‌توان اندیشه به ‌حسابش آورد.

هینتون در چند سال آخری که در گوگل بود تمام تلاشش را صرف ساخت هوش ‌مصنوعی‌ای شبیه‌تر به مغز واقعی کرد و برای این کار از سخت‌افزارهایی استفاده می‌کرد که عملکرد مغز را بهتر تقلید می‌کردند. در هوش ‌مصنوعی‌های امروزی وزن ارتباط‌های‌ بین عصب‌های مصنوعی با عدد ذخیره می‌شود؛ مثل این است که مغز بایگانی فعالیت‌هایش را نگه دارد. اما در مغز آنالوگ واقعی وزن‌ها در ارتباط‌های فیزیکی بین عصب‌ها ساخته می‌شوند. هینتون با استفاده از چیپ‌های رایانه‌ای مخصوص نسخه‌ای مصنوعی از این ساختار را پدید آورد.

در حالت کلی، فناوری هوش ‌مصنوعی فعلی مبتنی بر حرف و اندیشه است: وقتی به مرزهای دنیای جسمانی می‌رسد لنگ می‌زند. لوکن به من گفت: «هر نوجوانی می‌تواند رانندگی را با بیست ساعت تمرین، کم‌وبیش بدون هیچ نظارتی، یاد بگیرد. هر گربه‌ای می‌تواند روی اسباب و اثاث بپرد و خودش را به بالای طاقچه یا قفسه برساند. هیچ سامانه‌ی هوش مصنوعی‌ای نداریم که امروز به انجام کارهایی شبیه به این نزدیک شده باشد، بجز خودروهای خودران»—و طراحی‌شان بیش‌ازحد است، چون به «کشیدن نقشه‌ی کل شهر، صدها مهندس و صدها هزار ساعت آموزش» نیاز دارند. لوکن می‌گفت حل مسائل پرپیچ‌وتابِ شهود فیزیکی «چالش بزرگ دهه‌ی آینده خواهد بود». با این‌ حال، ایده‌ی اولیه ساده است: اگر عصب‌ها می‌توانند انجامش دهند، پس شبکه‌های عصبی هم می‌توانند.

به گمان هینتون، تردیدها درباره‌ی استعداد هوش ‌مصنوعی، گرچه آرامش‌بخش است، چه‌بسا ناشی از ایمانی نامعقول به استثنایی‌بودن انسان باشد. پژوهشگران عیب چت‌بات‌های هوش‌ مصنوعی را در این می‌دانند که در مواجهه با سؤالات گیج‌کننده با سرهم‌کردن پاسخ‌های محتمل «توهم می‌زنند». اما او با استفاده از این واژه مخالف است. او می‌گفت: «باید بگوییم افسانه‌بافی می‌کنند. توهم‌زدن برای وقتی است که چیزی حسانی وجود داشته باشد—توهم‌‌های شنوایی، توهم‌های دیداری، توهم‌های بویایی. اما صرفاً از خود حرف‌ درآوردن می‌شود افسانه‌بافی.»

بارها از هینتون پرسیده‌اند که آیا از کرده‌اش پشیمان است. (اخیراً برای روزنامه‌نگاری پاسخی تک‌جمله‌ای، «آهنگی برای تو»، ‌همراه لینکی از آهنگ «نه، از هیچ‌چیز پشیمان نیستم»6 ادیت پیاف فرستاد.») گفت، وقتی تحقیقش را شروع کرده بود، هیچ‌کس فکر نمی‌کرد این فناوری به موفقیت برسد؛ حتی وقتی شروع به جواب‌دادن کرد کسی فکر نمی‌کرد با این سرعت به موفقیت برسد. هینتون، دقیقاً به این دلیل که هوش‌ مصنوعی را به‌راستی باهوش می‌داند، انتظار دارد آن را در زمینه‌های بسیاری به کار ببرند. اما از آن می‌ترسد که مثلاً آدم‌های قدرتمند از آن سوءاستفاده کنند.

دیدگاه‌های هینتون در حوزه‌ی کاری‌اش موافقان و مخالفان بسیاری دارد. لوکن به من گفت: «من از هوش ‌مصنوعی نمی‌ترسم. فکر می‌کنم طراحی‌شان، به ‌صورتی ‌که اهدافشان با بقیه هم‌راستا باشد، کار نسبتاً آسانی است. می‌گویند اگر سامانه‌ای هوش داشته باشد، به دنبال سلطه خواهد بود. اما میل به سلطه به هوش ربط ندارد—به تستوسترون ربط دارد.» یاد عنکبوت‌های ویلای هینتون افتادم که چطور سطح پنجره‌ها را با تارهایشان می‌پوشاندند. آنها هم دنبال سلطه نبودند—و با این ‌حال هوش حشره‌ای‌شان آنها را وا‌داشته بود قلمروشان را گسترش دهند. سامانه‌های زنده‌ای که مغز متمرکز ندارند، مثل اجتماع مورچه‌ها، «خواست» انجام کاری را ندارند، با این‌ حال غذا پیدا می‌کنند، از رودخانه عبور می‌کنند و رقیبانشان را در تعداد زیاد می‌کشند. هم حرف هینتون هم لوکن ممکن است درست باشد. دگرگونی هوش‌ مصنوعی هنوز به پایان نرسیده و نمی‌دانیم به چه چیز تبدیل می‌شود.

از هینتون پرسیدم چرا کلاً هوش‌ مصنوعی را «از برق نمی‌کشیم؟ آیا این سؤال کلاً غیرمنطقی است؟»

گفت: «غیرمنطقی نیست که بگوییم بهتر است عطایش را به لقایش ببخشیم—ارزشش را ندارد. همان‌طور که بهتر بود از سوخت‌های فسیلی استفاده نمی‌کردیم. زندگی‌مان خیلی ابتدایی‌تر می‌بود، اما شاید به این‌همه خطر نمی‌ارزید.» او از روی خویشتنداری اضافه می‌کند که «اما چنین اتفاقی قرار نیست بیفتد. چون جامعه این‌جوری نیست. و چون کشورهای مختلف با هم رقابت دارند. اگر سازمان ملل واقعاً کار می‌کرد، امکان داشت چیزی مثل آن جلوی هوش ‌مصنوعی را بگیرد. هرچند در آن صورت نیز هوش ‌مصنوعی خیلی فایده دارد. استعداد بسیار زیادی برای خیررساندن، در زمینه‌هایی مثل درمان، دارد، و البته می‌تواند با سلاح‌های خودمختار باعث برتری کشوری بر دیگری شود.» چند ماه پیش هینتون از امضای طومار مشهوری که خواهان حداقل شش ماه وقفه در تحقیقات شده بود سر باز زد. می‌گفت: «چین قصد ندارد توسعه‌ی آن را شش ماه متوقف کند.»

پرسیدم «خب چه کار باید کرد؟»

گفت «نمی‌دانم. کاش چیزی مثل تغییرات اقلیمی بود تا می‌شد گفت، بینید، یا باید سوزاندن کربن را متوقف کنیم یا راهی کارآمد بیابیم که دی‌اکسیدکربن را از جو پاک کنیم. این‌جوری می‌توان تصوری از راه‌حل پیدا کرد. اما در مورد هوش ‌مصنوعی این‌طوری نیست.»

هینتون کاپشن آبی‌رنگی پوشید تا دنبال رزماری به بندرگاه برویم. لبخندزنان گفت: «برایمان آذوقه آورده!» وقتی داشتیم از در بیرون می‌رفتیم، برگشتم و داخل ویلا را نگاه کردم. در آن اتاق بزرگ کانوی سرخ‌رنگ زیر نوازش نور خورشید می‌درخشید. جلوی آن، صندلی‌ها را در نیم‌دایره‌ای رو به پنجره‌های قدی چیده بودند که به آب دید داشتند. روی میزی کوچک مجله‌ها روی هم کپه شده بود. خانه‌ی زیبایی بود. ذهن انسان کاری بیش از استدلال می‌کند؛ در زمان وجود دارد، با مرگ و زندگی روبه‌رو می‌شود، و دنیایی حول خودش بنا می‌کند. مثل آهن‌ربایی که براده‌ی آهن جذب کند، معنا جمع می‌کند. هوش‌ مصنوعی شاید بتواند خانه‌ای مثل اینجا را تصور کند. اما هرگز به جایی این‌چنین نیاز دارد؟

قدم به مسیر جنگلی گذاشتیم، از آلونک‌ها رد شدیم و از پلکان سنگی مشرف به لنگرگاه پایین رفتیم تا سوار قایق هینتون شویم. آسمان یکدست آبی بود و بادی خنک آب را متلاطم می‌کرد. هینتون پشت سکان ایستاد و من جلوی قایق نشستم. چشمم به جزیره‌هایی بود که از کنارشان می‌گذشتیم، اما فکرم پیش داستان هوش ‌مصنوعی بود. این داستان به‌ نظر عده‌ای داستان کوپرنیک است که در آن ماشین‌های متفکر می‌آیند و تصور شهودی‌مان از خاص‌بودن ذهن انسان دود می‌شود. برای عده‌ای دیگر، داستان پرومته‌ است—کسی که آتش را می‌دزدد خطر سوختن را به جان می‌خرد. بعضی مردم فکر می‌کنند داریم با ماشین‌هایی که ساخته‌ایم و شرکت‌هایی که امیدوارند از آنها سود به جیب بزنند خودمان را توی هچل می‌اندازیم. عجیب اینکه ممکن است داستان محدودیت‌های انسانی نیز باشد. اگر جای خدایان بودیم، احتمالاً نوع کاملاً متفاوتی از هوش ‌مصنوعی را می‌ساختیم؛ در واقعیت، چیزی غیر از این نوعی که ساختیم نمی‌توانستیم بسازیم. در این ‌بین، هرجور می‌دیدم این داستان برایم داستان هبوط بود. به قصد بازآفرینش سامانه‌های دانشِ درونِ سرمان، سیب ممنوعه را چیده‌ایم و حالا در معرض خطر تبعید از دنیای خوش و خُرممان هستیم. اما چه ‌کسی حاضر بود نداند که دانستن چگونه کار می‌کند؟

در بندرگاه، هینتون خیلی خوب از باد استفاده می‌کرد، باشتاب جلو می‌رفت، دور می‌زد و بعد می‌گذاشت باد او را در مسیرش پیش ببرد. او با گردن افراشته می‌گفت: «دارم یاد می‌گیرم.» در ساحل قدم زدیم و کنار فروشگاهی منتظر رزماری ماندیم. بعد از مدتی هینتون رفت داخل تا لامپ بخرد. من همان‌جا در گرمی مطبوع آفتاب ایستاده بودم که دیدم زنی بلندقد با چشمان روشن و موهای سفید بلند از محوطه‌ی پارکینگ به سمتم می‌آید.

رزماری با من دست داد و بعد از کنار شانه‌ام گردن کشید. سروکله‌ی هینتون با لبخندی پت‌وپهن از فضای سبز کنار فروشگاه بیرون آمد.

رزماری از او پرسید: «چی برایم گرفتی؟»

هینتون یک مار بندجورابی حدوداً یک‌متری در دست داشت که مثل فنر دور دستش پیچیده بود. با لحنی مبادی آداب گفت: «برگ سبزی است تحفه‌ی درویش. بین بوته‌ها پیداش کرده‌ام.» رزماری خندید، گل از گلش شکفت و رو به من کرد و گفت: «این فقط یک چشمه از کارهای آقاست.»

هینتون در اشاره به مار گفت: «خوشحال نیست.»

رزماری گفت: «تو جاش بودی خوشحال بودی؟»

هینتون گفت: «خیلی حواسم به گردنش هست. خیلی شکننده‌اند.»

مار را از یک دست‌ به دست دیگر داد و کف دستش را طرفمان گرفت. مایع لزج بویناک مار دستش را پوشانده بود.

گفت «بو بکشید.»

به‌نوبت بو کشیدیم. بوی غریبی بود: بویی تند و معدنی، بوی مواد شیمیایی و خزندگان، چیزی که بی‌شک متعلق به موجودی زنده بود.

رزماری گفت: «همه‌ جای پیرهنت مالیدی‌اش!»

هینتون توضیح داد: «باید می‌گرفتمش!»

مار را روی زمین گذاشت که با سرعت درون علف‌ها خزید. هینتون با قیافه‌ای راضی رفتنش را تماشا کرد.

گفت: «خب. روز قشنگی است. دل به دریا بزنیم؟»


1.Silicon Valley techno-messiah

2.تحت‌اللفظی‌اش می‌شود «من قدرقدرتم».—م.

3.backpropagation

4.recurrent

5.convolutional

6.«Non, Je Ne Regrette Rien»

متن‌های دیگر
icon

هر کسی در سینه داستانی برای روایت دارد

ما را دنبال کنید
linkedintwittertelegraminstagram
پادکست شوروم
youtubespotifyapplecastbox
icon

هر کسی در سینه داستانی برای روایت دارد