انگار به یک چیز دیگر برای ترساندن نیاز داشتیم، آخرین هشدار دانشمندی از دانشگاه تورنتو که بسیاری آن را عقل پایهگذار هوش مصنوعی میدانند، لایه جدیدی از ترس را اضافه میکند.
دیگرانی که در گذشته هشدار دادهاند که ماشینهای فکری تهدیدی برای موجودیت انسان هستند، به نظر میرسد با پوشش رسانهای شبیه ستارههای راک، جفری هینتون که در کنفرانسی این هفته بهعنوان پدرخوانده هوش مصنوعی معرفی شد، کمی ناراحت هستند. تبدیل لحظه آخری برخی دیگر می گویند صدای معتبر هینتون تفاوت ایجاد می کند.
هینتون پس از کار پیشگامانه بر روی یادگیری ماشینی که باعث می شود هوش مصنوعی را ممکن کند، می گوید که کنسرت خود را در گوگل ترک کرده است تا بتواند آزادانه درباره هیولایی که به خلق آن کمک کرده صحبت کند.
“جدی و نسبتا نزدیک”
هینتون نه تنها به مخاطبان متخصص در کنفرانس EmTech Digital در روز چهارشنبه گفت که انسانها به زودی جایگزین هوش مصنوعی خواهند شد – “من فکر میکنم این موضوع جدی و نسبتا نزدیک است.” وی گفت: به دلیل رقابت ملی و تجاری، هیچ راه آشکاری برای جلوگیری از آن وجود ندارد.
هینتون روز چهارشنبه در حالی که تغییر روحیه خود را با جزئیات فنی توضیح داد، گفت: «آنچه ما میخواهیم راهی برای اطمینان از این است که حتی اگر آنها از ما باهوشتر باشند، کارهایی را انجام خواهند داد که سودمند است.
اما ما باید تلاش کنیم و این کار را در دنیایی انجام دهیم که در آن بازیگران بدی وجود دارند که میخواهند سربازان روباتی بسازند که مردم را میکشند و این برای من بسیار سخت به نظر میرسد.»
او گفت: “ای کاش یک راه حل خوب و ساده داشتم که می توانستم فشار بیاورم، اما این کار را نمی کنم.” “معلوم نیست که راه حلی وجود دارد.”
پس کی این همه اتفاق می افتد؟
او روز چهارشنبه در رادیو سیبیسی As It Happens به نیل کوکسال گفت: «چند سال دیگر ممکن است بهطور قابلتوجهی از مردم باهوشتر شوند».
همانطور که اتفاق می افتد10:02“پدرخوانده هوش مصنوعی” می گوید نگران “پایان مردم” است
در حالی که ممکن است او دیر به مهمانی رفته باشد، صدای هینتون تأثیر جدیدی به اضطراب فزاینده میافزاید که هوش عمومی مصنوعی یا AGI اکنون به تغییرات آب و هوایی و آرماگدون هستهای به عنوان راههایی برای خاموش کردن انسانها پیوسته است.
اما مدتها قبل از آن روز آخر، او نگران است که فناوری جدید به زودی مشاغل را از بین ببرد و به شکاف اجتماعی بی ثبات کننده بین غنی و فقیر منجر شود که سیاست فعلی قادر به حل آن نیست.
کنفرانس EmTech Digital از کسب و کار هوش مصنوعی و دانشگاه است، زمینه هایی که اغلب با هم همپوشانی دارند. اکثر شرکت کنندگان دیگر در این رویداد برای هشدار درباره هوش مصنوعی مانند هینتون نبودند، بلکه برای جشن گرفتن رشد انفجاری تحقیقات و تجارت هوش مصنوعی بودند.
رشد انفجاری در تجارت و تحقیقات
رهبر فهرست سخنرانان روز چهارشنبه، یکی دیگر از کانادایی ها، جوئل پینو بود که علاوه بر استاد دانشگاه مک گیل مونترال، از رهبران تحقیقات هوش مصنوعی متا است. متا شرکت مادر فیسبوک است.
در حالی که پینو به احتمالات تاریکتر اشاره میکرد، مانند بسیاری از سخنرانان دیگر در این رویداد، مشتاق کار خود و انبوه تحقیقات در زمینه هوش مصنوعی بود، به ویژه در “متن باز”، راهی برای سازندگان نرمافزار برای به اشتراک گذاشتن اکتشافات خود.
Pineau به 800 شرکت کننده در کنفرانس گفت: “ما نزدیک به 500000 مقاله تحقیقاتی را می بینیم که در مورد اکتشافات جدید در هوش مصنوعی صحبت می کنند.” برای کسانی از شما که GitHub را دنبال می کنید، تعداد پروژه های هوش مصنوعی در حال افزایش بوده است: نزدیک به 350000 پروژه به صورت متن باز به اشتراک گذاشته شده است.
همانطور که یکی از کارشناسانی که با او صحبت کردم اشاره کرد، رشد هوش مصنوعی به صورت تصاعدی بوده و برای مدت طولانی بوده است. اما حتی با دانستن این موضوع، افزایش ارزش دلاری هوش مصنوعی برای تجارت، بخش را غافلگیر کرد.
هشت سال پیش وقتی در مورد افزایش مورد انتظار در تجارت هوش مصنوعی نوشتم، از گروه اطلاعاتی بازار Tractica نقل کردم که هزینه های هوش مصنوعی “در دهه آینده بیش از 40 میلیارد دلار ارزش خواهد داشت” که در آن زمان بسیار زیاد به نظر می رسید. به نظر می رسد که این یک دست کم گرفتن بود.
در گزارش بهروزرسانیشده Fortune Business Insights آمده است: «اندازه بازار جهانی هوش مصنوعی در سال 2022 معادل 428 میلیارد دلار آمریکا بود. پیش بینی می شود که این بازار از 515.31 میلیارد دلار در سال 2023 رشد کند. برآورد برای سال 2030 بیش از 2 تریلیون دلار است.
خطرناک است، اما باید پول درآورد
هر کسی که با اخبار کسب و کار همراه باشد متوجه شده است که به جای نگرانی در مورد چگونگی کاهش سرعت گسترش هوش مصنوعی، کسب و کارها به این بخش سرازیر می شوند و راه های جدیدی برای کسب سود پیدا می کنند.
این هفته، شرکت جدید هوش مصنوعی Cohere در تورنتو، که هینتون در آن سهام خود را دارد، اعلام کرد که در حال “در حال مذاکره پیشرفته” برای جمع آوری 250 میلیون دلار است. شرکت رسانه ای کانادایی تامسون رویترز گفت که در حال برنامه ریزی برای “سرمایه گذاری عمیق تر در هوش مصنوعی” است. انتظار می رود که IBM “استخدام برای نقش هایی را که می توانند با هوش مصنوعی جایگزین شوند، متوقف کند.” بنیانگذاران Google DeepMind و LinkedIn یک رقیب ChatGPT به نام Pi راه اندازی کرده اند.
و این فقط همین هفته بود.
کارینا ولد یک متخصص کانادایی است که خطرات بالقوه هوش مصنوعی را مطالعه می کند و مقاله چگونه هوش مصنوعی یک خطر وجودی ایجاد می کند را نوشت؟ او گفت که علیرغم وضعیت اخیر جانی، اعتبار هینتون در جامعه می تواند تأثیرگذار باشد. اما او اشاره می کند که جنون رقابت بین غول های تجاری برای هوش مصنوعی بهتر و قدرتمندتر یکی از خطراتی است که با ایجاد چیزی خطرناک همراه است.
روز چهارشنبه، هینتون به صراحت اعلام کرد که موافق است، و به همین دلیل است که تصاحب ماشینهای هوشمند، که در آن انسانها تنها یک مرحله در توسعه نهایی هوش خواهند بود، احتمالا غیرقابل توقف است.
او با دوربین از راه دور به مخاطبان فناوری پیشرفته گفت: «من فکر میکنم در سیستم سرمایهداری یا سیستمی با رقابت بین کشورهایی مانند ایالات متحده و چین اجتنابناپذیر است.
برای یک کارآفرین مولتی میلیونر، به نظر می رسد هینتون به جامعه ای که تجارت نقش مهمی در آن ایفا می کند، اعتقاد چندانی ندارد. او گفت که قدرت هوش مصنوعی در از بین بردن مشاغل می تواند منجر به بی ثباتی شود حتی قبل از تصاحب نهایی ماشین که او پیش بینی می کند.
همه سود نخواهند برد
هینتون گفت: «آنها میخواهند بسیاری از مشاغل را بسیار کارآمدتر کنند. “نگرانی من این است که این افزایش عظیم در بهره وری منجر به بیکار کردن مردم و ثروتمندتر و فقیرتر کردن ثروتمندان شود.”
این فناوری در جامعهای در حال توسعه است که برای استفاده از آن به نفع همه طراحی نشده است.»
هینتون میگوید اگر چه عبوس باقی میماند، اگر بازیگران بدی که میخواهند از هوش مصنوعی برای اهداف شیطانی استفاده کنند، سرکوب شوند، یکی از گزینههای احتمالی چیزی به نام «همترازی هوش مصنوعی» است، که در آن رایانههای هوشمند در هماهنگی با انسانها کار میکنند یا حداقل پاک نمیشوند. ما بیرون
دیگران، از جمله ایان هوگارت، سرمایهگذار هوش مصنوعی، در مقالهای اخیر با عنوان «ما باید مسابقه هوش مصنوعی خداگونه را کاهش دهیم» پیشنهاد کردهاند که کسبوکارها میتوانند با سرمایهگذاری در این استراتژی به عنوان اولویت کمک کنند.
ما باید سرعت مسابقه به سمت هوش مصنوعی خداگونه را کاهش دهیم https://t.co/XV6UQQk0Ar
هینتون گفت: «یک امید من این است که، زیرا اگر اجازه دهیم آن را به دست بگیرد، برای همه ما بد خواهد بود، میتوانیم مانند آنچه در مورد سلاحهای هستهای انجام دادیم، آمریکا و چین را به توافق برسانیم.» ما همه با توجه به تهدیدات وجودی در یک قایق هستیم، بنابراین همه ما باید بتوانیم در تلاش برای متوقف کردن آن همکاری کنیم.»
ویل داگلاس هیون، مصاحبهگر و ناظم، ویراستار MIT Technology Review جمله هینتون را برای او به پایان رساند: «تا زمانی که بتوانیم در راه پول دربیاوریم».