همانطور که اتفاق می افتد10:02“پدرخوانده هوش مصنوعی” می گوید نگران “پایان مردم” است
زمانی بود که جفری هینتون فکر می کرد هوش مصنوعی هرگز از هوش انسانی پیشی نخواهد گرفت – حداقل در طول عمر ما.
این روزها، او چندان مطمئن نیست.
دانشمند مشهور کامپیوتر بریتانیایی-کانادایی گفت: “من فکر می کنم که می توان تصور کرد که این نوع هوش پیشرفته فقط می تواند از ما سلب کند.” همانطور که اتفاق می افتد میزبان نیل کوکسال “این به معنای پایان مردم است.”
هینتون به عنوان پدرخوانده هوش مصنوعی (AI) شناخته می شود، نامی که او از آن استقبال می کند. او و همکارانش به توسعه شبکه های عصبی مصنوعی، فناوری هسته یادگیری ماشین کمک کردند. کار اساسی او به پیشرفت سریع هوش مصنوعی کمک کرد.
در دهه گذشته، او شغل خود را بین تدریس در دانشگاه تورنتو و کار برای تیم هوش مصنوعی گوگل با یادگیری عمیق تقسیم کرد. اما او این هفته استعفای خود را از گوگل اعلام کرد در مصاحبه با نیویورک تایمز
اکنون هینتون درباره خطراتی که از زندگی او می ترسد صحبت می کند، از جمله دولت هایی که از هوش مصنوعی برای دستکاری انتخابات یا ایجاد «سربازان روبات» استفاده می کنند.
اما کارشناسان دیگر در زمینه هوش مصنوعی نسبت به دیدگاههای او در مورد آیندهای فرضی دیستوپیایی هشدار میدهند و میگویند که آنها ترس غیرضروری ایجاد میکنند، توجه را از مشکلات بسیار واقعی و فوری که در حال حاضر توسط هوش مصنوعی ایجاد میکند منحرف میکنند و به بازیگران بد اجازه میدهند از مسئولیت شانه خالی کنند، زمانی که هوش مصنوعی را برای افراد شرور به کار میگیرند. اهداف
تغییر قلب
در ماههای اخیر، ابزارهای هوش مصنوعی مانند ChatGPT و Stable Diffusion به دلیل تواناییشان در تولید سریع متن، تصویر و صدا، سرفصلها را به خود اختصاص دادهاند.
سیستم ها این مهارت ها را با تجزیه و تحلیل داده ها، که اغلب از سراسر اینترنت خراشیده می شوند، یاد می گیرند. این به لطف استفاده آنها از شبکه های عصبی مصنوعی – سیستم های محاسباتی الهام گرفته از شبکه های عصبی بیولوژیکی مغز انسان و حیوانات است.
هینتون در سال 2012 در کنار دانشجویان Ilya Sutskever و Alex Krizhevsky به پیشگامی شبکه های عصبی در دانشگاه تورنتو کمک کرد.
او و همکارانش، Yann LeCun و Yoshua Bengio برنده جایزه تورینگ 2018 – که نوبل علوم کامپیوتر در نظر گرفته میشود – به خاطر کارشان به ماشینها مانند انسان فکر کردن را آموزش دادند.
هینتون گفت: “به مدت 50 سال، من روی تلاش برای یادگیری کامپیوترها کار کرده ام، به این امید که بتوانم آنها را به خوبی مردم یاد بگیرند.”
اما اخیراً به این نتیجه رسیدم که نوع هوش دیجیتالی که ما برای چیزهایی مانند چت رباتهای بزرگ توسعه میدهیم، در واقع شکل بسیار متفاوتی از هوش با هوش بیولوژیکی است – و ممکن است در واقع بسیار بهتر باشد.
هینتون صبر کرد تا راه خود را از گوگل جدا کند و نگرانی های خود را به طور عمومی اعلام کند. اما او میگوید که هیچ بدخواهی نسبت به شرکت ندارد.
او می گوید گوگل در خط مقدم پیشرفت های هوش مصنوعی بوده است. با این حال، به جای انتشار عمومی محصولات هوش مصنوعی، این شرکت در طول تاریخ از آنها برای بهبود خدماتی مانند جستجو استفاده کرده است.
اما از آنجایی که رقبا محصولات جدید هوش مصنوعی را به جهان عرضه می کنند، او می گوید مدیران گوگل برای حفظ سرعت خود احساس فشار می کنند. و زمانی که هوش مصنوعی در دسترس عموم باشد، به حجم بسیار بیشتری از داده ها نسبت به قبل دسترسی دارد.
هینتون گفت: «من فکر میکنم گوگل تا کنون بسیار مسئولیتپذیر بوده است و آنها تا جایی که ممکن است مسئولیتپذیر باشند، ادامه خواهند داد. اما در رقابت با مایکروسافت، نمیتوان آنطور که آنها میخواهند جلوی خود را گرفت.»
جف دین، دانشمند ارشد گوگل، در پاسخ به سوالی درباره اظهار نظر، گفت که آرزوی موفقیت برای هینتون دارد.
دین در بیانیه ای که توسط یکی از سخنگویان گوگل ارسال شده است، گفت: “جف پیشرفت های اساسی در هوش مصنوعی داشته است و ما از یک دهه مشارکت او در گوگل قدردانی می کنیم. من عمیقاً از گفتگوهای متعدد خود در طول سال ها لذت بردم. دلم برای او تنگ خواهد شد.”
ما همچنان متعهد به رویکردی مسئولانه نسبت به هوش مصنوعی هستیم. ما به طور مداوم در حال یادگیری درک خطرات نوظهور و در عین حال جسورانه نوآوری هستیم.
کارشناسان می گویند که لفاظی در مورد آینده هوش مصنوعی بسیار زیاد است
ایوانا بارتولتی، بنیانگذار شبکه زنان پیشرو در هوش مصنوعی، میگوید تمرکز بر دیدگاههای دیستوپیایی از آیندهای که مبتنی بر هوش مصنوعی است، میتواند بیشتر از اینکه مفید باشد به ما آسیب برساند.
بارتولتی، مدیر ارشد حریم خصوصی در شرکت فناوری اطلاعات Wipro، گفت: «این مهم است که مردم درک کنند که تا حدی ما در یک دوراهی قرار داریم.
با این حال، نگرانی من در مورد این هشدارها این است که ما روی سناریوی آخرالزمانی تمرکز می کنیم و این ما را از خطراتی که اینجا و اکنون با آن روبرو هستیم و فرصت هایی برای رسیدن به آن در اینجا و اکنون دور می کند.
او گفت که این خطرات شامل نقض حریم خصوصی، اطلاعات نادرست، کلاهبرداری و مواردی است که هوش مصنوعی تعصبات انسانی را اتخاذ می کند و تبعیض را تقویت می کند.
او میگوید خبر خوب این است که بسیاری از حوزههای قضایی قوانینی دارند که برای محافظت از ما در برابر برخی از این موارد طراحی شدهاند. ما فقط باید آن ها را برای افراد و شرکت هایی که در حال ساخت و استفاده از هوش مصنوعی هستند اعمال کنیم.
بارتولتی می گوید اکنون زمان ایجاد قوانین و قوانین جدید برای پر کردن شکاف ها است. او اشاره کرد قانون هوش مصنوعی اتحادیه اروپا به عنوان یک مثال خوب
او گفت: “تنظیم کردن هوش مصنوعی به خودی خود پیچیده است. می دانید، به چه معناست؟ این کمی شبیه به تنظیم ریاضیات است.” بنابراین آنچه که من فکر می کنم باید انجام دهیم این است که رفتار افراد پیرامون این سیستم ها را تنظیم کنیم.
تماشا | «پدرخوانده هوش مصنوعی» گوگل را ترک می کند:
زیو اپستاین، کاندیدای دکترا در موسسه فناوری ماساچوست که تأثیرات فناوری بر جامعه را مطالعه میکند، میگوید مشکلات ناشی از هوش مصنوعی بسیار واقعی هستند و او خوشحال است که هینتون “زنگهای هشدار را در مورد این موضوع به صدا درآورده است.”
“با توجه به آنچه گفته شد، من فکر می کنم که برخی از این ایده ها که … ابررایانه های هوش مصنوعی “بیدار می شوند” و کنترل می شوند، من شخصا معتقدم که این داستان ها در بهترین حالت حدس و گمان هستند و به نوعی نشان دهنده فانتزی علمی-تخیلی هستند که می توانند او گفت که از ترس واهمه و منحرف کردن تمرکز از مسائل مبرم تر.
او به خصوص نسبت به زبانی که انسانسازی میکند هشدار میدهد – یا، به عبارت دیگر، انسان سازی – AI.
اپستین در تحقیق خود در مورد اینکه مردم چگونه هنر تولید شده توسط هوش مصنوعی را درک می کنند، دریافته است که وقتی افراد عامل انسانی را به هوش مصنوعی نسبت می دهند، تمایل دارند نیروی کار انسانی را که برای خلق آن صرف شده است، بی ارزش کنند.
او میگوید که این میتواند به نفع شرکتهایی باشد که هوش مصنوعی را به کار میگیرند، زیرا مردم این فناوری را سرزنش میکنند نه آنهایی که غیرمسئولانه از آن استفاده میکنند.
هینتون: «کاملاً ممکن است من اشتباه میکنم».
بارتولتی و اپشتین هر دو می گویند که هوش مصنوعی پتانسیل بسیار زیادی برای بهبود زندگی ما در زمینه پزشکی دارد. علاوه بر این، آنها می گویند که این می تواند خلاقیت را تقویت کند، دقیقاً مانند اینکه چگونه ظهور عکاسی هنرمندان را از محدودیت های بیشرئالیسم رها کرد و به آنها اجازه داد تا اشکال دیگر را کشف کنند.
هینتون می گوید که او لزوماً مخالف نیست.
او گفت: “کاملاً ممکن است من اشتباه می کنم. ما در دوره ای از عدم اطمینان بزرگ هستیم که واقعاً نمی دانیم چه اتفاقی قرار است بیفتد.”
سناریویی که ما میخواهیم این است که این هوشهای دیجیتالی پیشرفته نوعی رابطه همزیستی با ما ایجاد کنند و زندگی را بسیار آسانتر کنند – از شر همه کارهای سخت خلاص شویم، همه را بهرهورتر کنیم. این عالی خواهد بود، اما فکر نمیکنم. این تضمین شده است.”