ترس برای بشریت و خطرات هوش مصنوعی به گفته جفری هینتون

صنعت ارزهای دیجیتال به طور گسترده ای تحت تأثیر پیشرفت فناوری هوش مصنوعی قرار گرفته است. به طور خاص تر، قطبیت فزاینده چت ربات های مبتنی بر هوش مصنوعی مانند ChatGPT و Google Bard باعث ایجاد زیربخشی از ارزهای رمزنگاری شده با موضوع آن حوزه شده است.

تعداد بی‌شماری سکه در بازار وجود دارد که به دلیل علاقه فزاینده به هوش مصنوعی شاهد رشد تصاعدی بوده‌اند.

ما همچنین ChatGPT را در موضوعات متعددی مانند:

و در حالی که چت کردن با یک هوش مصنوعی در مورد موضوعاتی که معمولاً با همسالان خود صحبت می کنید هیجان انگیز است، جنبه دیگری نیز در آن وجود دارد و جفری هینتون با صدای بلند و واضح در مورد آن صحبت می کند.

پدرخوانده هوش مصنوعی

جفری هینتون یک روانشناس شناختی و دانشمند کامپیوتر بریتانیایی-کانادایی است که در سال 1947 در ویمبلدون لندن به دنیا آمد.

او بیشتر به خاطر کارش در شبکه های عصبی مصنوعی مشهور است و یکی از کارمندان سابق گوگل است. او در می 2023 شرکت را در یک خروج عمومی بزرگ ترک کرد و نگرانی های عمومی را در مورد خطرات فناوری هوش مصنوعی (AI) ابراز کرد.

هینتون اولین برنده جایزه روملهارت در سال 2001 است و به دلیل کارش بر روی شبکه های عصبی مصنوعی، به ویژه در رابطه با نحوه طراحی آنها برای یادگیری بدون نیاز به معلم انسانی، شهرت بین المللی دارد. او همچنین برنده جایزه ACM AM Turing 2018 برای پیشرفت های مفهومی و مهندسی در این زمینه شد.

معمولاً از او به عنوان یکی از پدرخوانده های هوش مصنوعی نیز یاد می شود. و اکنون، او نگرانی هایی دارد.

ما راز جاودانگی را کشف کرده‌ایم، اما یک نکته وجود دارد

در یک مصاحبه برای روزنامه گاردین، هینتون به صراحت اعلام کرد که با شرایط خوب گوگل را ترک کرد و هیچ اعتراضی به کاری که این شرکت انجام می دهد یا انجام داده است ندارد.

در این مقاله، او هوش بیولوژیکی (مغز انسان) را با هوش دیجیتال مقایسه می‌کند و ناکارآمدی‌هایی که افراد با آن مواجه هستند را بیان می‌کند. او می گوید که مغز ما با قدرت کم کار می کند، اما رویکرد ما از نظر انتقال اطلاعات کاملاً ناکارآمد است. از سوی دیگر، هوش دیجیتال متفاوت است.

شما از نظر انرژی هزینه هنگفتی می پردازید، اما وقتی یکی از آنها چیزی یاد می گیرد، همه آن را می دانند و می توانید به راحتی نسخه های بیشتری را ذخیره کنید. پس خبر خوب این است که ما راز جاودانگی را کشف کرده ایم. خبر بد این است که برای ما نیست.

در اصل، هینتون به این نتیجه رسید که انسان‌ها هوشی را می‌سازند که توانایی پیشی گرفتن از انسانیت را دارد.

فکر می‌کردم در نهایت این اتفاق می‌افتد، اما ما زمان زیادی داشتیم: 30 تا 50 سال. من دیگر فکر نمی کنم. و من هیچ نمونه ای از چیزهای باهوش تر که توسط چیزهای باهوش کمتر کنترل می شوند، نمی شناسم.

برای درک بیشتر مقایسه، دانشمند کامپیوتر ما (انسان ها) را در برابر قورباغه ها سنجاق کرد و همچنین اضافه کرد:

و آن (هوش مصنوعی) از وب بیاموزد، هر کتابی را که تا به حال در مورد نحوه دستکاری مردم نوشته شده است را خوانده باشد و همچنین آن را در عمل دیده باشد.”

ترس برای بشریت

با استناد به گزارش اخیر هینتون، گزارش می دهد طرح کلی خطرات احتمالی به اصطلاح ابرهوشی.

پدرخوانده هوش مصنوعی سناریوهایی را ترسیم می کند که در آن یک هوش مصنوعی ممکن است به دنبال به دست آوردن کنترل بر جنبه های متعددی از محیط خود برای حل مشکلات پیچیده باشد. این جنبه ها حتی شامل دستکاری انسان نیز می شود. این دانشمند معتقد است که هوش مصنوعی حتی نیازی به هدف صریح دستیابی به قدرت یا تخریب ندارد تا از توانایی خود برای تقلید از رفتار انسان استفاده کند.

با این حال، همه چیز عذاب و غم نیست. او معتقد است که راه‌هایی برای کاهش سناریوهای فاجعه‌بار وجود دارد، اما او همچنین از نظر اینکه ما از نقطه بدون بازگشت عبور کرده‌ایم و توقف توسعه هوش مصنوعی کاملاً غیرممکن است و نباید متوقف شود.

فکر می کنم باید به توسعه آن ادامه دهیم زیرا می تواند کارهای فوق العاده ای انجام دهد. اما ما باید برای کاهش یا جلوگیری از پیامدهای بد احتمالی تلاش کنیم.

چقدر به آن پیامدهای بد نزدیک هستیم؟ نزدیکتر از چیزی که فکرش را بکنید

من در حال حاضر با عدم اطمینان زیادی روبرو هستم. این امکان وجود دارد که مدل‌های زبان بزرگ، که تمام اسناد موجود در وب را مصرف کرده‌اند، نتوانند خیلی بیشتر پیش بروند، مگر اینکه بتوانند به همه داده‌های خصوصی ما نیز دسترسی داشته باشند. من نمی‌خواهم چنین چیزهایی را رد کنم – فکر می‌کنم افرادی که در این موقعیت مطمئن هستند دیوانه هستند.

راه درست برای فکر کردن در مورد احتمال یک فاجعه بیشتر از آن چیزی است که ما دوست داشته باشیم به یک پرتاب سکه ساده نزدیک است.

افکار بسته

هوش مصنوعی احتمالاً نقش فزاینده ای در زندگی ما ایفا می کند. در واقع، با توجه به خود ChatGPT (آه، طنز) برخی از زمینه هایی که در 7 سال آینده تأثیر خواهد گذاشت عبارتند از:

• مراقبت های بهداشتی
• اتوماسیون
• حمل و نقل
• تحصیلات
• خانه های هوشمند
• خدمات مشتری

از زمانی که هینتون نگرانی های خود را بیان کرد، مورد انتقاد بسیاری قرار گرفت که او برخی از همکارانش را که زودتر ترک کردند، دنبال نکرد. رسیدن به چنین نتیجه‌گیری آسان است، اما نظارت بر پیچیدگی مسئله نیز آسان است، که بر چندین اصل فنی، فلسفی و اخلاقی تأثیر می‌گذارد.

حدس می‌زنم تمام آنچه هینتون می‌خواهد بگوید این است که تأثیر هوش مصنوعی بر بشریت، چه خوب باشد چه بد، احتمالاً بسیار نزدیک‌تر از آن چیزی است که اکثر ما فکر می‌کنیم.

تصویر برجسته توسط CBC که توسط جفری هینتون به آنها ارسال شده است.