بیش از 2600 رهبر فناوری و محقق با امضای نامه ای سرگشاده خواستار توقف موقت توسعه بیشتر هوش مصنوعی (AI) شده اند، زیرا از خطرات عمیق برای جامعه و بشریت می ترسند.
ایلان ماسک، مدیرعامل تسلا، استیو وزنیاک از بنیانگذاران اپل و تعدادی از مدیران عامل هوش مصنوعی، مدیران ارشد فناوری و محققان از جمله امضاکنندگان این نامه بودند. نوشته شده است توسط اندیشکده ایالات متحده مؤسسه آینده زندگی (FOLI) در 22 مارس.
این مؤسسه از همه شرکت‌های هوش مصنوعی خواست تا آموزش سیستم‌های هوش مصنوعی را که از GPT-4 قوی‌تر هستند برای حداقل شش ماه «فوراً متوقف کنند» و نگرانی‌هایی را در مورد اینکه «هوش رقابتی انسانی می‌تواند خطرات عمیقی برای جامعه و بشریت ایجاد کند» را به اشتراک بگذارند. :
ما از آزمایشگاه‌های هوش مصنوعی می‌خواهیم آموزش مدل‌های قدرتمند را موقتاً متوقف کنند!
به تماس FLI در کنار یوشوا بنجیو بپیوندید، @stevewoz، @harari_yuval، @الون ماسک، @GaryMarcus و بیش از 1000 نفر دیگر که امضا کرده اند: https://t.co/3rJBjDXapc
مختصری در مورد چرایی درخواست ما – (1/8)
– موسسه آینده زندگی (@FLIxrisk) 29 مارس 2023
هوش مصنوعی پیشرفته می تواند نشان دهنده تغییری عمیق در تاریخ حیات روی زمین باشد و باید با دقت و منابع متناسب برنامه ریزی و مدیریت شود. این موسسه در نامه خود نوشت: متاسفانه این سطح از برنامه ریزی و مدیریت اتفاق نمی افتد.
GPT-4 آخرین نسخه چت ربات مبتنی بر هوش مصنوعی OpenAI است که در 14 مارس منتشر شد. تا به امروز، برخی از سخت‌گیرانه‌ترین موارد را پشت سر گذاشته است امتحانات دبیرستان و حقوق ایالات متحده در صدک 90. گفته می شود که 10 برابر پیشرفته تر از نسخه اصلی ChatGPT است.
FOLI ادعا می‌کند که «مسابقه‌ای خارج از کنترل» بین شرکت‌های هوش مصنوعی برای توسعه هوش مصنوعی قوی‌تر وجود دارد که «هیچ‌کس – حتی سازندگان آنها – نمی‌توانند آن را درک کنند، پیش‌بینی کنند یا به طور قابل اعتماد کنترل کنند».
BREAKING: طوماری در حال پخش است تا تمام پیشرفت‌های اصلی هوش مصنوعی متوقف شود.
به عنوان مثال دیگر خبری از ارتقاء ChatGPT و بسیاری موارد دیگر نیست.
امضا توسط ایلان ماسک، استیو وزنیاک، مدیر عامل هوش مصنوعی پایداری و هزاران نفر از رهبران فناوری دیگر.
در اینجا تفکیک است: pic.twitter.com/jR4Z3sNdDw
— لورنزو گرین 〰️ (@mrgreen) 29 مارس 2023
در میان نگرانی‌های اصلی این بود که آیا ماشین‌ها می‌توانند کانال‌های اطلاعاتی را بالقوه با «تبلیغ و دروغ» پر کنند و آیا ماشین‌ها همه فرصت‌های شغلی را «خودکار» می‌کنند.
FOLI این نگرانی‌ها را یک قدم جلوتر برد و نشان داد که تلاش‌های کارآفرینانه این شرکت‌های هوش مصنوعی ممکن است به یک تهدید وجودی منجر شود:
آیا باید ذهن‌های غیرانسانی را پرورش دهیم که در نهایت ممکن است از تعداد، پیشی گرفته، منسوخ و جایگزین ما شوند؟ آیا باید خطر از دست دادن کنترل تمدن خود را داشته باشیم؟»
در این نامه افزوده شده است: «چنین تصمیماتی نباید به رهبران فناوری منتخب واگذار شود.
امروز کمی از هوش مصنوعی اضطراب وجودی دارید
— ایلان ماسک (@elonmusk) 26 فوریه 2023
این موسسه همچنین با الف اخیر بیانیه سام آلتمن، بنیانگذار OpenAI مبنی بر اینکه ممکن است قبل از آموزش سیستم های هوش مصنوعی آینده، یک بررسی مستقل لازم باشد.
آلتمن در پست وبلاگ خود در 24 فوریه نیاز به آماده شدن برای ربات های هوش عمومی مصنوعی (AGI) و ابر هوش مصنوعی (ASI) را برجسته کرد.
اگرچه همه کارشناسان هوش مصنوعی برای امضای این طومار عجله نکرده اند. بن گورتزل، مدیر عامل SingularityNET در پاسخ توییتری ۲۹ مارس به گری مارکوس، نویسنده Rebooting.AI توضیح داد که مدل‌های یادگیری زبان (LLM) تبدیل به AGI نمی‌شوند، که تا به امروز وجود داشته است. چند پیشرفت از.
به طور کلی، جامعه انسانی با GPT-5 بهتر از GPT-4 خواهد بود – بهتر است مدل های کمی هوشمندتر در اطراف داشته باشیم. هوش مصنوعی مشاغل انسانی را در نهایت چیز خوبی خواهد بود. توهمات و ابتذال کاهش می یابد و مردم یاد می گیرند که در اطراف آنها کار کنند.
– بن گورتزل (@bengoertzel) 29 مارس 2023
در عوض، او گفت که تحقیق و توسعه برای چیزهایی مانند سلاح‌های زیستی و هسته‌ای باید کند شود:
علاوه بر مدل‌های یادگیری زبان مانند ChatGPT، مجهز به هوش مصنوعی تکنولوژی جعلی عمیق برای ایجاد تصاویر متقاعد کننده، حقه های صوتی و تصویری استفاده شده است. این فناوری همچنین برای ایجاد آثار هنری تولید شده توسط هوش مصنوعی مورد استفاده قرار گرفته است، با نگرانی هایی در مورد اینکه آیا می تواند قوانین کپی رایت را در موارد خاص نقض کند یا خیر.
مربوط: ChatGPT اکنون می تواند با افزونه های OpenAI جدید به اینترنت دسترسی داشته باشد
مایک نووگراتز، مدیرعامل Galaxy Digital اخیراً به سرمایه گذاران گفته است او شوکه شد بیش از حد توجه نظارتی به رمزارزها شده است، در حالی که کمی به سمت هوش مصنوعی شده است.
وقتی به هوش مصنوعی فکر می‌کنم، من را شوکه می‌کند که ما در مورد مقررات ارز دیجیتال صحبت می‌کنیم و چیزی درباره مقررات هوش مصنوعی صحبت نمی‌کنیم. منظورم این است که فکر می‌کنم دولت این موضوع را کاملا وارونه کرده است.
FOLI استدلال کرده است که اگر توسعه هوش مصنوعی به سرعت تصویب نشود، دولت‌ها باید با تعلیق درگیر شوند.
«این مکث باید عمومی و قابل تأیید باشد و همه بازیگران کلیدی را شامل شود. اگر چنین مکثی نمی تواند به سرعت اعمال شود، دولت ها باید وارد عمل شوند و یک تعلیق را وضع کنند.
مجله: چگونه با استفاده از بلاک چین از «نابودی بشریت» توسط هوش مصنوعی جلوگیری کنیم؟
