بیش از 2600 رهبر و محقق صنعت فناوری، از جمله ایلان ماسک، مدیر عامل تسلا و استیو وزنیاک، بنیانگذار اپل، نامه ای سرگشاده امضا کرده اند که خواستار توقف موقت هر گونه توسعه بیشتر هوش مصنوعی (AI) شده اند. این نامه با اشاره به خطرات سیستم های هوش مصنوعی که ممکن است قادر به یادگیری و تکامل فراتر از کنترل انسان باشند، در مورد خطرات بالقوه ای که هوش مصنوعی با هوش رقابتی انسان برای جامعه و بشر ایجاد می کند، ابراز نگرانی می کند.
امضاکنندگان نامه از همه شرکت‌های هوش مصنوعی می‌خواهند که فوراً توسعه سیستم‌های هوش مصنوعی را که از ترانسفورماتور پیش‌آموزش‌دهی ژنراتیو 4 (GPT-4) قوی‌تر هستند، حداقل به مدت شش ماه متوقف کنند. GPT-4 یک مدل زبان بزرگ چندوجهی است که توسط OpenAI و چهارمین مدل از سری GPT آن ایجاد شده است. هدف از تعلیق پیشنهادی این است که برای انجام ارزیابی‌های جامع ریسک و توسعه پروتکل‌های ایمنی جدید زمان بگذارد.
با این حال، این طومار جامعه فناوری را دچار اختلاف کرده است و برخی مخالف درخواست توقف توسعه هوش مصنوعی هستند. برایان آرمسترانگ، مدیر عامل Coinbase، در میان دیگر نام‌های برجسته، مخالفت خود را با این طومار اعلام کرد و اظهار داشت که “کمیته‌ها و بوروکراسی چیزی را حل نمی‌کنند.” آرمسترانگ افزود که هیچ «متخصص» تعیین شده ای برای تصمیم گیری در مورد این موضوع وجود ندارد و همه در صنعت فناوری با این درخواست موافق نیستند.
آرمسترانگ استدلال کرد که خطرات فناوری‌های جدید، از جمله هوش مصنوعی، بخش ذاتی پیشرفت است و تمرکز در تصمیم‌گیری هیچ سودی به همراه نخواهد داشت. وی یادآور شد که هر فناوری جدید مقدار مشخصی خطر را به همراه دارد، اما هدف باید ادامه حرکت رو به جلو باشد.
برایان مرچنت، یک ستون نویس در لس آنجلس تایمز، این طومار را “کارناوال تبلیغاتی هوش مصنوعی آخرالزمانی” نامید و اظهار داشت که بسیاری از نگرانی های اعلام شده، موضوعات “آخرالزمان مشاغل رباتی” هستند. در همین حال، Satvik Sethi، یکی از مدیران سابق Web3 در Mastercard، این طومار را یک “معاهده منع گسترش سلاح های هسته ای اما برای هوش مصنوعی” توصیف کرد. او افزود که بسیاری از امضاکنندگان محبوب در این لیست علاقه عمیق شخصی به حوزه هوش مصنوعی دارند و به احتمال زیاد فقط “در تلاش هستند تا سرعت همتایان خود را کاهش دهند تا بتوانند پیشروی کنند.”
بحث پیرامون نامه سرگشاده چالش های پیچیده و چندوجهی توسعه هوش مصنوعی را برجسته می کند. در حالی که برخی از کارشناسان مزایای بالقوه هوش مصنوعی را قابل توجه می دانند، نگرانی هایی نیز در مورد خطرات بالقوه برای جامعه و بشر وجود دارد. این مناظره بر لزوم ادامه بحث و همکاری میان همه ذینفعان تاکید می کند تا اطمینان حاصل شود که توسعه هوش مصنوعی ایمن، اخلاقی و همسو با منافع بلندمدت بشریت است.
