میرا موراتی، مدیر ارشد فناوری OpenAI، معتقد است که تنظیم‌کننده‌های دولتی باید در توسعه استانداردهای ایمنی برای استقرار مدل‌های پیشرفته هوش مصنوعی مانند ChatGPT «بسیار درگیر» باشند.
او همچنین معتقد است که توقف شش ماهه پیشنهادی در توسعه، راه درستی برای ساختن سیستم‌های ایمن‌تر نیست و این صنعت در حال حاضر به دستیابی به هوش عمومی مصنوعی (AGI) نزدیک نیست – یک آستانه فکری فرضی که در آن یک عامل مصنوعی قادر به انجام آن است. انجام هر کاری که نیاز به هوش دارد، از جمله شناخت در سطح انسانی. نظرات او ناشی از یک مصاحبه با آسوشیتدپرس که در 24 آوریل منتشر شد.
مربوط: ایلان ماسک پلتفرم هوش مصنوعی TruthGPT را راه اندازی می کند
وقتی از موراتی در مورد اقدامات احتیاطی ایمنی OpenAI قبل از راه اندازی GPT-4 پرسیده شد، موراتی توضیح داد که این شرکت برای آموزش نه تنها از تمایل دستگاه به رفتارهای ناخواسته جلوگیری می کند بلکه برای یافتن هرگونه نگرانی پایین دستی مرتبط با چنین تغییراتی نیز رویکرد کندی را در پیش گرفته است:
“شما باید بسیار مراقب باشید زیرا ممکن است عدم تعادل دیگری ایجاد کنید. باید مدام حسابرسی کنید […] پس باید دوباره آن را تنظیم کنید و هر بار که مداخله می‌کنید بسیار مراقب باشید و ببینید چه چیز دیگری مختل شده است.»
در پی پرتاب GPT-4، کارشناسان از ترس مجهول – ناشناخته پیرامون آینده هوش مصنوعی خواستار مداخلاتی از افزایش مقررات دولتی گرفته تا یک مکث شش ماهه در مورد توسعه جهانی هوش مصنوعی
پیشنهاد اخیر مورد توجه و حمایت افراد برجسته در زمینه هوش مصنوعی مانند ایلان ماسک، گری مارکوس و الیزر یودکوفسکی قرار گرفت، در حالی که بسیاری از چهره‌های برجسته از جمله بیل گیتس، یان لکون و اندرو انگ مخالفت کردند.
یک معامله ی بزرگ: @الون ماسک، ی. بنژیو، اس. راسل،@tegmark، V. Kraknova، P. Maes،@Grady_Booch،@AndrewYang،@tristanharrisو بیش از 1000 نفر دیگر، از جمله من، خواستار توقف موقت سیستم های آموزشی بیش از GPT-4 شده اند. https://t.co/PJ5YFu0xm9
– گری مارکوس (@GaryMarcus) 29 مارس 2023
موراتی به نوبه خود از ایده افزایش مشارکت دولت حمایت کرد و گفت: «این سیستم‌ها باید تنظیم شوند.» او ادامه داد: «در OpenAI، ما دائماً با دولت‌ها و تنظیم‌کننده‌ها و سایر سازمان‌هایی که این سیستم‌ها را توسعه می‌دهند صحبت می‌کنیم. حداقل در سطح شرکت، روی سطحی از استانداردها توافق کنید.»
اما، در مورد یک مکث رشدی، لحن موراتی انتقادی تر بود:
برخی از اظهارات در نامه در مورد توسعه GPT-4 یا GPT-5 کاملاً نادرست بود. ما GPT-5 را آموزش نمی دهیم. ما هیچ برنامه ای برای انجام این کار در شش ماه آینده نداریم. و ما GPT-4 را عجله نکردیم. در واقع، ما شش ماه طول کشید تا به طور کامل روی توسعه و استقرار ایمن GPT-4 تمرکز کنیم.”
موراتی در پاسخ به اینکه آیا در حال حاضر “مسیری بین محصولاتی مانند GPT-4 و AGI وجود دارد”، به آسوشیتدپرس گفت: “ما تا نقطه ای از داشتن یک سیستم AGI ایمن، قابل اعتماد و هماهنگ فاصله داریم.”
این ممکن است برای کسانی که معتقدند GPT-4 با AGI هم مرز است، خبر بدی باشد. تمرکز فعلی این شرکت بر ایمنی و این واقعیت که به گفته موراتی، هنوز GPT-5 را آموزش نمی‌دهد، نشانه‌های قوی این است که کشف اطلاعات عمومی مورد علاقه در حال حاضر دور از دسترس باقی مانده است.
تمرکز فزاینده شرکت بر مقررات در بحبوحه گرایش بیشتر به سمت نظارت دولت است. OpenAI اخیراً محصولات GPT خود را داشت در ایتالیا ممنوع شد و با یک مهلت 30 آوریل برای رعایت با مقررات محلی و اتحادیه اروپا در ایرلند – یکی از کارشناسان می گویند که رسیدن به آن سخت خواهد بود.
چنین ممنوعیت هایی می تواند تأثیر جدی بر صحنه ارزهای دیجیتال اروپا داشته باشد زیرا حرکت فزاینده ای به سمت ارزهای دیجیتال در حال افزایش است پذیرش ربات های پیشرفته تجارت رمزنگاری بر روی برنامه هایی با استفاده از GPT API ساخته شده است. اگر OpenAI و شرکت‌هایی که محصولات مشابه تولید می‌کنند، نتوانند به طور قانونی در اروپا فعالیت کنند، معامله‌گرانی که از این فناوری استفاده می‌کنند می‌توانند در جای دیگری مجبور شوند.
