مشاور کارگروه هوش مصنوعی نخست وزیر بریتانیا گفت که انسان ها تقریباً دو سال فرصت دارند تا هوش مصنوعی (AI) را قبل از اینکه بیش از حد قدرتمند شود کنترل و تنظیم کنند.
در یک مصاحبه با یک رسانه محلی بریتانیا، مت کلیفورد، که همچنین به عنوان رئیس آژانس تحقیقات و اختراعات پیشرفته دولتی (ARIA) خدمت می‌کند، تاکید کرد که سیستم‌های کنونی «با سرعت فزاینده‌ای توانمندتر می‌شوند».
وی ادامه داد که اگر مسئولان از هم اکنون به فکر ایمنی و مقررات نباشند، طی دو سال آینده سیستم ها “بسیار قدرتمند” خواهند شد.
ما دو سال فرصت داریم تا چارچوبی را ایجاد کنیم که کنترل و تنظیم این مدل‌های بسیار بزرگ را بسیار بیشتر از امروز ممکن کند.»
کلیفورد هشدار داد که در مورد هوش مصنوعی «انواع مختلفی از خطرات» وجود دارد، هم خطرات کوتاه مدت و هم بلندمدت، که او آن را «بسیار ترسناک» خواند.
مصاحبه به دنبال الف انجام شد حرف هفته گذشته توسط مرکز ایمنی هوش مصنوعی منتشر شد که توسط 350 کارشناس هوش مصنوعی از جمله مدیر عامل OpenAI امضا شد و گفت که هوش مصنوعی باید به عنوان یک تهدید وجودی مشابه با تهدیدهای ناشی از سلاح های هسته ای و بیماری های همه گیر در نظر گرفته شود.
“آنها در مورد آنچه اتفاق می افتد صحبت می کنند زمانی که ما به طور موثر یک گونه جدید ایجاد می کنیم، نوعی هوش بالاتر از انسان.”
مشاور کارگروه هوش مصنوعی گفت که این تهدیدات ناشی از هوش مصنوعی می‌تواند تهدیدهایی «بسیار خطرناک» باشد که می‌تواند «بسیاری از انسان‌ها را بکشد، نه همه انسان‌ها، فقط از جایی که ما انتظار داریم مدل‌ها در مدت دو سال آینده باشند».
مربوط: بازده رمزنگاری مرتبط با هوش مصنوعی پس از راه اندازی ChatGPT تا 41 درصد افزایش یافت: مطالعه
به گفته کلیفورد، تمرکز اصلی تنظیم کننده ها و توسعه دهندگان باید بر درک نحوه کنترل مدل ها و سپس اجرای مقررات در مقیاس جهانی باشد.
در حال حاضر، او گفت که بزرگترین ترس او عدم درک این است که چرا مدل‌های هوش مصنوعی اینگونه رفتار می‌کنند.
افرادی که در حال ساختن قوی ترین سیستم ها هستند، آزادانه اعتراف می کنند که دقیقاً نمی دانند چگونه [AI systems] رفتارهایی را که انجام می دهند نشان می دهند.»
کلیفورد تاکید کرد که بسیاری از رهبران سازمان‌هایی که هوش مصنوعی می‌سازند نیز موافق هستند که مدل‌های هوش مصنوعی قدرتمند باید قبل از استقرار، تحت نوعی فرآیند ممیزی و ارزیابی قرار گیرند.
در حال حاضر، رگولاتورها در سراسر جهان در حال تلاش برای درک این فناوری و پیامدهای آن هستند، در حالی که تلاش می‌کنند مقرراتی ایجاد کنند که از کاربران محافظت کند و همچنان امکان نوآوری را فراهم کند.
در 5 ژوئن، مقامات اتحادیه اروپا تا آنجا پیش رفتند که دستوراتی را پیشنهاد کردند که همه محتوای تولید شده توسط هوش مصنوعی برای جلوگیری از انتشار اطلاعات نادرست باید به این عنوان برچسب زده شود.
در بریتانیا یک وزیر در حزب مخالف احساسات را منعکس کرد در نامه CAIS ذکر شده است و گفته شده است که فناوری باید مانند دارو و انرژی هسته ای تنظیم شود
