اثرات نامطلوب هوش مصنوعی (AI) فناوری در دست مجرمان که امکان ایجاد جعلی‌ها و بدافزارهای عمیق را فراهم می‌کند، فوریت برای اقدام را افزایش داده است.
OpenAI، خالق ChatGPT و Dall-e، دارد اعلام کرد یک برنامه کمک هزینه 1 میلیون دلاری امنیت سایبری برای افزایش و اندازه گیری تأثیر فناوری های امنیت سایبری مبتنی بر هوش مصنوعی.
این شرکت هوش مصنوعی به طور مداوم بر اهمیت مقررات هوش مصنوعی برای خنثی کردن برنامه‌های بالقوه مخرب تأکید کرده است. در یک مسابقه تسلیحاتی دیجیتال در حال انجام، به نظر می رسد OpenAI در حال انجام اقدامات پیشگیرانه برای اطمینان از عقب نماندن نیروهای مثبت است.
OpenAI طیف متنوعی از مفاهیم پروژه را ارائه کرده است، از جمله ایجاد honeypot برای به دام انداختن مهاجمان، کمک به توسعه‌دهندگان در طراحی نرم‌افزار امن و بهبود روش‌های مدیریت پچ برای اثربخشی بهینه.
همانطور که OpenAI در پست وبلاگ رسمی خود بیان کرد، اهداف این برنامه آشکار است: “هدف ما تقویت پیشرفت قابلیت های امنیت سایبری مبتنی بر هوش مصنوعی برای مدافعان از طریق کمک های مالی و کمک های اضافی است.” تمرکز بر ارزیابی کارایی مدل های هوش مصنوعی است. و تعیین روش هایی برای افزایش قابلیت های امنیت سایبری آنها.
این ابتکار پیشگامانه برای دستیابی به سه هدف کلیدی تلاش می کند. اولاً، این سازمان با استفاده از قابلیت‌های هوش مصنوعی و تلاش‌های مشترک برای تغییر تعادل به نفع افرادی که به افزایش ایمنی و امنیت کلی اختصاص دارند، به دنبال «توانمندسازی مدافعان» است.
تمرکز دیگر این ابتکار، «اندازه‌گیری قابلیت‌ها» است. OpenAI با هدف ارائه پشتیبانی از پروژه‌هایی با تمرکز بر توسعه روش‌های کمی‌سازی برای ارزیابی اثربخشی مدل‌های هوش مصنوعی در زمینه امنیت سایبری است. علاوه بر این، OpenAI قصد دارد با ایجاد بحث‌های عمیق در مورد رابطه پیچیده بین هوش مصنوعی و امنیت سایبری، گفتمان را بالا ببرد.
مربوط: OpenAI از رگولاتورهای ژاپنی در مورد جمع آوری داده ها هشدار دریافت می کند
این ابتکار دیدگاه مرسوم در مورد امنیت سایبری را مختل می کند. OpenAI اهمیت این عبارت رایج را برجسته می کند که مدافعان باید همیشه حق داشته باشند، در حالی که مهاجمان فقط یک بار باید موفق شوند. با این حال، این شرکت قدرت همکاری در راستای هدف مشترک تضمین امنیت مردم را می شناسد. مصمم است نشان دهد که با کمک هوش مصنوعی، مدافعان می توانند دینامیک را تغییر دهند و دست برتر را به دست آورند.
