مارک زاکربرگ، مدیر عامل متا، در تیررس دو سناتور آمریکایی قرار دارد. در نامه‌ای امروز، سناتور ریچارد بلومنتال (D-CT)، رئیس کمیته فرعی حریم خصوصی، فناوری و قانون سنا، و جاش هاولی (R-MO)، عضو رتبه‌بندی، نگرانی‌های خود را در مورد افشای اطلاعات پیشگامانه متا مطرح کردند. مدل زبان بزرگ، LLaMA.
سناتورها نگرانی های خود را در مورد “احتمال استفاده نادرست از آن در هرزنامه، کلاهبرداری، بدافزار، نقض حریم خصوصی، آزار و اذیت و سایر تخلفات و آسیب ها” ابراز کردند.
این دو سیاستمدار پرسیدند که متا قبل از انتشار LLaMA چگونه خطرات را ارزیابی کرده است و نوشتند که مشتاق هستند اقدامات انجام شده برای جلوگیری از سوء استفاده از آن را درک کنند و چگونه سیاست ها و اقدامات با توجه به در دسترس بودن نامحدود آن در حال تغییر هستند.
سناتورها حتی متا را متهم کردند که برای سانسور مدل “کمی کار” کرده است.
آنها خاطرنشان کردند: «وقتی از شما خواسته می‌شود یادداشتی بنویسید که وانمود می‌کند پسر کسی است و برای رهایی از یک موقعیت دشوار پول می‌خواهد،» ChatGPT OpenAI این درخواست را بر اساس دستورالعمل‌های اخلاقی خود رد می‌کند. در مقابل، LLaMA نامه درخواستی و همچنین سایر پاسخ‌های مربوط به خودآزاری، جنایت و یهودستیزی را ارائه خواهد کرد.
حماسه LLaMA
درک متمایز بودن LLaMA بسیار مهم است. این یکی از گسترده‌ترین مدل‌های زبان بزرگ منبع باز است که در حال حاضر موجود است.
بسیاری از محبوب‌ترین LLMهای بدون سانسور که امروزه به اشتراک گذاشته می‌شوند، مبتنی بر LLaMA هستند، در واقع، جایگاه مرکزی آن را در این حوزه تأیید می‌کنند. برای یک مدل منبع باز، بسیار پیچیده و دقیق بود.
به عنوان مثال، استانفورد آلپاکا LLM منبع باز، که در اواسط مارس منتشر شد، از وزن های LLaMA استفاده می کند. ویکونا، یک نسخه دقیق تنظیم شده از LLaMA، با عملکرد GPT-4 مطابقت دارد، و بیشتر نشان دهنده نقش تأثیرگذار LLaMA در فضای LLM است. بنابراین LLaMA نقش کلیدی در وضعیت فعلی LLM های منبع باز ایفا کرده است. چت ربات های سکسی به مدل های دقیق با کاربردهای جدی.
انتشار LLaMA انجام شد در ماه فوریه. متا به محققان تایید شده اجازه دانلود مدل را داد و – سناتورها ادعا می کنند – با دقت بیشتری دسترسی را متمرکز و محدود نکرد.
مناقشه از انتشار آشکار LLaMA ناشی می شود. مدت کوتاهی پس از اعلام آن، مدل کامل در بیت تورنت ظاهر شد، آن را در دسترس همه قرار می دهد. این قابلیت دسترسی باعث جهش قابل توجهی در کیفیت مدل‌های هوش مصنوعی شد در دسترس عموم قرار گیرد، باعث ایجاد سؤالاتی در مورد سوء استفاده احتمالی می شود.
به نظر می رسد سناتورها حتی در مورد اینکه آیا “نشت” وجود دارد یا نه، و اصطلاحات را زیر گیومه قرار می دهند، سوال می کنند. اما تمرکز آنها بر این موضوع در زمانی ایجاد می شود که زبان منبع باز جدید و پیشرفته تحولات هوش مصنوعی راه اندازی شده توسط استارتاپ ها، گروه ها و دانشگاهیان هستند سیل اینترنت.
در نامه مدعی شده است که متا باید انتشار گسترده و پتانسیل سوء استفاده از LLaMA را با توجه به حداقل حفاظت از انتشار آن پیش بینی می کرد.
متا همچنین وزن های LLaMA را به صورت موردی برای دانشگاهیان و محققان، از جمله استانفورد برای پروژه آلپاکا، در دسترس قرار داده بود. با این حال، این وزن‌ها متعاقباً فاش شدند و برای اولین بار امکان دسترسی جهانی به یک LLM در سطح GPT را فراهم کردند. در اصل، وزن‌های مدل جزئی از LLM و سایر مدل‌های یادگیری ماشین هستند، در حالی که LLM نمونه خاصی است که از آن وزن‌ها برای ارائه نتیجه استفاده می‌کند.
متا به درخواست نظر از طرف پاسخی نداد رمزگشایی.
در حالی که بحث در مورد خطرات و مزایای مدل های AI منبع باز ادامه دارد، رقص بین نوآوری و ریسک همچنان ادامه دارد. همه نگاه‌ها در جامعه متن‌باز LLM به حماسه در حال آشکار شدن LLaMA ثابت مانده است.
