Llama 2 چیست و چگونه می توان از آن استفاده کرد؟

Llama 2، یک مدل زبان منبع باز، از دیگر مدل های اصلی منبع باز مانند Falcon یا MBT بهتر عمل می کند و آن را به یکی از قدرتمندترین ها در بازار امروز تبدیل می کند.

. در مقایسه با ChatGPT و Bard، Llama 2 در مهارت های کدنویسی، عملکرد خوبی در وظایف عملکردی دارد، اما با کارهای پیچیده تر مانند ایجاد یک بازی تتریس دست و پنجه نرم می کند.

. در حالی که Llama 2 از نظر خلاقیت، مهارت های ریاضی و استدلال عامیانه از ChatGPT عقب تر است، پتانسیل قابل توجهی را نشان می دهد و مشکلاتی را که ChatGPT و Bard در تکرارهای قبلی خود نمی توانستند حل کنند، حل کرده است.

از GPT-4 OpenAI گرفته تا PalM 2 Google، مدل‌های زبان بزرگ بر سرفصل‌های فناوری تسلط دارند. هر مدل جدید قول می دهد که بهتر و قدرتمندتر از مدل قبلی باشد و گاهی اوقات از هر رقیب موجود پیشی می گیرد.

با این حال، تعداد مدل‌های موجود، ظهور مدل‌های جدید را کند نکرده است. شرکت مادر فیس بوک، متا، Flame 2، یک مدل زبان جدید قدرتمند را منتشر کرده است. اما چه چیزی در مورد Flame 2 منحصر به فرد است؟ چه تفاوتی با GPT-4، PalM 2 و Claude 2 دارد؟

Flame 2 چیست؟

Llama 2، یک مدل زبانی بزرگ، محصول اتحاد غیرمعمول متا و مایکروسافت، دو غول فناوری رقیب در خط مقدم تحقیقات هوش مصنوعی است. این جانشین مدل زبان متا Llama 1 است که در سه ماهه اول منتشر شد

می توان گفت که این معادل متا از PalM 2 Google، OpenAI’s GPT-4 و Anthropic’s Claude است که برای آموزش Flame 1 استفاده می شود. Flame 2 با 40٪ داده بیشتر از نسخه قبلی خود آموزش داده شده است و طول زمینه آن دو برابر (4k) است.

اگر در گذشته این شانس را داشته اید که با Llama 1 تعامل داشته باشید اما از خروجی آن خیلی تحت تأثیر قرار نگرفته اید، Llama 2 نسبت به نسل قبلی خود بهتر عمل می کند و ممکن است همان چیزی باشد که شما نیاز دارید. اما در برابر رقابت بیرونی چگونه عمل می کند؟

چگونه Flame 2 در مقابل رقابت جمع می شود؟

خوب، این بستگی به رقابتی دارد که در مقابل آن قرار دارد. اولا، Llama 2 یک پروژه منبع باز است. این بدان معنی است که متا کل مدل را منتشر می کند، بنابراین هر کسی می تواند از آن برای ساخت مدل ها یا برنامه های جدید استفاده کند. اگر Llama 2 را با سایر مدل‌های اصلی زبان منبع باز مانند Falcon یا MBT مقایسه کنید، متوجه خواهید شد که در چندین معیار از آنها بهتر است. به جرات می توان گفت که Llama 2 یکی از قدرتمندترین مدل های زبان بزرگ منبع باز موجود در بازار امروز است. اما چگونه می‌تواند در مقابل عواملی مانند GPT OpenAI و مدل‌های AI پالم گوگل قرار بگیرد؟

ما ChatGPT، Bard و Llama 2 را بر اساس عملکرد آنها در آزمون‌های خلاقیت، استدلال ریاضی، قضاوت عملی و مهارت‌های کدنویسی ارزیابی کردیم.

1. خلاقیت

برای آزمایش خلاقیت و حس شوخ طبعی آن، تست خلاقیت و طعنه خود را به آن دادیم. ما از مدل هوش مصنوعی Llama 2 خواستیم مکالمه بین دو نفر را شبیه سازی کند که در مورد مزیت های رفتن به فضا با هم بحث می کنند، و در اینجا نتایج آمده است.

به دنبال:

و در نهایت:

با قضاوت از نتایج مقایسه ChatGPT، Bing AI و Google، که در آن از همان آزمایش نیز استفاده کردیم، تنها پاسخ ChatGPT به طور قابل توجهی بهتر از پاسخ Llama 2 است. به نظر می رسد پاسخگویی Llama 2 نسبتاً بهتر از Bard گوگل باشد. پس از انجام چندین کار خلاقانه برای چت ربات ها، واضح است که ChatGPT همچنان از نظر خلاقیت برترین سگ است، اما لاما خیلی از بقیه گروه عقب نیست.

2. مهارت های کدنویسی

وقتی توانایی‌های برنامه‌نویسی Llama 2 را با ChatGPT و Bard مقایسه کردیم، Llama 2 بسیار امیدوارکننده بود. ما از هر سه چت ربات هوش مصنوعی خواستیم تا یک برنامه لیست وظایف کاربردی ایجاد کنند، یک بازی ساده تتریس بنویسند و یک سیستم احراز هویت امن برای یک وب سایت ایجاد کنند. در حالی که ChatGPT در هر سه کار تقریباً عالی عمل کرد، Bard و Llama 2 به طور مشابه عمل کردند و هر دو فقط قادر به ارائه کد عملکردی برای لیست کارهای و سیستم احراز هویت بودند، اما در بازی تتریس ناموفق بودند. در زیر یک اسکرین شات از برنامه کارهای انجام شده Flame 2 را مشاهده می کنید.

3. مهارت های ریاضی

در مهارت‌های ریاضی، Llama 2 نیز در مقایسه با Bard امیدوارکننده بود، اما در مسائل جبر و ریاضی منطقی که برای آزمون خود استفاده کردیم، بسیار بهتر از ChatGPT بود. جالب اینجاست که Llama 2 بسیاری از مسائل ریاضی را حل کرد که هم ChatGPT و هم Bard در تکرارهای قبلی خود نتوانستند حل کنند. به جرات می توان گفت که Llama 2 در مهارت های ریاضی از ChatGPT پایین تر است اما نوید قابل توجهی را نشان می دهد.

4. عقل سلیم و منطقی

Commonsense حوزه‌ای است که بسیاری از چت‌بات‌ها هنوز با آن دست و پنجه نرم می‌کنند، حتی چت‌بات‌های معتبری مانند ChatGPT. ما ChatGPT، Bard، و Llama 2 را موظف کردیم که مجموعه ای از مشکلات عقلانی و منطقی را حل کنند. یک بار دیگر، ChatGPT به طور قابل توجهی از Bard و Llama 2 پیشی گرفت. رقابت بین Bard و Llama 2 بود و Bard در آزمون ما برتری حاشیه ای نسبت به Llama 2 داشت.

واضح است که Flame 2 هنوز وجود ندارد. با این حال، در دفاع، Llama 2 نسبتا جدید است، عمدتا یک “مدل پایه” و نه یک “لحن دقیق”. مدل‌های بنیادی، مدل‌های زبان بزرگی هستند که با در نظر گرفتن انطباق‌های احتمالی آینده ساخته شده‌اند. آنها برای هیچ حوزه خاصی تنظیم نشده اند، اما برای مقابله با طیف وسیعی از وظایف ساخته شده اند، اگرچه گاهی اوقات با توانایی های محدود.

از سوی دیگر، یک مدل دقیق تنظیم شده یک مدل پایه است که برای افزایش کارایی آن در یک حوزه خاص تنظیم شده است. مانند این است که یک مدل پایه مانند GPT را انتخاب کنید و آن را در ChatGPT تنظیم کنید تا عموم مردم بتوانند از آن در برنامه های چت استفاده کنند.

نحوه استفاده از Flame 2 در حال حاضر

ساده‌ترین راه برای استفاده از Llama 2 از طریق پلتفرم Quora’s Poe AI یا نمونه‌ای با میزبانی ابری Hugging Face است. همچنین می‌توانید با دانلود یک نسخه از مدل و اجرای آن به صورت محلی، مدل را به دست آورید.

دسترسی به Flame در Quora Poe

برای دسترسی به Llama در پلتفرم Quora’s Poe AI:

1.به poe.com مراجعه کرده و به صورت رایگان ثبت نام کنید.

2.برای مشاهده رابط انتخاب مدل هوش مصنوعی وارد شوید.

3. روی آیکون More درست در بالای فیلد ورودی کلیک کنید تا مدل‌های هوش مصنوعی موجود را نشان دهید.

هر یک از مدل های Llama 2 موجود را انتخاب کنید و شروع به درخواست کنید.

دسترسی به شعله روی صورت در آغوش گرفته

برای دسترسی به Llama on Hugging Face، روی پیوند زیر کلیک کنید و شروع به درخواست چت ربات هوش مصنوعی کنید.

B7 پارامترهای چت Flame-2

B13 پارامترهای چت Flame-2

70B پارامتر Call-2 chat

مدل‌های Llama در بالا و مدل‌های روی پلتفرم Poe برای برنامه‌های مکالمه به‌خوبی تنظیم شده‌اند، بنابراین نزدیک ‌ترین چیزی است که شما به مدل Llama-2 خواهید داشت. مطمئن نیستید کدام نسخه را امتحان کنید؟ ما گزینه سه، 70B Parameters Flame-2 Chat را پیشنهاد می کنیم. شما هنوز هم می توانید با هر سه مدل بازی کنید تا ببینید کدام یک برای نیازهای منحصر به فرد شما بهتر عمل می کند.

اگرچه توصیه می کنیم با بزرگترین مدل موجود شروع کنید تا از قدرت محاسباتی راه دور در هنگام استفاده از HuggingFace یا Poe استفاده کنید، برای کسانی که قصد اجرای Llama 2 را به صورت محلی دارند، توصیه می کنیم با مدل پارامتر 7B شروع کنند، زیرا کمترین نیازهای سخت افزاری را دارد.

الزامات سخت افزاری برای اجرای Call 2 به صورت محلی

برای عملکرد بهینه با مدل 7B، ما یک کارت گرافیک با حداقل 10 گیگابایت VRAM را توصیه می کنیم، اگرچه افراد گزارش کرده اند که با 8 گیگابایت رم کار می کند. هنگام اجرای محلی، انتخاب منطقی بعدی مدل پارامتر 13B خواهد بود. برای این کار، می‌توانید به سراغ پردازنده‌های گرافیکی پرمصرف مانند RTX 3090 یا RTX 4090 بروید تا از توانایی‌های آنها لذت ببرید. با این حال، هنوز هم می‌توانید دستگاه ویندوزی میان‌رده یا مک‌ بوک خود را برای اجرای آن راه‌اندازی کنید.

اگر می خواهید دریچه گاز کامل حرکت کنید، می توانید به سراغ بزرگترین مدل بروید. با این حال، این به سخت افزار درجه یک سازمانی برای عملکرد سعادتمندانه نیاز دارد. در سطح سازمانی، ما در مورد سخت افزار NVIDIA A100 با 80 گیگابایت حافظه صحبت می کنیم. مدل پارامتر B70 به سخت افزار فوق العاده قدرتمند و تخصصی برای اجرای پاسخگو نیاز دارد. یک بار دیگر، روشن کردن این موضوع که همچنان می‌توانید این مدل را روی دستگاهی با قدرت کمتر اجرا کنید، مهم است. با این حال، زمان پاسخ ممکن است بسیار آهسته باشد و در هر اعلان چند دقیقه طول بکشد. قبل از انتخاب مدل مناسب برای نیاز خود، نیازهای GPU و حافظه را به دقت در نظر بگیرید. یا از نمونه HuggingFace استفاده کنید.

اگر سخت افزار و عمق فنی لازم برای اجرای مدل Llama 2 را به صورت محلی بر روی دستگاه خود دارید، می توانید با استفاده از فرم درخواست دسترسی Llama متا درخواست دسترسی به مدل کنید. پس از ارائه نام، ایمیل، مکان و نام سازمان شما، متا درخواست شما را بررسی می‌کند، پس از آن، در یک پنجره چند دقیقه تا دو روزه، دسترسی یا رد می‌شود یا به آن اجازه دسترسی داده می‌شود. دسترسی ما در عرض چند دقیقه اعطا شد، بنابراین امیدواریم شما هم خوش شانس باشید.

Llama 2: اولین قدم مهم

Flame 2 ممکن است پیچیده ترین مدل زبان موجود نباشد، اما به دلیل متن باز بودن، اولین گام مهم به سمت توسعه شفاف و پیشرو هوش مصنوعی را نشان می دهد.

در حالی که شرکت هایی مانند OpenAI GPT در حال حاضر عملکرد بهتری دارند، رویکرد باغ دیواری OpenAI برای توسعه به این معنی است که این شرکت رشد و سرعت توسعه مدل را کنترل می کند. با یک مدل منبع باز مانند Llama، جامعه منبع باز گسترده تر می تواند به طور مکرر برای ساخت محصولات جدیدی که ممکن است در یک سیستم باغ دیواری امکان پذیر نباشد، نوآوری کند.