كيفية تشغيل نماذج اللغات الكبيرة مفتوحة المصدر محليًا باستخدام Ollama

[Admin]

سترشدك هذه المقالة خلال تنزيل واستخدام Ollama، وهي أداة قوية للتفاعل مع نماذج اللغات الكبيرة مفتوحة المصدر (LLMs) على جهازك المحلي. على عكس النماذج مغلقة المصدر مثل ChatGPT، توفر Ollama الشفافية والتخصيص، مما يجعلها موردًا قيمًا للمطورين والمتحمسين. سوف نستكشف كيفية تنزيل Ollama والتفاعل مع اثنين من نماذج LLM المثيرة مفتوحة المصدر: LLaMA 2، وهو نموذج قائم على النص من Meta، وLLaVA، وهو نموذج متعدد الوسائط يمكنه التعامل مع كل من النصوص والصور.

كيفية تحميل اولاما​

لتنزيل Ollama، انتقل إلى الموقع الرسمي لـ Ollama واضغط على زر التنزيل.

​

يدعم Ollama 3 أنظمة تشغيل مختلفة، وإصدار Windows في وضع المعاينة.

​

يمكنك اختيار الملف القابل للتنفيذ وفقًا لنظام التشغيل لديك وبعد تنزيل الملف القابل للتنفيذ بنجاح، يمكنك تثبيته عن طريق تشغيل الملف القابل للتنفيذ. بالنسبة لمستخدمي Linux، يتعين عليك تنفيذ الأمر الذي يظهر على الشاشة بدلاً من تنزيل ملف قابل للتنفيذ.

كيفية تشغيل أولاما​

لإظهار قوة استخدام LLM مفتوحة المصدر محليًا، سأقدم أمثلة متعددة مع نماذج مختلفة مفتوحة المصدر مع حالات استخدام مختلفة. سيساعدك هذا على استخدام أي نماذج LLM مستقبلية مفتوحة المصدر بسهولة.

لذا، لنبدأ بالمثال الأول!

كيفية تشغيل نموذج LLama2 من Meta​

نموذج Llama 2 هو نموذج LLM مفتوح المصدر من Meta وسنتفاعل معه كما نفعل مع ChatGPT (الإصدار المجاني)، وهو تفاعل قائم على النص فقط.
لنقم أولاً بتنزيل النموذج باستخدام الأمر التالي:
ollama run llama2
من المفترض أن تشاهد مخرجات مشابهة لهذا بعد تنزيل النموذج.

pulling manifest
pulling 8934d96d3f08... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏ 3.8 GB
pulling 8c17c2ebb0ea... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏ 7.0 KB
pulling 7c23fb36d801... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏ 4.8 KB
pulling 2e0493f67d0c... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏   59 B
pulling fa304d675061... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏   91 B
pulling 42ba7f8a01dd... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏  557 B
verifying sha256 digest
writing manifest
removing any unused layers
success
>>> Send a message (/? for help)

الآن، يجب أن يطلب منك إرسال رسالة أو مطالبة. دعونا نسأل اللاما 2 "ماذا يمكنك أن تفعل من أجلي؟" (يمكنك أن تسأل ما تريد).

إذا سألت نفس السؤال المذكور أعلاه، فيجب أن تحصل على إجابة مثل هذا:

>>> What can you do for me?

As a responsible AI language model, I am here to assist you with any questions or tasks you may have. Here are some examples of things I can help
with:

1. Answering questions: I can provide information on a wide range of topics, from science and technology to history and culture.
2. Generating ideas: I can help you brainstorm ideas for creative projects, or provide suggestions for solving problems.
3. Writing assistance: I can help you with writing tasks such as proofreading, editing, and suggesting alternative words or phrases.
4. Translation: I can translate text from one language to another.
5. Summarizing content: I can summarize long pieces of text, such as articles or documents, into shorter, more digestible versions.
6. Creativity: I can help you generate creative ideas for stories, poems, or other forms of writing.
7. Language learning: I can assist you in learning a new language by providing grammar explanations, vocabulary lists, and practice exercises.
8. Chatting: I'm here to chat with you and provide a response to any question or topic you'd like to discuss.

Please let me know if there is anything specific you would like me to help you with.

>>> Send a message (/? for help)

هذا هو الرد الذي تلقيته من llama2. للخروج من البرنامج يمكنك كتابة /exit.
لنقم الآن بتشغيل نموذج متعدد الوسائط حيث يمكنك إرسال صورة وطرح الأسئلة بناءً على ذلك.

كيفية تشغيل نموذج LLaVA​

LLaVA هو نموذج LLM متعدد الوسائط مفتوح المصدر. يمكن للنموذج متعدد الوسائط أن يأخذ مدخلات من أنواع متعددة ويولد استجابة وفقًا لذلك. باستخدام هذا النموذج، سنقوم الآن بتمرير صورة وطرح سؤال بناءً عليها.

لذا، أول شيء أولًا، هيا بنا ننزل النموذج:
ollama run llava

بعد تنزيل النموذج بنجاح، من المفترض أن ترى شيئًا كهذا في الوحدة الطرفية:

pulling manifest
pulling 170370233dd5... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏ 4.1 GB
pulling 72d6f08a42f6... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏ 624 MB
pulling 43070e2d4e53... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏  11 KB
pulling c43332387573... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏   67 B
pulling ed11eda7790d... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏   30 B
pulling 7c658f9561e5... 100% ▕██████████████████████████████████████████████████████████████████████████████████████████▏  564 B
verifying sha256 digest
writing manifest
removing any unused layers
success
>>> Send a message (/? for help)

سأستخدم هذه الصورة من موقع pexels.com.

هذا هو الناتج الذي حصلت عليه من LLaVA:

>>> What's in this image? ./Downloads/test-image-for-llava.jpeg
Added image './Downloads/test-image-for-llava.jpeg'
 The image shows a person walking across a crosswalk at an intersection. There are traffic lights visible, and the street has a bus parked on one
side. The road is marked with lane markings and a pedestrian crossing signal. The area appears to be urban and there are no visible buildings or
structures in the immediate vicinity of the person.

>>> Send a message (/? for help)

يمكنك أن ترى أن هذا تفسير دقيق للصورة. لا تتردد في تجربة شيء آخر والاستمتاع به.

خاتمة​

هذا كل شيء! مع Ollama، يمكنك تجربة دورات LLM القوية مثل LLaMA 2 وLLaVA على جهازك الخاص.

قم بتنزيل Ollama واستكشف العالم المثير لنماذج اللغات الكبيرة مفتوحة المصدر!