2. بعد الانتهاء من التنزيل، انقر مباشرة على التثبيت، انقر على المتابعة

3. بعد التثبيت، يُظهر أن خدمة Ollama قد بدأت

4. في cmd، قم ببدء النموذج الذي تريد تحميله، على سبيل المثال: qwen3.5:2b، اكتب الأمر مباشرة في الطرفية

ollama run qwen3.5:2b

تُظهر خرج الصفحة أن النموذج قد بدأ بنجاح. في هذه النقطة، يمكنك إجراء محادثات مباشرة في العميل أو استدعاء API لاختبار النموذج.

كود اختبار API:

from openai import OpenAI

client = OpenAI(
    base_url="http://127.0.0.1:11434/v1",
    api_key="ollama",  
)

response = client.chat.completions.create(
    model="qwen3.5:2b", 
    messages=[
        {
            "role": "system",
            "content": "أنت مساعد مفيد.",
        },
        {
            "role": "user",
            "content": "من أنت؟",
        },
    ],
    temperature=0,
    max_tokens=512,
)

print(response.choices[0].message.content)

النتيجة:

تثبيت Ollama على ModelScope Notebook

1. قم بتثبيت Ollama في Notebook، أولاً قم بتنزيل حزمة التثبيت، نفذ الأمر التالي

!modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux  

2. بعد تنزيل حزمة التثبيت، ادخل مجلد ollama-linux ونفذ الأمر التالي للتثبيت

%cd ollama-linux

sudo chmod 777 ./ollama-modelscope-install.sh
./ollama-modelscope-install.sh

بعد التثبيت، سيُظهر معلومات نقطة نهاية API، الافتراضي 127.0.0.1:11434. إذا تمت إظهار المعلومات التالية، فإن التثبيت اكتمل.

تثبيت Ollama على Linux

خطوات التثبيت على Linux مidentical to تثبيت Ollama في ModelScope Notebook أعلاه.

تثبيت Ollama على Mac

1. أولاً، على الموقع الرسمي لـ Ollama، قم بتنزيل Ollama وقم بتنزيل إصدار macOS المناسب

2. بعد التنزيل، انقر نقرًا مزدوجًا على الملف الذي تم تنزيله واسحب Ollama إلى التطبيقات

3. بعد التثبيت، يُظهر أن خدمة Ollama قد بدأت

4. في cmd، قم ببدء النموذج الذي تريد تحميله، على سبيل المثال: qwen3.5:2b، اكتب الأمر مباشرة في الطرفية

ollama run qwen3.5:2b

تُظهر خرج الصفحة أن النموذج قد بدأ بنجاح. في هذه النقطة، يمكنك إجراء محادثات مباشرة في العميل أو استدعاء API لاختبار النموذج.

يمكنك أيضاً الدردشة في العميل.

يمكنك أيضاً تنزيل النماذج من ModelScope وبدء تشغيلها مع Ollama

يوفر Ollama مستودعات نماذج كثيرة. يمكننا إيجاد النماذج التي نحتاجها في ModelScope وبدء تشغيلها مع Ollama.

1. بدء تشغيل خدمة Ollama

للخدمات المستمرة، يمكن للنواة الواحدة في Jupyter تنفيذ خلية واحدة فقط في كل مرة، مما يصعب تنفيذ الخلايا اللاحقة. لذا يجب تنفيذ هذا الجزء في الطرفية. بعد فتح Notebook، اذهب مباشرة إلى مساحة العمل، حيث سترى "Terminal" في الأسفل. انقر عليه.

اكتب في الطرفية:

ollama serve

2. بعد ذلك، قم بتشغيل النموذج الذي نريد بدءه، على سبيل المثال: Qwen3-4B-GGUF. في المرة الأولى التي يعمل فيها النموذج، يحتاج إلى تنزيل الملفات المقابلة من مستودع النماذج. يجب أيضاً تنفيذ هذا الأمر في الطرفية. يمكنك فتح طرفية جديدة وتنفيذ الأمر التالي:

 ollama run modelscope.cn/unsloth/Qwen3-4B-GGUF

في هذه النقطة، بدأ النموذج. يمكنك استدعاء API لاختبار ما إذا كان نقطة نهاية النموذج متصلة. الكود كما يلي:

import requests
url = "http://127.0.0.1:11434/v1/chat/completions"
data = {
    "model": "modelscope.cn/unsloth/Qwen3-4B-GGUF",
    "messages": [
        {
            "role": "user",
            "content": "مرحباً، يرجى تقديم نفسك"
        }
    ],
    "max_tokens": 100
}

response = requests.post(url, json=data)

print("كود الحالة:", response.status_code)
print(response.text)

إذا كانت مكالمة النموذج ناجحة، ستُظهر نتيجة النموذج المقابلة.

يمكنك الاطلاع على العملية التجريبية الكاملة لهذا الفصل على: https://modelscope.cn/gallery/liucong/b1ef397b-fe80-4fb9-812f-969fa25ea44c