ما هو Ollama؟
Ollama هي أداة قوية ومبسطة مصممة لتسهيل عملية تشغيل نماذج اللغة الكبيرة (LLMs) على جهازك المحلي. توفر واجهة سطر أوامر بسيطة لتنزيل وإدارة والتفاعل مع النماذج مفتوحة المصدر مثل Llama 2 و Code Llama و Mistral. من خلال تشغيل النماذج محليًا، تضمن Ollama الخصوصية وتسمح بالاستخدام في بيئات معزولة أو غير متصلة بالإنترنت، مما يجعلها حلاً مثاليًا للمطورين والباحثين الذين يحتاجون إلى تحكم كامل في أدوات الذكاء الاصطناعي الخاصة بهم.
الميزات الرئيسية
- تنفيذ النماذج محليًا: قم بتشغيل نماذج لغة كبيرة قوية مباشرة على أجهزتك (macOS، Linux، Windows)، مع الحفاظ على خصوصية وأمان بياناتك.
- مكتبة نماذج واسعة: يمكنك الوصول بسهولة إلى مجموعة واسعة من النماذج مفتوحة المصدر وتشغيلها من مكتبة نماذج Ollama بأمر واحد.
- واجهة سطر أوامر بسيطة: واجهة سطر أوامر سهلة الاستخدام تجعل من السهل تشغيل وإدارة النماذج دون إعداد معقد.
- واجهة برمجة تطبيقات REST: توفر Ollama واجهة برمجة تطبيقات REST مدمجة لخدمة النماذج المحلية، مما يتيح لك دمجها في تطبيقاتك وخدماتك الخاصة.
- إنشاء نماذج مخصصة: قم بتعريف وإنشاء نماذجك المخصصة باستخدام
Modelfile، على غرارDockerfile، لتجميع أوزان النماذج وتكويناتها. - تسريع GPU: تستخدم تلقائيًا موارد وحدة معالجة الرسومات على الأجهزة المدعومة لأداء استدلال أسرع بكثير.
حالات الاستخدام
- مساعد ذكاء اصطناعي خاص: استخدم Ollama كمساعد ذكاء اصطناعي شخصي وغير متصل بالإنترنت للبرمجة والكتابة وحل المشكلات دون إرسال البيانات إلى السحابة.
- تطوير التطبيقات المحلية: قم ببناء واختبار التطبيقات التي تعمل بنماذج اللغة الكبيرة دون الاعتماد على واجهات برمجة تطبيقات مدفوعة من جهات خارجية.
- البيئات غير المتصلة بالإنترنت: انشر قدرات الذكاء الاصطناعي في بيئات لا يوجد بها اتصال بالإنترنت، مثل شبكات الشركات الآمنة أو المواقع البعيدة.
- البحث والتجريب: قم بتجربة نماذج مفتوحة المصدر مختلفة وتكوينات مخصصة بسرعة دون تكبد تكاليف واجهة برمجة التطبيقات.
البدء
البدء مع Ollama بسيط للغاية.
-
التنزيل والتثبيت: قم بزيارة موقع Ollama وقم بتنزيل التطبيق لنظام التشغيل الخاص بك (macOS أو Linux أو Windows).
-
تشغيل نموذج: افتح الطرفية الخاصة بك وقم بتشغيل نموذج بأمر واحد. على سبيل المثال، لتشغيل نموذج Llama 2:
ollama run llama2سيقوم Ollama تلقائيًا بتنزيل النموذج إذا لم يكن موجودًا بالفعل وسيوفر لك موجه محادثة.
-
بدء محادثة: يمكنك الآن الدردشة مع النموذج مباشرة في الطرفية الخاصة بك.
>>> لماذا السماء زرقاء؟ تبدو السماء زرقاء للعين البشرية بسبب ظاهرة تسمى تشتت رايلي...
التسعير
Ollama مجاني ومفتوح المصدر بالكامل، ومتاح بموجب ترخيص MIT. يمكنك استخدامه دون أي تكلفة، والحد الوحيد هو قدرة أجهزتك الخاصة.