Free preview: Why private AI — ISHTAR for Training and HR Development

Your project: AI that stays in the building

Many companies cannot send client contracts, drawings or personnel files to a public AI service. With open models and two free tools, Ollama and Open WebUI, IT staff can run a ChatGPT-style assistant on a server in the office. In this course you plan, install, secure and run one.

Staff browsers connect over HTTPS through Caddy to Open WebUI, which uses Ollama to run models on a GPU server inside the office

Ishtar Online Academy explainer.

مشروعك: ذكاء اصطناعي يبقى في المبنى

لا تستطيع شركات كثيرة إرسال عقود العملاء أو المخططات أو ملفات الموظفين إلى خدمة ذكاء اصطناعي عامة. ومع النماذج المفتوحة وأداتين مجانيتين، Ollama وOpen WebUI، يستطيع موظفو تقنية المعلومات تشغيل مساعد بأسلوب ChatGPT على خادم في المكتب. ستخطط في هذه الدورة لواحد وتثبّته وتؤمّنه وتشغّله.

تتصل متصفحات الموظفين عبر HTTPS من خلال Caddy بـOpen WebUI الذي يستخدم Ollama لتشغيل النماذج على خادم بمعالج رسومي داخل المكتب

فيديو توضيحي من أكاديمية عشتار الإلكترونية.

Cloud or private?

Cloud AI versus a private server: where data goes, answer quality, cost, working without internet, and who maintains it

Rafidain Engineering Consultants, an example firm in Baghdad, decided on both: a business cloud plan for general work, and a private server for anything with client drawings, contracts or staff data. You are the IT engineer building the private server.

سحابي أم خاص؟

الذكاء السحابي مقابل الخادم الخاص: أين تذهب البيانات وجودة الإجابة والتكلفة والعمل دون إنترنت ومن يصونه

قررت الرافدين للاستشارات الهندسية، وهي شركة مثال في بغداد، استخدام الاثنين: خطة سحابية للأعمال للعمل العام، وخادماً خاصاً لكل ما فيه مخططات العملاء أو العقود أو بيانات الموظفين، وأنت مهندس تقنية المعلومات الذي يبني الخادم الخاص.

What you need

A server or workstation for the office (lesson 2 sizes it), with Ubuntu Server 24.04 LTS.
Basic Linux and SSH skills: you can edit a file and run commands with sudo.
Access to the office network settings (IP range, DNS name such as ai.office.lan).
Management approval and a usage policy (template in the starter files).

When is a private AI server the better choice?

When you want the very highest answer quality at any cost
When confidential data must not leave the company network
When nobody in IT can maintain servers

Private AI trades some quality and IT effort for full control of the data.

ما تحتاجه

خادم أو محطة عمل للمكتب (يحجّمه الدرس الثاني) مع Ubuntu Server 24.04 LTS.
مهارات أساسية في Linux وSSH: تستطيع تحرير ملف وتشغيل أوامر بـsudo.
وصول إلى إعدادات شبكة المكتب (نطاق العناوين واسم DNS مثل ai.office.lan).
موافقة الإدارة وسياسة استخدام (القالب في ملفات البداية).

متى يكون خادم الذكاء الخاص الخيار الأفضل؟

حين تريد أعلى جودة إجابة بأي تكلفة
حين يجب ألا تغادر البيانات السرية شبكة الشركة
حين لا يستطيع أحد في تقنية المعلومات صيانة الخوادم

الذكاء الخاص يتنازل عن شيء من الجودة وجهد تقنية المعلومات مقابل السيطرة الكاملة على البيانات.