Θέλεις «μικρό ChatGPT» χωρίς συνδρομή, χωρίς ίντερνετ και χωρίς να στέλνεις δεδομένα πουθενά; Γίνεται. Παρακάτω σου δείχνω 3+1 πανεύκολους τρόπους για Windows/Mac/Linux ώστε να τρέξεις τοπικά μοντέλα AI. Ναι, ακόμα κι αν δεν έχεις τέρας–PC.
Τι χρειάζεσαι (ρεαλιστικά)
- RAM: 8 GB παίζουν μικρά μοντέλα∙ 16 GB προτείνονται για άνεση.
- Δίσκο: 4–20 GB ελεύθερα (τα μοντέλα πιάνουν χώρο).
- GPU: προαιρετική αλλά βοηθά. Μπορείς να τρέξεις και μόνο με CPU.
1) Ollama - το πιο απλό «βάλε-τρέχα»
Ο κλασικός τρόπος να τρέχεις μοντέλα τοπικά. Πλέον έχει και επίσημη εφαρμογή στα Windows, όχι μόνο τερματικό.
Βήματα:
- Κατέβασε την εφαρμογή για Windows. (Download)
- Άνοιξέ την και διάλεξε/κατέβασε μοντέλο από τη λίστα (π.χ. γενικής χρήσης, «reasoning», coding).
- Γράψε όπως στο chat – όλα γίνονται εκτός cloud.
2) LM Studio - κατάλογος μοντέλων και έτοιμο chat
GUI εργαλείο με Model Catalog: Llama, Qwen, Gemma, ακόμη και το OpenAI gpt-oss τοπικά.
Βήματα:
- Κατέβασε το LM Studio για το σύστημά σου. (Download)
- Άνοιξε Model Catalog → Download, περίμενε να κατέβει.
- Πάτα Chat και μίλα στο μοντέλο - ιδανικό για αρχάριους.
3) GPT4All - ιδιωτικότητα και «LocalDocs» (chat με αρχεία σου)
Εύχρηστο desktop app (Windows/Mac/Linux) που τρέχει μοντέλα on-device και κάνει chat με τοπικά PDF/Docs.
Βήματα:
- Κατέβασε το app από την επίσημη σελίδα. (Download)
- Με Models → + Add Model διάλεξε και κατέβασε μοντέλο.
- (Προαιρετικά) LocalDocs για να ρωτάς τα δικά σου έγγραφα… offline.
(Bonus): Jan - 100% open-source, 100% offline
- Το Jan είναι ανοιχτού κώδικα desktop app: Kάνεις κλικ στο σύνδεσμο (Download), κατεβάζεις μοντέλο και μιλάς, χωρίς cloud. Διαθέτει οδηγούς για Windows/Mac/Linux.
Ποιο μοντέλο να διαλέξεις;
- Ελαφριά/γρήγορα: μικρά «7–8B» μοντέλα για βασικές απαντήσεις.
- Πιο «έξυπνα»: μεσαία «12–14B» αν έχεις 16 GB RAM.
- Για Ελληνικά: προτίμησε πολυγλωσσικά (π.χ. οικογένειες Llama/Qwen/Mistral).
Tip: Αν δεις ότι «σέρνεται», δοκίμασε μικρότερο μοντέλο ή μικρότερο context.
σ.σ: Όταν αναφερόμαστε σε «B» εννοούμε billion (δισεκατομμύρια) παράμετροι. Οι παράμετροι είναι οι αριθμοί που έχει «μάθει» το μοντέλο. Όσο περισσότερες έχει, τόσο μεγαλύτερη ικανότητα γενικά - αλλά και πιο βαρύ/αργό.
Μικρά μυστικά για να μην παιδευτείς
- Κλείνεις την υπηρεσία από τη system tray όταν δεν τη θες (γλιτώνεις RAM).
- Σβήσε παλιά μοντέλα αν ο δίσκος γεμίσει.
- Μην περιμένεις θαύματα τύπου premium cloud μοντέλων σε δύσκολες εργασίες∙ για καθημερινά, όμως, θα σε βολέψουν άριστα.
Συνοψίζοντας, βλέπουμε ότι η offline AI ωρίμασε: έχουμε επίσημη GUI του Ollama, απλοποιημένες εγκαταστάσεις και επιμελημένοι κατάλογοι μοντέλων. Με λίγα λόγια έχουμε AI για όλους, χωρίς συνδρομές και χωρίς να «φεύγουν» δεδομένα.
Συντάκτης του άρθρου: Κυριάκος Οικονομίδης
Αν θέλεις να υποστηρίξεις την προσπάθεια μας και να βλέπεις καθημερινά νέα άρθρα με δωρεάν υλικό, μπορείς να το κάνεις με μια δωρεά στο Paypal
