Όπως φαίνεται σε ιστορικά αρχεία, πριν από το 1688, δεν υπήρχε επίσημα κάποιο αναγνωρισμένο σχολείο στην Κοζάνη, όμως υπήρχαν οικοδιδάσκαλοι. Μόνον αργότερα αναφέρονται κάποια σχολεία. Τα πρώτα σχολεία που ιδρύθηκαν στην πόλη, λειτούργησαν με οικονομικούς πόρους από το ταμείο της κοινότητας, από εράνους ή δωρεές και κληροδοτήματα. Αργότερα, η ανάπτυξη της πόλης και η αύξηση του πληθυσμού έφερε στην επιφάνεια την ανάγκη για δημιουργία νέων σχολείων, καθώς και ο αριθμός των παιδιών ήταν πλέον αυξημένος και η διαθήκη του Χαρίσιου Μούκα (από τον οποίο πήρε και το όνομά του το σημερινό δημοτικό σχολείο) άνοιξε την πόρτα για την ανέγερση ενός Παρθεναγωγείου, ενώ χρόνια αργότερα ξεκίνησαν οι εργασίες για την δημιουργία του δημοτικού σχολείου που υπάρχει ακόμη και σήμερα.
Τα εγκαίνια του σχολείου έγιναν το 1914 και αρχικά λειτούργησε ως σχολείο θηλέων, ενώ το 1929, το 3ο δημοτικό σχολείο έγινε α' θηλέων και το 4ο δημοτικό έγινε β' θηλέων. Κατά τα δικά μου σχολικά χρόνια, το 4ο δημοτικό σχολείο όπου πήγαινα, ενώθηκε με το 3ο δημοτικό και ονομάστηκε Γεώργιος Σακελλάριος, και έτσι, το ισόγειο του σχολείου φιλοξενούσε τις μικρές τάξεις και ο επάνω όροφος τις μεγάλες. Πριν από την ένωση, ως μαθητές, είχαμε χωρίσει ακόμη και το κυλικείο, κι έτσι από το παράθυρο του κυλικείου αγόραζαν το φαγητό τους τα παιδιά τους ενός σχολείου και από την πόρτα τα παιδιά του άλλου σχολείου.
Μερικά ακόμη σημαντικά:
- Στα χρόνια της γερμανικής κατοχής, το κτίριο χρησιμοποιήθηκε ως φυλακή και ως στρατώνας των Γερμανών.
- Το 4ο δημοτικό σχολείο, εξέδωσε μαθητική εφημερίδα η οποία στην αρχή ήταν χειρόγραφη, αργότερα όμως τυπωνόταν σε τυπογραφείο.
- Το 1985 έγινε αναπαλαίωση και νέος χωρισμός των αιθουσών.
- Το 1999, τα σχολεια ενώθηκαν και τελικά το σχολείο ονομάστηκε Γεώργιος Σακελλάριος.
- Το 2001, το δημοτικό σχολείο ονομάστηκε Χαρίσιος Μούκας και λειτουργεί και ως σήμερα με αυτό το όνομα ως 12θέσιο δημοτικό σχολείο.