Esimesed teated koolidest Eestimaal pärinevad 13. sajandist, mil linnades asutati ladinakeelseid toom- ja kloostrikoole. Emakeelse kooliõpetuse juurde avas tee reformatsioon ning trükikunsti areng. Rootsi ajal asutati esimesed gümnaasiumid ning hakati koolmeistreid välja õpetama. Eesti rahvakoolide alguseks loetakse 1686. aastat, pärast mida tekkis maal köstrikoolide hõre võrk, millele pani aluse 1684–1688 tegutsenud Forseliuse seminar.
Oluliseks tärminiks olid 1816. ja 1819. aasta talurahvaseadused, mille kohaselt pidid mõisakogukonnad Liivimaal iga 500 ja Eestimaal iga 1000 hinge kohta kooli asutama. 1866. aasta vallaseadus kohustas iga valda asutama vallakooli ning pärast seda võib rääkida juba tihedamast ja ülemaalisest koolivõrgust.
Esimesed koolimajad olid väga lihtsad ja tagasihoidlikud ning sageli ehitati need veel rehehoonetena: koolmeister sai suure osa sissetulekust maaharimisest, mistõttu oli vilja kuivatamiseks vajalik rehe olemasolu. Ka rehest lahku ehitatud vallakoolide hooned olid 19. sajandi lõpul reeglina väga tagasihoidlikud, mille ehitamisel peeti eelkõige silmas praktilist vajadust ning kulude kokkuhoidu. Siiski leidub ka kogukondade oma raha eest püstitatud koolimajade seas mõningaid väljapaistvaid näiteid.
Lisaks vallakoolidele eksisteeris tsaariajal Eestis mitmeid eri koolitüüpe, mille hooned esimestest ka oluliselt eristusid. Käsikäes õigeusu levitamisega 19. sajandil rajati õigeusu koolide võrk. Kirikute naabruses olnud õigeusu kihelkonnakoolide hooned püstitati suuresti riigi või mitmesuguste õigeusu organisatsioonide abiga. Enamasti kasutati nende puhul erinevaid tüüpprojekte, mille olid valmistanud Riias töötanud väljapaistvad arhitektid, nagu Heinrich Scheel, Robert August Pflug, Johann Friedrich Baumann, Apollon Edelson jt.
Alates 1880. aastate teises pooles hakati asutama ministeeriumikoole, mis pakkusid maarahvale paremat haridust mitme uue õppeaine ja pikema kooliaja kaudu. Riigi toetusel ehitati neile suured, tihti kahekorruselised koolimajad, mis olid sageli küllalt raskepärased ja massiivsed hooned, kuid milles oli pööratud rohkem tähelepanu laste õpi- ja elutingimuste parandamisele. Mõnevõrra sarnased olid ka pärast esimest Vene revolutsiooni alates 1906. aastast lubatud haridusseltside püstitatud koolimajad.
Pärast Eesti Vabariigi iseseisvumist kehtestati 9. septembril 1919 senise 3-klassilise hariduse asemel kohustuslik 4-klassiline haridus ning 1930 kohustuslik 6-klassiline haridus, mistõttu enamik varem ehitatud koolimaju jäid suurenenud koolipere mahutamiseks kitsaks. Esialgu leevendas olukorda võõrandatud mõisahoonete kasutamine, kuhu paigutati üle 200 kooli, kuid oli selge, et riik vajab uusi, avaraid ja ajastule kohaseid koolimaju.
Eeskujulike uute koolimajade saamiseks toimus kaks arhitektuurikonkurssi 1921. ja 1930. aastal. Neist esimene oli rahvusvaheline ja selles osales märkimisväärne hulk Soome, Läti ja baltisaksa arhitekte ning konkursi võidutööde alusel püstitati mitmeid tähelepanuväärseid koolimaju. 1930. aasta konkursil osalesid ainult Eesti Arhitektide Ühingusse mittekuuluvad arhitektid, mistõttu jäid tulemused tagasihoidlikeks ning elujõuliseks osutus üksnes Eesti Põllumeeste Keskseltsi ehitustalituse projekt „Valgus IV“.
Uute koolimajade rajamist soodustas 1922. aastal moodustatud koolimajade ehitusfond, kust omavalitsused said koolihoonete püstitamiseks pikaajalist soodsat laenu, mille abil ehitati või moderniseeriti üle maa sadu moodsaid koolimaju. Uute koolihoonete projekteerimisel lõid kaasa tunnustatud eesti arhitektid nagu August Volberg, Erika Nõva, Arnold Väli, Tõnis Mihkelson, Märt Merivälja, Arnold Matteus jpt.