La storia della fondazione risale a molto più indietro. Nel 1685, il primo governatore olandese, Simon van der Stel, pose la prima pietra piantando 100.000 viti sul retro della suggestiva mesa sopra il villaggio di Constantia. Nel 1716 la Fattoria Constantia fu divisa in Klein (piccola) Constantia e Groot (grande) Constantia.
L'attuale dimensione del vigneto di 82 ettari è stata raggiunta attraverso il reimpianto dal 1982. I tempi moderni sono iniziati a Klein Constantia nel 1979 quando la famiglia Jooste ha acquistato la fattoria. Con l'annata 1986 è stato lanciato il primo “Vin de Constance” della nuova era e sono stati rapidamente costruiti vecchi successi.
Ora, nel 2011, è avvenuto un altro cambio di proprietà ei nuovi investitori Zdenek Bakala e Charles Harman stanno cercando di stabilire Klein Constantia in cima alla lista dei vini del Sud Africa. La fusione con l'azienda vinicola Anwilka a Stellenbosch nel 2012 ha rafforzato queste ambizioni, dal momento che anche i suoi fondatori e azionisti Hubert de Boüard e Bruno Prats sono ora a bordo.