Karl Hartmann wurde am 6. Dezember 1898 in Radolfzell geboren. Er stammte aus ärmlichen Verhältnissen. Sein Vater hieß Karl Hartmann und war Schreiner; seine Mutter hieß Genoveva, geb. Schorpp, und war Hausfrau.
Seine Mutter wurde zweimal früh Witwe. Ihr erster Mann Robert Geigges starb 1889, ihr zweiter Mann Karl Hartmann 1903. Aus beiden Ehen hatte Genoveva Schorpp 6 Kinder. Eine von Karls Nichten war Erika Fritz, die viele Jahre eine traditionsreiche Weinstube im Konstanzer Stadtteil Niederburg führte. Nach dem Besuch der Volksschule in Konstanz-Petershausen lernte der Sohn Karl Hartmann, wie sein Vater, das Schreinerhandwerk.
1917 bis 1918 war er im Krieg.
Trotz seiner religiösen Erziehung trat Hartmann 1919 in die KPD ein und blieb ihr Mitglied bis zur erzwungenen Auflösung der Partei im Jahre 1933. In den Unterlagen wird Hartmann als Funktionär der KPD bezeichnet.
Im Frühjahr 1924 kaufte die Familie Hartmann das Haus in die Dacherstraße 4. Karl Hartmann heiratete im Frühjahr 1928 Eugenie Bauer, geb. Hummel (geb. am 23. Mai 1899). Das Ehepaar Hartmann hatte ein Kind namens Rudolf (geb. 1928).
1939 wurde Hartmann zur Wehrmacht eingezogen.
Am 28. Februar 1940 wurde Karl Hartmann verhaftet und am 13. Juni 1940 vom Oberlandesgericht Stuttgart wegen Vorbereitung zum Hochverrat zu zwei Jahren Zuchthaus verurteilt. Nach Verbüßung der Haftstrafe im Zuchthaus Ludwigsburg wurde Hartmann „staatspolitischen Maßnahmen“ zugeführt, d.h. er wurde ohne weiteres Gerichtsverfahren im April 1942 in das KZ Dachau überstellt. Seine Häftlingsnummer war 29795. Aus dem KZ Dachau sind mehrere Briefe an seine Frau Eugenie und seinen Sohn erhalten.
Von Dachau wurde Hartmann im Januar 1944 in das KZ Majdanek, das in der NS-Terminologie KZ Lublin im Generalgouvernement hieß, „verschubt“, wie es damals im Amtsdeutsch hieß. Seine Häftlingsnummer war 6979.
Im KZ Majdanek hatte sich Hartmann zur SS-Sonderbrigade Dirlewanger gemeldet, ob freiwillig oder zum Dienst mit der Waffe gepresst, ist nicht klar. Offenbar rechnete aber niemand mit seinem Überleben, da in den Akten ein Verzicht auf seine Ansprüche an die Sozialversicherung vermerkt ist.
Kurz vor der Auflösung des KZ Majdanek durch die SS angesichts des Vorrückens der Roten Armee im Juli 1944 wurden Tausende Häftlinge in das KZ Auschwitz verlegt, darunter auch Karl Hartmann.
Nach einigen Wochen Zwangsarbeit in der Tischlerei, so ein Augenzeuge, wurde er 1944 als Grenadier der SS-Sturmbrigade Dirlewanger zugeteilt. Die Sonderbrigade Dirlewanger war eine Truppe, die sich aus disziplinarrechtlich belangten SS- und Wehrmachtsangehörigen und etwa 800 KZ-Häftlingen zusammensetzte. Diese Einheit war zur Partisanenbekämpfung in Weißrussland, bei der Niederschlagung des Warschauer Aufstands im August 1944, zur Bekämpfung des Slowakischen Nationalaufstands, im Kampf um Budapest gegen die Rote Armee und schließlich im Endkampf um Berlin eingesetzt und wurde fast vollständig aufgerieben.
Karl Hartmann war über 4 Jahre in Haft.
Hartmanns Feldpostnummer lautete 00 512 g7. Wo und bei welchen Kämpfen Hartmann ums Leben kam, ist ungewiss. Am 30. November 1944 wurde er als vermisst gemeldet und am 7. September 1950 durch das Amtsgericht Konstanz für tot erklärt.