Błąd psychiatrów
W 1902 r. Haarmann został zwolniony z wojska z powodu narastających problemów zdrowotnych, męczyły go nieustające zawroty głowy. Przez następnych kilkanaście lat wielokrotnie trafiał do więzienia, skazywany za włamania, kradzieże kieszonkowe i wyłudzanie pieniędzy. Jego ojciec doszedł do wniosku, że syn jest niespełna rozumu, próbował nawet sądownie ubezwłasnowolnić Fritza i zamknąć go w szpitalu psychiatrycznym. Gdyby do tego doszło, udałoby się uratować życie wielu młodym ludziom, jednak lekarze nie dostrzegli w zachowaniu Haarmanna niczego odbiegającego od normy.
W 1914 r. skazano go na pięć lat więzienia za kradzież towarów z pewnego hanowerskiego magazynu. Dzięki temu nie został zmobilizowany i uniknął frontowego koszmaru I wojny światowej. Gdy wyszedł na wolność w 1918 r., w Niemczech panował potworny głód, a żywność stała się najbardziej poszukiwanym towarem na rynku. Fritz przyłączył się wówczas do bandy przemytników, którzy nielegalnie sprowadzali mięso do Hanoweru. Szybko dorobił się sporych pieniędzy i mógł wynająć mieszkanie przy Cellarstrasse 27, które niebawem miało stać się salą tortur dla wielu przypadkowych młodzieńców.