Erstmals urkundlich erwähnt wurde Harksheide 1374. Doch bis weit ins 20. Jahrhundert blieb das Dorf eine Ansammlung von Einzelhöfen. Nur entlang der Ulzburger Straße, dem alten Ochsenweg zum Ochsenzoll, wurde dichter gebaut. Vorzugsweise Gasthöfe. Um 1900 lebten in Harckesheyde 475 Menschen.

Doch dann stieg die Bevölkerung sprunghaft an. 1932 plante Heinrich Lönnies, der als Vater und als "Löwe von Norderstedt" bekannt wurde, die Siedlung Harkshörn. Die Siedler bauten ihre Häuser in Selbsthilfe, unter ihnen war auch der spätere Harksheider Gemeindedirektor und Bürgermeister von Harksheide, Carl Lange.

1936 richteten die Nazis mitten in Harksheide einen Truppenübungsplatz ein. Der Straßenname "Am Exerzieplatz" erinnert noch heute an die Nazizeit, genauso wie der "Schützenwall".

1943 flüchteten Hamburger vor den Bomben nach Harksheide, und ab 1945 nahm das Dorf Flüchtlinge aus den ehemaligen deutschen Ostgebieten auf. Am 1. Januar 1947 hatte Harksheide laut Chronik 5849 Einwohner, davon waren 3143 Flüchtlinge.

Im Jahr 1949 wurde die "Gartenstadt Falkenberg" geplant, 1954 die Falkenbergkirche mitten auf die unfruchtbare Heide gesetzt, die dem Stadtteil seinen Namen gab. Noch Jahre später sah das Gotteshaus so aus, als hätte jemand vergessen, sie ins Dorf zu holen.