1925 trat Carlebach sein Amt als Rabbiner in Altona an, 1936 wechselte er an die Bornplatz-Synagoge. Carlebach war nicht nur ein bedeutender Rabbiner, sondern auch Pädagoge und Naturwissenschaftler. Als die Gestapo 1941 mehr als 750 Hamburger Juden deportierte, verzichtete er auf eine mögliche "Rückstellung". Er, seine Frau und drei seiner Töchter wurden in einem Wald bei Riga erschossen.