Als zwei Jahrzehnte nach Kriegsende in Hamburg das erste Forschungsinstitut zur Geschichte der deutschen Juden in Deutschland gegründet wurde, war diesem eine lange Vorgeschichte vorausgegangen. Die Pazifistin Gertrud Luckner hegte bereits 1954 solche Pläne und brachte sie bei Bundespräsident Theodor Heuss vor.
Die Zeit war aber noch nicht reif für eine solche Einrichtung. 1955 hatten in Jerusalem deutsch-jüdische Emigranten mit dem Leo-Baeck-Institut die erste wissenschaftliche Institution gegründet, die sich dem Erbe des deutschsprachigen Judentums verschrieben hatte. Mit seinen weiteren Standorten in New York und London bildet es bis heute die weltweit wichtigste Einrichtung ihrer Art. Die Gründer machten immer wieder klar, dass sie kein eigenes Leo-Baeck-Institut in dem Land wünschten, aus dem sie vertrieben wurden.
archivmaterial Es stellte sich jedoch akut die Frage, wer die Oberhoheit über das in der Bundesrepublik verbliebene Aktenmaterial jüdischer Provenienz und zu jüdischer Thematik erhalten sollte. Deutsche Regierungsvertreter äußerten bei einer Archivkonferenz 1955 ihre Vorbehalte dagegen, dass »die Juden« Kontrolle über belastendes Aktenmaterial aus der NS-Zeit erhalten sollten. Vor allem wollte man verhindern, dass weitere jüdische Gemeindeakten nach Israel verschwanden, wie dies in den Nachkriegsjahren etwa mit den Archiven der bayerisch-jüdischen Gemeinden geschehen war.
So verständigten sich die Bundesregierung und der Zentralrat darauf, ein Forschungsinstitut mit Archiv in Hamburg einzurichten. Zum Direktor wollte man den Münsteraner Theologen Karl-Heinrich Rengstorf bestellen. Allerdings stellte sich bald heraus, dass er als Vorsitzender des »Evangelisch-Lutherischen Zentralvereins für Mission unter Israel« und Ordinarius für Neues Testament wohl nicht der geeignete Kandidat für diesen Posten war. Aus Münster hörte man zudem, dass Rengstorf zwar einen jüdischen Mitarbeiter, den ehemaligen Archivar Bernhard Brilling, eingestellt hatte, doch alle wichtigen Sitzungen gerne auf den Freitagabend ansetzte, sodass der als Rabbiner ordinierte Brilling nicht teilnehmen konnte.
Anstelle von Rengstorf berief man schließlich im November 1964 den aus Israel zurückgekehrten Historiker Heinz Mosche Graupe nach Hamburg. Das Institut wurde im Jahre 1966 eröffnet. Pläne für ein eigenes jüdisches Archiv zur Geschichte der deutschen Juden wurden fallen gelassen und erst 21 Jahre später mit dem 1987 gegründeten, in Heidelberg ansässigen Zentralarchiv zur Erforschung der Geschichte der Juden in Deutschland realisiert.
