Von Anfang an ist es Ziel der Nationalsozialisten, die Juden aus der Gesellschaft auszugrenzen, ihren Besitz zu rauben und sie aus dem Land zu treiben. Dies betrifft die Gemeinden in doppelter Weise: Zum einen werden auch sie zum Ziel nationalsozialistischer Politik. Zum anderen steigt ihre Bedeutung mit dem Ausschluss der Juden aus allen anderen gesellschaftlichen Zusammenhängen.
Seit 1935 entsteht ein umfassendes Netzwerk jüdischer Selbsthilfe. Die Gemeinden werden neben ihrer religiösen Funktion zu Zentren der Auswanderungsberatung und sozialen Fürsorge, der Kultur und der Bildung. Das „Jüdische Winterhilfswerk“ etwa widmet sich der Unterstützung der vielen Bedürftigen.
Die jüdischen Gemeinden erweitern wie in Würzburg ihre Schulen oder eröffnen neue wie in Schweinfurt und Aschaffenburg. Der „Kulturbund der deutschen Juden“ organisiert kulturelle Veranstaltungen und ermöglicht sportliche Aktivitäten in jüdischen Turn- und Sportvereinen.
Die Zerstörung von Synagogen und Gemeindehäusern am 9. und 10. November 1938 trifft die Gemeinden im Kern. Gottesdienste können seitdem nur noch im privaten Raum stattfinden. Umzüge und Emigrationen lassen die Mitgliederzahlen so massiv schwinden, dass viele Gemeinden sich auflösen.
Ab Juli 1939 müssen sich alle jüdischen Verbände und Gemeinden in der „Reichsvereinigung der Juden in Deutschland“ zusammenschließen. Diese wird vor Ort durch eine „Geschäftsstelle“ vertreten. Ab 1941 ist diese gezwungen, auch bei den Deportationen mitzuwirken. Das endgültige Ende der letzten Gemeinden kommt 1942.
