El edificio donde se habían reunido los judíos de Ulm desde tiempos inmemoriales fue quemado durante la Kristallnacht, el progromo que en 1938 causó la destrucción de 1.000 sinagogas en Alemania y Austria. Sobre el viejo solar hebreo se levantó tras la ii Guerra Mundial una construcción civil, por lo que en 2009, cuando se decidió reconstruir la sinagoga, hubo que buscar un nuevo emplazamiento muy cerca del anterior, en una plaza cedida por el Ayuntamiento. La posición aislada y muy visible en el centro de esta plaza determina el carácter del edificio, un prisma cuya altura no sobrepasa la de las construcciones colindantes, y cuya austeridad reforzada por el uso de un sobrio aplacado de piedra caliza en la fachada sólo se matiza mediante una celosía que rompe la esquina con una filigrana de estrellas de David.

En el interior, el edificio sigue el esquema tradicional de las sinagogas, con un vestíbulo de acceso sobre el mikve (baño ritual), la sala de reuniones (bimá) en la planta primera, la escuela y las oficinas en la segunda y, en la última altura, una sala de juegos para niños. El espacio más destacado es la bimá, dispuesta sobre la diagonal de la planta para buscar la orientación a Jerusalén. En ella se albergan el armario con los rollos de la Torá y el atril —construidos en Israel bajo la supervisión de un rabino—, así como la menorá: el gran candelabro cuyos brazos simbolizan las siete tribus de Israel.