Synagoga w Koninie została wybudowana na miejscu starej, drewnianej świątyni. Przez wiele lat stanowiła siedzibę Wojewódzkiej Biblioteki Publicznej oraz Wojewódzkiego Ośrodka Kultury. Na początku XXI w. została sprzedana osobie prywatnej, która nie zgodziła się na dalsze funkcjonowanie biblioteki w obiekcie.
Obecna synagoga została postawiona w latach dwudziestych dziewiętnastego wieku. Przedtem na jej miejscu stała drewniany obiekt z osiemnastego wieku. Niestety przez zły stan techniczny i obawę przed zawaleniem, zdecydowano się rozebrać budynek.
W drugiej połowie dziewiętnastego wieku postanowiono wyremontować obecną świątynię. Nadano jej cechy stylu orientalnego, dodano orientalną dekorację, słupy bimy, sklepienie, a także dobudowano dwukondygnacyjny budynek, w którym umieszczono babiniec i przedsionek. Przed synagogą zachował się oryginalny, stylizowany kuty płot, ozdobiony licznymi gwiazdami Dawida.
W okresie drugiej wojny światowej, synagoga została zdewastowana przez hitlerowców, którzy najpierw urządzili w niej stajnię, a potem magazyny. Po wojnie obiekt przez wiele lat pozostawał pusty. Dopiero w latach osiemdziesiątych ubiegłego wieku został wyremontowany, a wewnątrz urządzono bibliotekę.