נמצא ברחוב יפו 91 פינת סמטת בורוכוב בבית היתומים הספרדי (קומה שניה).
בית הכנסת הוקם על ידי תנועת אחדות ישראל – תנועה יהודית אורתודוכסית פולנית רויזיוניסטית שדגלה בדרכו של ז'בוטינסקי.  כאשר עלו ארצה רצו לייסד מרכזים בנוסח האידיאולוגיה שלהם, וכך הוקמו מרכזים בירושלים ובתל אביב. בירושלים המרכז שלהם הוקם בבית הספר לבנים ברחוב הרב קוק בשנת 1936.  במקום היה נוסף על בית הכנסת גם מועדון שהיו בו הרצאות , מסיבות עונג שבת, דיונים אידיאולוגיים ועוד, והמקום היה למרכז לפעילות שוקקת ומשך אליו גופים רויזיוניסטים שונים,  וכן גם שימש כמרכז לתנועת הנוער הלאומי הדתי "ברית חשמונאים". משך הזמן נעשה המקום צר מלהכיל ובית הכנסת עבר לרחוב ישעיהו לבניין בית הספר "דורש ציון", שם ישב עד שנת 1947.  כאשר קמו המחתרות אצ"ל ולח"י בית הכנסת שימש את אנשיהם כמקום תפילה מפגש חברתי וכמקום לפעילויות מחתרתיות. בשנת 1947 עבר בית הכנסת למקומו הנוכחי – בקומה שניה של בית היתומים הספרדי שם היה לפניו בית כנסת ספרדי שהשאיר לו את הציוד שלו.  לאחר קום המדינה לקח על עצמו בית הכנסת להנציח את חללי האצ"ל והלח"י .  לצורך כך נבנה לוח הנצחה ענק ובו חרותים שמותיהם של כל הרוגי האצ"ל והלח"י, הרוגי המלכות, בנימין זאב הרצל ,זאב ז'בוטינסקי, מפקד האצ"ל דוד רזיאל, מפקד הלח"י אברהם שטרן (יאיר) ויוסף טרומפלדור.  ללוח הזה נוספו במשך השנים לוחות נוספים שמנציחים את מתפללי בית הכנסת וביניהם הרבנים ר' אריה לוין והרב לוי יצחק רבינוביץ, את מנחם ועליזה בגין, את ראש הממשלה וממפקדי הלח"י יצחק שמיר, לוח מיוחד להנצחת הרוגי מלכות ולוח להנצחתו של הגבאי המיתולגי של בית הכנסת – יוסף ויטלזון.  משך השנים פעל בית הכנסת תוך שהוא מעלה על נס את פעלם של אנשי המחתרות אבל מספר אנשיו הלך והתדלדל עד שלפני שנים לא רבות גילו אותו צעירי הנחלאות והתחברו איתו, עם אנשיו ועם הגבאי – יוסף ויטלזון.  כיום לא נשארו במקום אנשי מחתרות וגם יוסף ויטלזון נפטר, אבל המסורת של בית הכנסת ממשיכה להישמר על ידי דור הצעירים ששמע על המחתרות רק על ידי סיפורים.  מתפללי בית הכנסת כיום רובם צעירים והוא פועל רק בשבת.
להרחבה באתר "אהבת ירושלים" מאמר "בית כנסת אחדות ישראל על שם עולי הגרדום"