'ביתבית הכנסת נקרא על שם הרמח"ל – רבי משה חיים לוצאטו. 
בית הכנסת נמצא היום בקצה סמטה קטנה, היוצאת מרחוב פאח'ר א-דין קצת מצפון למסגד אל-מועליק (דאהר אל-עומר). מחלוקת קיימת בשאלה כיצד זה קם בית הכנסת במקומו הנוכחי. יש האומרים שדאהר אל עומר החרים את מבנה בית הכנסת שהתקיים באתרו של מסגד אל-מועלק דהיום והפכו למסגד. במקומו היקצה ליהודים את המקום הנוכחי להיות בית כנסת. ויש הטוענים כי מבנה בית הכנסת המקורי הוסב למסגד בימיו של עבדאללה פחה, ששלט בעיר החל משנת 1818, והוא אשר נתן ליהודים את המבנה בו קיים בית כנסת רמח"ל כיום.
במה ייחודו של בית כנסת זה? ראשית, הינו בית התפילה היחיד של יהודים הקיים ופעיל בעיר העתיקה. שנית, במבנהו חסרים שני יסודות טיפוסיים לבתי כנסת: הבמה – במקומה קיים מרתף מתחת לרצפה והוא גלוי לעיני המתפללים משום סבכת סורגי ברזל הסוגרת עליו במפלס הרצפה. כך פירש הרמח"ל, שהיה עניו וצנוע, את הפסוק "ממעמקים קראתיך יה" הווה אומר, לא זו בלבד שלא יעמוד שליח הציבור על במה מוגבהת, אלא שירד אל התפילה, ויעמוד מתחת לקהל המתפללים. כמו כן, חסרה בבית הכנסת עזרת הנשים – שכן הרמח"ל, שדגל בקבלה, אסר כניסת נשים לבית התפילה פן תעסוקנה בדברי חולין. משום כך הנשים פתחו להן צוהר בקיר המערבי של בית הכנסת, והיו עומדות מחוץ לבית הכנסת במפלס הדרך ורואות ושומעות תקיעת שופר, קריאת המגילה ושאר תפילות.