בית הכנסת הגדול בהרצליה נמצא במרכז העיר, בצומת הרחובות בן-גוריון וסוקולוב, ומשמש בעיקר את תושבי העיר.
בית הכנסת הראשון של הרצליה הוקם בתמיכתה של חברת "קהילת ציון אמריקאית", מקימת היישוב, ושכן בצריף בגבעת המייסדים. לאחר שנים אחדות עבר בית הכנסת לרחוב הנדיב, ובשנות השלושים עבר למקומו הנוכחי, בצומת הרחובות סוקולוב והעבודה (שכעבור שנים רבות שונה שמו לרחוב בן-גוריון). בשנות ה-30 הוקצה מגרש עבור בית הכנסת ובשנת 1935 הונח היסוד לבית הכנסת. אך מחסרון אמצעים ובגלל מלחמת העולם השנייה נותר השלד בשממונו בין השנים 1939-1944. ביוזמתו של רב היישוב, הרב בנימין מובשוביץ, חודשה העבודה בשנת 1945, במימון העירייה והבנייה הושלמה לפני סוף שנות ה-40. בשנותיו הראשונות תואר בית הכנסת כאחד היפים ביותר בישראל.
במהלך כהונתו של אלי לנדאו כראש עיריית הרצליה עברו בית הכנסת וסביבתו שיפוץ מקיף: הוסרו מבנים מסחריים שנצבו בחזית בית הכנסת, והוחלפו ברחבה נאה, שבה נטעו עצי דקל והוקמה מזרקה.
בבית הכנסת התפלל הרב הראשי האשכנזי של העיר, הרב יצחק יחיאל יעקובוביץ עד פטירתו בשנת 2019 כיום מכהן כרב בית הכנסת בנו הרב מרדכי שלמה.
