בשנת 1912 עלה לארץ ישראל רב מקובל בשם רבי שלמה עליאשוו. הרב, שהיה מפורסם מאד ובעל החיבור המוכר "לשם שבו ואחלמה" הגיע לירושלים עם חתנו, שהיה מפורסם גם כן הרב אברהם אלישיב רבה של העיר הומלא בבילארוס ובעל הספר 'ביכורי אברהם'. 

 

באותה עת היתה ירושלי חבולה ופצועה. תושביה העניים בקושי מצאו טרף למשפחותיהם, והדחקות והעניות שררה בכל. תושביה החרדיים של העיר נאלצו לעבוד בכל עבודה מזדמנת גם כאשר היתה באה בקונפליקט עם התפיסה הדתית והיתה מנוגדת לאורח החיים החרדי. בעקבות זאת נפלטו רבים מצעירי החרדים של אותה תקופה מהמסגרת הקהלתית ועזבו את דרך התורה והמצוות.

 

הרב אברהם אלישיב שהגיע לירושלים החליט להילחם בתופעה המצערת ולאחר התייעצות עם חותנו המפורסם הקים 'חברה' - אגודה בשם תפארת בחורים שבמבנה בית הכנסת שלה נמסרו שיעורים בכל שעות היממה והוא שקק בחורים צעירים שבאו להאזין לדרשותיו המרתקות של הרב אברהם. הדרשות היו מתחיל החל מהשעה 4 לפנות בוקר, כאשר קבוצה מיוחדת של בחורים בשם 'המעוררים' היו מקיצים את משתתפי השיעור ומזרזים אותם להגיע אל בית המדרש. עבודה זו לא היתה קלה שכן לא פעם נעשתה היא במסירות נפש של ממש כמו בימי המנדט ולילות 'העוצר' שהיו מטילים הבריטים על רחובות ירושלים. בין המאזינים הרבים היה גם בחור צעיר בשם שלום שבדרון שלימים התפרסם כ'מגיד הירושלמי' הנודע רבי שלום שבדרון ז"ל.

 

 

במקביל להקמת הבית כמקום לימוד והרחבת דעת ייסד הרב אברהם גם ארגון עזרה שבא לעזרת חברי האגודה בשעת צורך או צרה.

עוזרו המפורסם של הרב אברהם היה הרב נחום אוירבוך [שנודע בשם רבי נחום בלכר]. מלבד סיועו הרב בהקמת ה'חברה' היה גם גם האחראי ביחד עם רבי אברהם על ניהולה השוטף. בימים הנוראים היה רבי אברהם ניגש לעמוד ורבי נחום שימש כ'בעל תוקע'.

 

את שם בית הכנסת ו'החברה' נתן חמיו של רבי אברהם בעל ה'לשם', כשהוא מתבסס על הפסוק במשלי [פרק כ] "תפארת בחורים כוחם". מסופר כי היו שניסו לשכנע את הרב לשנות את השם או להוסיף לו תיבה או שנים אף הוא סירב לכך בכל תוקף מטעם שהיה כמוס עמו [מתוך קובץ 'תפארת בחורים'].

 

כאמור משמש בית כנסת זה את הרב אלישיב בנו הגדול של רבי אברהם אלישיב והוא מוסר בו שיעור יומי בתלמוד – שיעור שהפך למוסד בפני עצמו. עשרות ומאות אנשים מצטופפים מידי יום בבית הכנסת [שאיננו גדול במיוחד] להאזין לשיעור של 'פוסק הדור' כפי שמכונה הרב. אווירה חגיגית במיוחד שוררת במקום בחגים ובמועדים. הנה תיאור קצר מתוך הספר הנ"ל על ליל שמחת תורה: "בליל שמחת תורה קודם תפילת ערבית התאספו כולם בבית רבנו הרב שהיה משמיע מדברותיו בהלכה ובאגדה מעניני החג ושרים ומזמרים כראוי לכבודו של יום. ובהגיע זמן תפילת ערבית יצאו כל העם יחד עם רבינו לרחובה של עיר בשירה ובריקודים, כך רקדו בתהלוכה בדרך לבית המדרש בהתלהבות עצומה, וכאשר הגיעו כולם עם רבינו סמוך לבית המדרש פצחו את פיהם בשירה אדירה שמשמעה למרחוק: "ויהי בישורון מלך בהתאסף ראשי עם יחד, יחד – תפארת בחורים". 

 

בבית הכנסת קיים כולל לאברכים בראשותו של הרב ב.ד. אלישיב בנו של הרב אלישיב. בכולל זה מצויים תלמידי חכמים מופלגים חלקם אנשים בגיל העמידה והם עוסקים בלימודם החל משעות הבוקר המוקדמות. כולל נוסף פועל במקום בשעות אחר הצהריים בשם 'בנין ציון' על שמו של הרב בן ציון סניידערס ז"ל מגדולי רבני הונגריה שנרצח על ידי הנאצים ימ"ש.