1812 wurde die Gesellschaft der Musikfreunde in Wien von Joseph Sonnleithner gegründet. Ab November 1831 veranstaltete sie Konzerte in einem Saal an den Tuchlauben Nr. 12, der sich mit nur 700 Sitzplätzen bald als zu klein erwies.
1863 stimmte Kaiser Franz Joseph dem Vorschlag des beim Innenministerium für die neue Wiener Ringstraßenzone zuständigen Stadterweiterungsfonds zu, der Gesellschaft das dem Staat gehörende Areal am Wienfluss neben dem Bauplatz des Künstlerhauses, gegenüber der Karlskirche, unentgeltlich für ein Konzertgebäude zu überlassen.
Mit der Planung wurde der klassizistische Architekt Theophil von Hansen beauftragt. Es sollten zwei Säle werden, ein großer für Orchester- und ein kleiner für Kammermusikkonzerte. Sämtliche Steinmetzarbeiten führte die Wiener Firma Anton Wasserburger aus; nach ihren Eigenschaften, aber auch ihrer Verfügbarkeit, wurden Sandsteine aus Breitenbrunn und St. Margarethen, harte Kalksteine von Kaisersteinbruch am Leithagebirge und Wöllersdorf verwendet.
Das Haus wurde am 6. Jänner 1870 mit einem feierlichen Konzert eröffnet, und die Kritik lobte sogleich einhellig die grandiose Akustik des Großen Saales, dessen Ruhm sich in kurzer Zeit in der ganzen Welt verbreitete. Auch der kleine Saal, der 1937 nach Johannes Brahms benannt wurde, erhielt bald den Ruf, ein idealer Ort für Kammermusik zu sein.
Im Jahr 2004 wurden vier kleinere, unterirdische Säle eröffnet, die für Konzerte ebenso wie für Proben, Konferenzen, Workshops oder Empfänge konzipiert sind und für größtmögliche Flexibilität in der Nutzung mit modernster Technik ausgestattet wurden. Ursprünglich hätte diese Erweiterung vom amerikanischen Musikmäzen Alberto Vilar finanziert werden sollen. Nachdem dieser abgesprungen war, half der austro-kanadische Industrielle Frank Stronach aus.
 

Großer Saal (Goldener Saal)

"So hoch auch die Erwartungen gehen mochten, so wurden sie doch von dem ersten Eindruck des Saales überboten, der an architektonischer Schönheit und stilvoller Pracht einzig in seiner Art dasteht." So schrieb die Presse über die Eröffnung des neuen Musikvereinsgebäudes und das erste Konzerte im Großen Musikvereinssaal am 6. Januar 1870.
Der Eindruck muß überwältigend gewesen sein - so überwältigend, daß Wiens Kritikerpapst Eduard Hanslick irritiert die Frage aufwarf, ob dieser Große Musikvereinssaal "nicht zu glänzend und prachtvoll sei für einen Concertsaal". "Von allen Seiten quellen Gold und Farben ..."

Brahms Saal

"Um nicht zu viel zu versprechen, es ist der schönste, prunkvollste, repräsentativste Kammermusiksaal geworden, den unsereins irgendwo auf der Welt kennt." So schrieb eine Wiener Tageszeitung im Oktober 1993, als der Brahms-Saal nach aufwendigen Renovierungsarbeiten der Öffentlichkeit vorgestellt wurde.

Die Überraschung war perfekt. Man erlebte einen völlig neuen Saal. Denn anders als der Große Musikvereinssaal hatte der Brahms-Saal sein Gesicht im Lauf der Zeit recht stark verändert. Wann und wie er zu jener leicht tristen Schummrigkeit gekommen war, in der die Musikfreunde ihn vor 1993 kannten, ließ sich nicht genau eruieren. Aber fest stand, dass er einst ganz anders ausgesehen haben musste. In den "Blättern der Erinnerung an den Bau und die Eröffnung des neuen Hauses der Gesellschaft der Musikfreunde" wurde der Kleine Saal, wie er damals noch hieß, als ein "wahres Schatzkästlein" beschrieben.

Gläserner Saal 

Von der Konzertveranstaltung bis zum erlesenen Bankett. Der Gläserne Saal / Magna Auditorium ist nicht nur der größte der 4 neuen Säle des Musikvereins. Er ist auch der flexibelste.

Hubpodien machen innerhalb kürzester Zeit aus einem Konzertsaal ein Tagungszentrum, aus einem Kino einen Ballsaal, aus einer Bühne einen Laufsteg. Modernste Technik für Ton, Licht,Video und Datengroßbildprojektionen schaffen ideale Voraussetzungen für halbszenische Produktionen.
Der Gläserne Saal / Magna Auditorium wurde vom Wiener Architekten Wilhelm Holzbauer gestaltet. Bei einer Raumhöhe von 8 Meter fasst er – inklusive Galerie – 380 Personen.