Tout a commencé avec Sir William McDonald qui avait fondé une compagnie de tabac, la McDonald Tobacco Company. Devenu multimillionnaire, grand philanthrope, il a été un bienfaiteur généreux en particulier pour l'Université McGill. Il fit construire l'édifice du 690 Sherbrooke ouest en1905 et en fit don au Student Union de l'Université. Il est aussi à l'origine de la fondation du College McDonald à Saint-Anne de Bellevue ainsi que du premier crématorium à être construit à Montréal au cimetière Mont-Royal.
Avant de porter son nom actuel, la maison s'appelait donc Student's Union Hall. Ce club était réservé aux étudiants mâles qui s'y inscrivaient pour la somme de $5.00 par année. L'édifice offrait beaucoup d'avantages à ses membres: salle d'exercice, bains et douches, cuisine, salle à dîner, salon confortable avec foyer. La gent féménine y fut finalement admise. L'endroit devint trop exigu et se transporta ailleurs, au « University Center ». C'était en 1965.
Ce fut le moment choisi pour y intégrer une collection d'artéfacts canadiens qu'un certain David McCord avait légué à l'Université en 1919. Ce dernier était un riche avocat et un philanthrope. Sa carrière juridique fut surtout mise au service des peuples aborigènes du Canada. Il accumula une importante collection d'artéfacts en relation avec l'histoire du Canada, soit quelques 15,000 objets. Il en fit don à l'Université McGill. Cette collection avait pérégriné d'édifice en édifice tous trop petits pour permettre à la population d'y avoir accès. Le départ du club sélect des étudiants arrivait donc à point. Des rénovations furent nécessaires afin d'y loger toute la collection et l'édifice fut réouvert au public en 1991.
Aujourd'hui, le Musée compte plus de 1,2 million d'objets dont l'importante collection de photos de William Notman, alors photographe officiel de la reine au Canada, suite à ses magnifiques clichés du Pont Victoria.
En 2005, le Gouvernement du Canada a placé sur l'édifice une plaque pour rendre hommage à David Ross McCord, cet homme généreux qui a collectionné autant d'images, d'objets et de manuscripts, témoins de l'histoire du Canada.
