Entre 1854 et 1856, un réservoir d’eau potable à ciel ouvert est aménagé au sud de l’avenue des Pins. La première station de pompage McTavish est érigée en 1875. À la suite de la municipalisation du réseau de distribution de l’eau potable dans les années 1920, la station de pompage est remplacée, ce qui permet de réunir les deux réseaux de distribution d’eau existants en un seul. Les travaux débutent en 1928 sous la responsabilité de l’ingénieur en chef de la Ville de Montréal, Charles-Jules Des Baillets, et selon les plans de l’architecte Jean-Omer Marchand. La construction de la deuxième station de pompage McTavish à proximité du réservoir s’inscrit ainsi dans la foulée des travaux de modernisation et d’accroissement du réseau d’aqueduc et d’égouts. Elle témoigne des efforts de la Ville pour répondre aux besoins en infrastructures de toute sorte de sa population croissante. Pour cette raison, elle est contemporaine de plusieurs autres stations de pompage municipales, notamment les stations des Cèdres (1931) et Côte-des-Neiges (1938), elles aussi situées sur les flancs du mont Royal.
La construction d’une station de pompage sur la montagne est stratégique : elle permet de profiter de la force de gravité pour la redistribution de l’eau dans le réseau d’aqueduc. La station de pompage et le réservoir McTavish occupent l’entièreté d’un îlot situé sur le flanc sud du mont Royal. L’édifice atteignant quatre étages par endroit longe le réservoir souterrain construit entre 1945 et 1948, au-dessus duquel est aménagé le parc Rutherford. Cet espace public met le bâtiment en valeur en offrant un dégagement propice à diverses perspectives visuelles à partir du nord. À l’avant, l’immeuble au plan allongé et articulé est implanté en bordure de l’avenue du Docteur-Penfield dont le tracé oblique constitue une surprise dans la trame urbaine. Il s’insère également dans le prolongement de l’axe de l’avenue McGill où il sert de fond de scène, avec le mont Royal, aux principaux pavillons de l’Université McGill.
La station de pompage McTavish est une construction moderne dotée d’une structure en béton armé et en acier. Comme plusieurs immeubles municipaux de la même époque, elle est dotée d’une enveloppe historiciste qui emprunte à des styles architecturaux du passé afin de créer une image distinctive. La station de pompage McTavish prend l’allure d’un château de la Renaissance française et fait ainsi référence à d’importants bâtiments du secteur, dont l’Hôpital Royal Victoria. L’édifice reprend en effet plusieurs éléments architecturaux propres aux châteaux de la Loire, dont des tours, des tourelles et des échauguettes en encorbellement coiffées de toitures en poivrière, des mâchicoulis ainsi que des fenêtres en croisée en pierre ou arquées. Les volumes très articulés donnent un aspect pittoresque à l’ensemble. Les toitures à forte pente, originellement recouvertes d’ardoise, sont décorées d’épis de faîtage en cuivre. Des bandeaux horizontaux, un arc à trois points en pierre sculptée au-dessus de l’entrée principale et des cartouches en bas-relief représentant les armoiries de la Ville complètent l’ornementation abondante du bâtiment qui marque la trame urbaine.