Edouard Gaston Deville, arpenteur général, a recommandé l’établissement d’un observatoire permanent à Ottawa, en 1887 (Hodgson, 8). Une des raisons qui motivaient cette recommandation était de disposer d’un lieu central pour conserver et maintenir en bon état de fonctionnement un certain nombre d’instruments astronomiques dispendieux de qualité (Hodgson, 9). Ainsi, un premier observatoire a été construit sur la rue Cliff, à Ottawa, en 1890. On y trouvait des instruments de passage et un télescope équatorial de 6 po utilisé pour déterminer l’heure et la longitude. L’observatoire était jugé plutôt médiocre, et le personnel de la Direction de l’astronomie du ministère de l’Intérieur a fait pression pour la construction d’un observatoire national (Hodgson, 9-10).
C’est l’architecte en chef du Dominion David Ewart qui a conçu ce qui allait devenir l’Observatoire fédéral à Ottawa sur les terrains de la Ferme expérimentale centrale du ministère de l’Agriculture. Le bâtiment a été achevé en 1905. À son ouverture, l’observatoire comptait 31 employés (Hodgson, 25). L’instrument principal, un télescope réfracteur de 15 po, était à l’époque le plus grand au Canada. William Frederick King, alors astronome en chef du ministère de l’Intérieur, a été le premier directeur de l’observatoire.
En 1918, l’Observatoire fédéral d’astrophysique de Saanich a ouvert ses portes en Colombie-Britannique, lequel abritait un télescope de 72 po afin d’y effectuer des observations qui allaient au-delà des capacités de l’Observatoire fédéral d’Ottawa.
L’Observatoire fédéral demeurait toutefois l’endroit où était menée de la recherche scientifique en astrophysique et en sciences connexes. La découverte de la « Planète X », en 1928, a été une des réalisations les plus notoires. L’observatoire avait également des applications plus courantes, comme la mesure du temps. En vertu d’un décret adopté le 28 août 1941, l’heure établie à l’Observatoire fédéral est devenue l’heure officielle pour les besoins officiels du Dominion.
Pendant son existence, l’Observatoire fédéral a relevé de ministères et d’agences continuellement changeants. En 1936, le ministère de l’Intérieur a été dissous et un nouveau ministère des Mines et des Ressources a été mis sur pied. C’était alors la Direction de l’arpentage et de l’ingénierie qui devenait responsable de l’observatoire. Le changement de structure a permis de consolider les activités en sismologie et en magnétisme terrestre. En 1947, les observatoires fédéraux ont été regroupés en un des huit bureaux de la Direction des mines, des forêts et des services scientifiques. L’observatoire comprenait alors cinq divisions : astronomie de position, physique stellaire, magnétisme terrestre, sismologie et gravité. En janvier 1950, après une nouvelle restructuration, c’est le ministère des Mines et des Relevés techniques qui est devenu responsable de l’observatoire.
En 1966, le ministère de l’Énergie, des Mines et des Ressources a été créé, et l’Observatoire fédéral a été intégré au groupe des mines et des géosciences. Dans le rapport annuel de 1966-1967 de ce ministère, on lit que la Direction des observatoires s’occupait alors de deux principales disciplines : l’astronomie et la géophysique. Une nouvelle division – Astronomie Ottawa – a alors vu le jour, qui comprenait les anciennes divisions d’astronomie de position et de physique stellaire. Il y avait également trois divisions axées sur la géophysique.
En 1970, le Conseil national de recherches est devenu responsable des fonctions d’observation solaire et de l’heure; l’observatoire et ses équipements ont par la suite été utilisés principalement pour des démonstrations publiques. En 1974, le télescope a été transféré au Musée des sciences et de la technologie du Canada et Mary Grey, une des dernières membres du personnel de l’observatoire toujours en poste, a intégré l’équipe du musée en tant que responsable de la division de l’astronomie.