Tout commence avec Champlain. Sur l'emplacement de l'actuelle terrasse Dufferin, il fait construire le Château Saint-Louis en 1620. Des réparations s'imposent en 1626. Reconstruit en 1636 par Montmagny. Nouvelle reconstruction en pierres cette fois en 1647, plus grand avec deux étages et des combles, de style forteresse avec mur d'enceinte, redoutes et même une poudrière. Frontenac le démolit en 1694. Un nouveau Château Saint-Louis voit alors le jour qui survivra pendant plus de cent ans pendant lesquels il sera rénové et agrandi. Le parlement y fait son nid. Le feu le détruit complètement en 1834. La terrasse Dufferin en protège les ruines.
Entre 1784 et 1786, un nouveau château est construit à l'emplacement de l'actuel Château Frontenac, donc derrière le Château Saint-Louis encore existant à l'époque. Bâti par le gouverneur Frederick Haldimand, il porte son nom. Construit en pierres et mesurant cent pieds de long et haut de trois étages avec des combles, il a eu une histoire des plus variées. Le gouvernement y a siégé, des gouverneurs et leurs familles y ont habité, des réceptions et des bals y ont été donnés. Il fut cédé à la ville et servit alors d'atelier au peintre Antoine Plamondon. Ce fut ensuite l'École normale Laval qui y donna des cours. L'Assemblée législative y siégea. Retour de l'École normale.
Terminé en 1893, le Château Frontenac prend la place du Château Haldiman. Jusqu'en 1924, il allait peu à peu prendre de l'ampleur pour devenir ce qu'il est aujourd'hui, le symbole de la ville de Québec. C'est le Pacific Canadien qui en a été le maître d'oeuvre. On a fait appel à un architecte américain, Bruce Price, qui a conçu un style qu'on appelle ici « château », mais l'inspiration des châteaux de France y est assez diluée. Le Château Frontenac est ainsi devenu l'un des premiers des hôtels «de style château » de la compagnie. Il fut nommé en l'honneur de Louis de Buade, comte de Frontenac, premier gouverneur de la Nouvelle-France.
Comme tant d'autres édifices, le feu y a fait des ravages importants le 14 janvier 1926. L'incendie se serait déclaré dans une chambre inoccupée. Les dommages ont cependant été l'occasion d'un ajout de taille, l'imposante tour centrale qui donne au Château un cachet spécial.
Comme on peut le deviner, des événements marquants s'y sont déroulés et des personnalités renommées y ont séjourné. Des visiteurs avec des couronnes et des titres, des artistes tels Sarah Bernhardt, Philippe Noiret, Édith Piaf, Depardieu, Montant et beaucoup d'autres. On ne peut passer sous silence le fait que Maurice Duplessis y a vécu alors qu'il était le premier ministre de la province. Une rencontre mémorable y fut tenue en 1943 alors que Winston Churchill, Franklin D. Roosevelt et William Lyon Mackenzie King s'y sont réunis pour mettre au point des stratégies devant mener à gagner la seconde guerre mondiale.
Pour célébrer le quatre centième anniversaire de la fondation de Québec, le Château s'est refait une beauté en autre en rénovant près de cinq cent chambres et suites. Quant à sa protection patrimoniale, elle est assurée vu qu'il fait partie d'un site historique désigné joyau du patrimoine mondial par l'UNESCO.