Un premier hôpital de la ville, Notre-Dame-de-Pitié, était situé dans le quartier du Bouffay, rue de l'Emery, jusqu'en 1499. Transféré en 1508 rue d'Erdre (rue du Vieil-Hôpital), il prit le nom d'Hôpital de l'Erdre puis d’Hôtel Dieu de la ville en 1569. Situé en zone inondable, il est désaffecté et déplacé en 1662 sur un pré de l’île Gloriette.

​

Les bâtiments de la Petite Hollande sont devenus trop petits et totalement insalubres, Laënnec s’en insurge. Un nouvel Hôtel Dieu verra le jour en 1863 près du précédent. Œuvre de l’architecte Joseph-Fleury Chenantais, ce nouvel hôpital s’étend le long du quai de l'Hôpital aujourd'hui disparu dans les comblements de la Loire, et va de la rue Haudaudine à l'ouest (rue Gaston-Veil ) jusqu'à la chaussée de la Madeleine à l'est et au quai Moncousu au sud. Il a la forme d’un vaste square fermé par des grilles. Selon les standards de l’époque, il comprend deux groupes de cinq pavillons, sur trois étages, reliés par des couloirs vitrés. La façade est séparée en deux par une chapelle, et abrite l’école de médecine et l’administration.

​

Les bombardements américains de 1943 causent la mort de 20 malades et 40 membres du personnel, et détruisent une grande partie des bâtiments. L’édification d’un nouvel hôpital est confiée à l'architecte chargé de la reconstruction de la ville, Michel Roux-Spitz, sur le même emplacement. Les travaux débutent en avril 1951, l’hôpital ouvre en 1964.