La Caisse d'Epargne acquiert une parcelle au lieu-dit Derrière-la-Ville à Jean Freymann pour 14'000 francs. Elle prépare avec minutie le projet de construction d'un bâtiment adapté à la pratique commerciale d'une "vraie" banque, sous l'impulsion du notaire Eugène Monod, secrétaire-caissier de la Caisse pendant 44 ans. L'immeuble, une fois construit, devient celui de l'avenue de la Gare 16. Le siège de la Banque restera l'emblème de la Caisse pour les nombreuses familles de la région clientes de la Banque, cela pendant 96 ans. Aujourd'hui encore, une plaque de marbre vert orne cet immeuble dont les façades ont gardé l'aspect d'origine.
La proximité de la gare, zone de forte influence, ainsi que des centres industriels et artisanaux, permet à la Caisse d'Epargne de développer ses affaires en toute sérénité. En cette fin de siècle, l'essor économique de la Riviera vaudoise est important grâce aux nombreuses entreprises établies dans un bassin dynamique.
C'est ainsi qu'en 1898, la Caisse achève les travaux de construction de son immeuble, sous la direction de l'architecte Henri Schobinger, qui sera admis au Conseil de Direction de la Banque au sein duquel il siégera jusqu'en 1937. Aujourd'hui, son arrière-arrière petite fille, Céline Schobinger, championne de Suisse de tir-à-l'arc, est soutenue par la Banque dans l'activité de son sport, perpétuant ainsi en quelque sorte le lien qui unit la Caisse d'Epargne Riviera avec cette famille veveysane.
En 1899, alors que Vevey fête ses vignerons, un phénomène nouveau apparaît sur le marché de l'argent : la hausse générale de son loyer et donc des taux d'intérêts. Il faut relever que ces derniers n'ont presque pas bougé depuis 75 ans à la Caisse d'Epargne du District. Il vont fluctuer beaucoup entre 1900 et 1915. La surchauffe du début du XXème siècle montre le bout de son nez.
Les affaires sont florissantes. Par l'octroi de nombreux prêts, la Caisse soutient les artisants de la Ville : menuisier, libraire, scieur, charpentier, charron, lampiste, boucher, horloger, bijoutier, ferblantier, marchand de primeurs, poêlier fumiste en bénéficient, ainsi que les entreprises locales, telles que l'imprimeur Klausfelder Frères et la Société des Chocolats au Lait Peter. A cette époque, les relations avec l'Hôtel des Trois Couronnes se consolident et les tractations commencent avec l'Hôtel-Pension de famille, un voisin de la Banque.
En 1900, une enquête commandée par la Municipalité permet d'établir un portrait assez précis de la Commune de Vevey. Sur 758 immeubles dénombrés, il existe 2'772 logements, soit 12'229 locaux occupés par 11'128 personnes. On compte 669 immeubles alimentés en eau des Avants, 70 qui n'ont pas d'eau et 13 dont l'eau potable provient de sources particulières. L'enquête permet de constater qu'il y a pénurie de logements bon marché, avec un loyer plus ou moins en rapport avec le salaire des ouvriers et mdestes employés, soit dans le prix de 250 à 400 francs par année. La Municipalité de Vevey tire la conclusion qu'elle doit promouvoir plus activement la construction d'habitations bon marché. La Caisse d'Epargne du District souscrit à ce genre de propos. Le Conseil de Direction favorise la création de nouvelles constructions et étudie de nombreux dossiers proposant l'édification de logements neufs.
En 1901 la place du Marché accueille une Exposition Cantonale Vaudoise. La Caisse accorde un fonds de garantie pour cette manifestation. L'exposition se veut une vitrine du dynamisme économique, de l'inventivité cantonale et le miroir utopique d'un monde "presque" sans soucis. La Caisse d'Epargne se voit distinguée par l'attribution d'une médaille de bronze qui couronne la présentation de tableaux représentant l'évolution des affaires des caisses d'épargne publiques du canton.
En 1902, la Compagnie des Chemins de fer Electricques Veveysans construit un réseau de voies ferrées local et en 1903 le tramway est prolongé de Chillon à Villeneuve.
Durant les années 1906 et 1907 la Caisse octroie de nombreux prêts pour des montants inégalés. Le Conseil de Direction ne peut bientôt plus honorer les demandes de prêts faute de disponible. Les déposants se désintéressent de l'épargne, trouvant des opportunité de placement plus rémunératrices, par exemple dans des obligations et des actions de sociétés. La Caisse d'Epargne du District de Vevey fait face à des difficultés pour récolter des fonds. Durant cette période de surchauffe très marquée, la Caisse consacre ses derniers placements hypothécaires à la Ville de Vevey et à la maison Obrist & Cie. Elle décide alors de geler ses placements hypothécaires pour placer ses liquidités dans des capitaux réalisables à court terme.