Die Gründung der Raiffeisenbank als genossenschaftliches Kreditinstitut basierte auf der Idee einer Selbsthilfe und einer Haftungssolidarität für kleine und mittlere Betriebe der Landwirtschaft und des Gewerbes. Man schrieb etwa die Mitte des 19. Jahrhunderts als diese Ideen zum ersten Mal in die Realität umgesetzt werden konnten.
Dadurch konnte man die Beschaffung von Rohstoffen, Düngemitteln und Saatgut sicherstellen, aber auch dringend benötigte Kredite anbieten. Am Beginn waren diese Raiffeisenkassen und Banken nur sehr kleine Institute, welche oft auch nur nebenberuflich betrieben wurden. Erst mit der Zeit wuchs man zu einer ungeahnten Grösse am Finanzmarkt heran. Heute gibt es 570 autonome Raiffeisenbanken alleine in Österreich.
In Österreich entstand im Jahre 1886 die erste Raiffeisenbank im niederösterreichischen Mühldorf bei Spitz in der Wachau. Die Idee einer Genossenschaft entstand aber schon viel früher in Deutschland und England.
Vor allem im ländlichen Bereich wuchs die Raiffeisenbank sehr schnell und wurde eine starke Konkurrenz und ein wichtiger Faktor im österreichischen Bankengeschäft. 1898 wurde der Raiffeisenverband Österreich gegründet, und 1927 vermeldete man die Gründung der Raiffeisen Zentralbank Österreich AG (RZB).