Dem Land ist eine reiche natürliche Gliederung eigen. Fast zwei Drittel der Fläche erstrecken sich auf die Ostalpen (Zentralalpen, Nördliche und Südliche Kalkapen), die gleichsam das Rückgrat des Staatsgebietes bilden, von der Höhe des Bodensees im Westen bis zum Neusiedler See im Osten. Etwas mehr als ein Viertel der Gesamtfläche entfällt auf das Flach- und Hügelland, das sich als ein Band wechselnder Breite entlang der Donau, im Bereich des Wiener Beckens und am Alpenostrand entlangzieht. Ein Zehntel der Fläche wird schließlich zum Böhmischen Granitmassiv gerechnet.
Der Anteil am Kristallin der Böhmischen Masse erstreckt sich nördlich der Donau auf das Mühl- und Waldviertel. Die höchsten Erhebungen der waldreichen Rumpflandschaft erreichen 1400 m Höhe.
Die Böhmische Masse - hier findet man neben den Zentralalpen die ältesten Gesteine Österreichs - versinkt gegen Süden unter der Bedeckung von auflagernden mesozoischen Gesteinen und der tertiären Beckenfüllung des Alpenvorlandes. Eiszeitliche Schmelzwasser- und Gletscherablagerungen haben das Alpenvorland entscheidend geprägt.
Die Einheiten des Helvetikums, der Flyschzone und der Nördlichen Kalkalpen liegen dachziegelartig übereinandergeschoben. Anschließend folgen die ausgedehnten Kristallinmassen der Zentralalpen. Bis in die Region des ewigen Eises ragen die westlichen Zentralalpen mit ihren Gebirgsstöcken aus kristallinem Gestein (Silvretta, Ötztaler-, Stubaier Alpen, Hohe und Niedere Tauern, Koralpe, Saualpe und Semmering, Leithagebirge). Gegen Osten werden die Alpen niedriger und von Beckenlandschaften unterbrochen (Grazer Bucht, Klagenfurter und Wiener Becken).
Mit dem oststeirischen Hügelland schließt ein niedriges tertiäres Hügelland an den Alpenostrand an. Ebenfalls tertiären Ursprungs ist im Nordosten das hügelige Weinviertel.
