Rudolf Rittner wurde am 30. Juni 1869 in Weißbach bei Jauernig in Österreich-Ungarn (heute Bílý Potok, Tschechien) geboren. Er war der Sohn des Gutsbesitzers und Bürgermeisters Franz Rittner. Seine Ahnenreihe soll er damaligen Zeitungsartikeln zufolge mehr als sechshundert Jahre in die Vergangenheit zurückzuverfolgen in der Lage gewesen sein. Bereits mit zwölf Jahren verließ er seinen Geburtsort im Sudetenland, um am Konservatorium in Wien Musik zu studieren. 1887 wechselte er dort auf die Schauspielschule – ohne Wissen seiner Eltern, die der neuen Berufung skeptisch gegenüber standen. Nach Abschluss seiner Ausbildung wirkte er am Residenztheater in Berlin, trat in Köln und Hamburg und in anderen deutschen Städten auf und kam 1894 wiederum nach Berlin, diesmal an das Deutsche Theater, wo er zehn Jahre lang wirkte und schließlich von dort für drei Jahre an das Lessingtheater wechselte.
Im Frühjahr 1893 wirkte er in der Rolle des Hans an der Uraufführung von Max Halbes Stück Jugend mit. Später wurde er v.a. als Darsteller in Werken von Gerhart Hauptmann bekannt, so als Fuhrmann Henschel, als Reservist Moritz Jäger in Die Weber und insbesondere als Ritter und Bauernführer Florian Geyer. In dieser Rolle porträtierte ihn Lovis Corinth im Jahre 1906. Florian Geyer, zeitweise beinahe schon als neues deutsches Nationalepos gesehen, war es auch, das Rittner zu großem Ruhm verhelfen sollte, hatte er das zuvor kaum beachtete Stück durch sein schauspielerisches Talent doch erst zu einem Erfolg werden lassen. 1907 schließlich, im Alter von 38 Jahren, auf dem Höhepunkt seiner Karriere stehend, verließ er zur allgemeinen Überraschung das Theater und zog sich in seinen Geburtsort zurück, um sich der bäuerlichen Arbeit auf seinem Hof zu widmen. Nur kurz war er hiernach Direktoriumsmitglied der Sozietät des Deutschen Künstlertheaters.
1922 kehrte Rittner in die Öffentlichkeit zurück. Im Stummfilm Der Graf von Charolais spielte er den Hauptmann Romont. Zwei Jahre darauf war er als Markgraf Rüdiger von Bechlarn in Fritz Langs Publikumserfolg Die Nibelungen zu sehen, 1927 als Hans Sachs in Der Meister von Nürnberg, zu dem er selbst das Drehbuch verfasst hatte. Nach seinem letzten Film, Väter und Söhne, zog er sich 1930 mit 61 Jahren endgültig ins Privatleben zurück.
Rudolf Rittner starb am Morgen des 4. Februar 1943 auf seinem Hof in Weißbach. Sein Tod rief noch einmal reichsweit seine schauspielerischen Erfolge in Erinnerung. Bereits zu dieser Zeit war er der breiten Öffentlichkeit größtenteils nur noch von Corinths Porträt des Florian Geyer bekannt. Rittner hinterließ der Nachwelt zwei Bühnenstücke, das Schauspiel Wiederfinden (1901) und das Spielmannsdrama Narrenglanz (1906).