Dzimis 1916. gadā mācītāja ģimenē. 1936. gadā iestājās Luftwaffe dienestā. Iesākumā tika uzskatīts par nemākulīgu pilotu, tāpēc Otrā pasaules kara laikā līdz pat Vācijas uzbrukumam PSRS kaujas darbībā piedalījās tikai netieši. 1941. gada 23. septembrī viņam kopā ar otru ekipāžu Kronštatē izdevās nogremdēt padomju līnijkuģi "Marats". Kara laikā Rūdelam izdevās iznīcināt apmēram 2000 mērķu. Karoja arī Latvijā, kur 1944. gada 19. augustā pie Ērgļiem notriekts, tomēr spējis piezemēties frontes vācu pusē.
Kara beigās 1945. gadā padevās ASV spēkiem. Pavadīja 11 mēnešus karagūstekņu nometnē, tika atbrīvots un devās uz Argentīnu, kur kļuva par diktatora Huana Perona draugu. 1953. gadā atgriezās Vācijā un iesaistījās politikā, darbojoties galēji labējā Vācu Reiha partijā (Deutsche Reichspartei).