George W. Bush’un Savunma Bakanı Rumsfeld, 4 dönem boyunca Amerika Birleşik Devletleri Temsilciler Meclisinde Illinois temsilcisi olarak görev yapmış, 1973-1974 yılları arasında Amerika Birleşik Devletleri'nin NATO örgütü nezdindeki elçilik görevinde de bulunmuştu.
1975-1977 yılları arasında Gerald Ford Hükümeti'nde 13. Savunma Bakanı oldu. Yıllar sonra George W. Bush'un başkanı olduğu ABD hükûmetinde 2001-2006 yılları arasında 6 yıla yakın bir süre 21. Savunma Bakanı olarak görev yaptı.
ABD'deki 2006 yılı ara seçimleri kamuoyunda ABD'nin Irak siyaseti konusunda bir referandum olarak algılandı. İktidardaki Cumhuriyetçi Parti'nin bu seçimlerde ağır bir yenilgiye uğraması üzerine 8 Kasım 2006 tarihinde görevden ayrılmak zorunda kaldı.