שרדר נולד במערב ממלכת פרוסיה. החל ללמוד משפטים באוניברסיטת קניגסברג, למד שני סמסטרים באוניברסיטת אדינבורו וסיים את לימודיו באוניברסיטת בון בשנת 1932. הוא עבר את המבחנים לאישור עבודה כעורך דין בגרמניה בשנים 1932 ו-1936. הוא קיבל דוקטורט בשנת 1934. במהלך לימודיו בבון הוא היה פעיל במפלגת העם הגרמנית השמרנית, אולם לאחר עליית הנאצים לשלטון הצטרף ב-1 באפריל 1933 למפלגה הנאצית[1]. נטען ששרדר גם היה חבר האס אה[2], אולם שרדר הכחיש זאת וטען ששמו הועלה כמועמד לחברות אך מכיוון שלא הביע עניין בכך, נמחק מרשימת המבקשים להצטרף[3].
לאחר קבלת הדוקטורט עבד במכון קייזר וילהלם בברלין ולאחר מכן במשרד עורכי דין, הוסמך לעורך דין בשנת 1939 והתמחה בדיני מיסים. עזב את המפלגה הנאצית במאי 1941, בעת שנשא לאישה את בריג'ט לנדסברג שהייתה יהודיה למחצה, לאחר שקיבל רשות מיוחדת לכך. במהלך מלחמת העולם השנייה הוא שירת בצבא גרמניה. לאחר המלחמה הוא עבר כפקיד ממשלתי בנורדריין-וסטפאליה, בארגון מחדש של תעשיית המכרות והפלדה. בשנת 1949 הוא נבחר לבונדסטאג הראשון[4].
בשנת 1953 התמנה לשר הפנים של מערב גרמניה. בשנת 1961 התמנה לשר החוץ[5]. הוא תמך בקשירת קשרים עם העולם הערבי והתנגד לאספקת נשק לישראל[6]. בשנת 1966 עבר לכהן כשר ההגנה. בעת ההמתנה למלחמת ששת הימים התנגד למשלוח מסכות גז ממחסני צבא גרמניה לישראל, בטענה שהצבא הגרמני זקוק להן[7].
במענה לביקורת על קשרים של בריטניה עם ממשלת גרמניה, בה מכהן שרדר בעל העבר הנאצי, נטען שהוא גורש מהמפלגה בגלל נישואיו לאישה ממוצא יהודי וכי לאחר מכן היה קשור לגורמים אנטי-נאציים[8]. שרדר עצמו טען שהוא הצטרף למפלגה הנאצית כדי להתקדם ולא מסיבות אידאולוגיות, וכי לא היה פעיל במפלגה.
לאחר מעבר מפלגתו לאופוזיציה כיהן שרדר כיו"ר ועדת החוץ של הבונדסטאג. בספטמבר 1971 ביקר בישראל[10] והצהיר שהוא רוצה יחסים כלכליים בין המדינות ולא סיוע בנשק[7]. עתירה לבג"ץ שהגיש גדעון ספירו בדרישה להעמיד את שרדר לדין נדחתה כ"טרדנות"[11]. הוא ביקר בישראל שוב בספטמבר 1974, בראש משלחת של ועדת החוץ של הבונדסטאג[12].