בשנת 1998 הוביל את מפלגת הירוקים בבחירות ומונה על ידי קנצלר גרמניהגרהרד שרדר לתפקיד ממלא מקום ראש הממשלה ושר החוץ של גרמניה. זהו התפקיד הבכיר ביותר אליו הגיע פוליטיקאי ממפלגת הירוקים בגרמניה. אף ברוב מדינות העולם האחרות לא הגיעו פוליטיקאים ירוקים לתפקידים כה בכירים.
בבחירות שנערכו ב-2002 הוביל את מפלגתו לניצחון סוחף; שרדר נדרש לקולות הירוקים על-מנת להקים קואליציה. בבחירות שנערכו בספטמבר 2005 צמצמה מפלגת הירוקים את כוחה והפכה למפלגה הקטנה ביותר בפרלמנט הגרמני ופישר פרש מפעילות פוליטית. ב-27 ביוני2006 הודיע פישר על פרישתו הסופית מהמפלגה ומהחיים הפוליטיים ועל כוונתו להפוך, החל מסתיו 2006, לפרופסור אורח באוניברסיטת פרינסטון.