北洋军阀皖系首领，字芝泉，安徽合肥人，俗称段合肥。祖父佩，办团练起家，官至淮军统领;父早死，自幼随祖父读书。
光绪十一年(公元1885年)，考入天津武备学堂炮兵科，毕业后由李鸿章派赴德国学习军事。1890年回国，先后任北洋军械局委员、威海随营武备学堂教习。1896年被袁世凯调天津小站练兵，任炮队统带兼随营学堂监督。1899年随袁赴山东镇压义和团。1901年升任武卫右军各学堂总办，随袁至保定。次年，任北洋军政司参谋处总办，不久升为补用道员，带兵到广宗县镇压景廷宾起义，因功被赏戴花翎，加“勇”号。1903年末，任练兵处军令司正使，并加副都统衔，为袁扩编北洋军的重要帮手。人们把他与冯国璋、王士珍称为“北洋三杰”，又称为袁的“龙、虎、狗”。
1904年兼署北洋常备军第三镇翼长。次年，调任第四镇统制兼河间秋操北军总统。1906年调署第三统制，兼督理北洋武备各学堂，旋补授福建汀州镇总兵，充保定军官学堂总办、陆军各学堂督理、会考陆军留学毕业生主试大臣等。袁被罢黜后，调第六镇统制，又任江北提督，驻江苏清江。
1911年辛亥革命爆发，清廷起用袁，同时召他入京，任为第二军军统，奉命去湖北镇压革命。袁组阁后，派他署湖广总督，任第一军军统兼领湖北前线各军。1912年袁窃国后， 历任陆军总长、代国务总理等职，曾镇压孙中山的二次革命和白朗起义。后因对袁不满，1915年袁称帝时， 称病不出。1916年袁死后，黎元洪继任总统，他任国务总理，掌握北京政府大权。1917年，利用张勋复辟把黎赶下台，迎直系首领冯国璋为总统，自为国务总理兼陆军总长。1918年5月，和日本秘密签订《中日军事协定》，出卖中国主权，向日本借款，扩编自己嫡系军队三个师四个混成旅，并组织安福俱乐部，制造皖系把持的安福国会。
1920年被直系军阀曹锟、吴佩孚打败下台，逃居天津日租界。1924年第二次直奉战争中，冯玉祥的国民军回师北京，推翻了直系的统治，又被奉系及冯玉祥推为北京临时政府执政。1926年3月屠杀北京爱国群众，造成三一八惨案，激起全国人民义愤。同年4月又被国民军赶下台，逃往天津租界，自号正道居士。1936年11月2日病死于上海。
段祺瑞一生清正耿介，颇具人格魅力，曾四任总理，四任陆军总长，一任参谋总长，一任国家元首。是中国现代化军队的第一任陆军总长和炮兵司令。任过中国第一所现代化军事学校——保定军校的总办。
段祺瑞派心腹徐树铮收复外蒙居功至伟。辛亥革命后，外蒙古因沙俄扶植脱离中国，当时的中国根本无力与沙俄对抗，然而段祺瑞瞅准俄国爆发十月革命，无暇顾及外蒙，派徐树铮一举收复外蒙，举国人民欢欣鼓舞。外蒙的回归，不仅打击了民族分裂势力，更保证了中华民国的领土完整与主权统一。在这一点上，作为当时的政府首脑，段祺瑞值得称颂。
他信佛吃素，为人严肃刻板，不苟言笑，生活朴素，清廉如水，无积蓄房产，不抽、不喝、不嫖、不赌、不贪、不占，人称“六不总理”；一生酷爱围棋，资助过大批围棋手（包括吴清源），被称作“中国围棋的大后台”，还好打牌；段祺瑞喜用私人，刚愎自用，在军事上并无出色战功和理论，有非凡的组织才能，善于利用政治手腕和军事手腕维护自己的统治，因致电逼迫清帝退位、抵制袁世凯称帝和讨伐张勋复辟这三件事，有“三造共和”的美誉。
“九·一八”事变后，日本人曾胁迫段祺瑞去东北组织傀儡政府，段严词拒绝。为避免日本人的要挟，段祺瑞举家迁来上海，公开表明自己的抗日态度。他接受《申报》记者采访时说：“日本暴横行为，已到情不能感、理不可喻之地步。我国惟有上下一心一德，努力自求。语云：求人不如求己。全国积极准备，合力应付，则虽有十日本，何足畏哉？”“爱国朝野一致，救国惟有自救耳。”
1933年1月，蒋介石派专使迎段祺瑞南下，委以“国府委员”衔。
