段文昌节度荆南时，当地如若久旱，一经祈祷便会下雨，如若久雨，遇到他出游便会晴天。荆南百姓为此作谚语道：“旱不苦，祷而雨；雨不愁，公出游。”
早年经历
段文昌自幼客居荆州，为人豁达豪爽，不拘小节，节度使裴胄虽知其才，但却不能加以任用。贞元十七年（801年），段文昌入蜀，被西川节度使韦皋辟为幕僚，授校书郎，后任灵池县尉。
累职拜相
元和元年（806年），朝廷因西川节度副使刘辟讨要节度使之位，命大将高崇文征讨西川。高崇文攻入成都，将刘辟槛送长安，并向朝廷推荐房式、韦乾度等归降的西川参佐。段文昌也在归降官员之中，虽受高崇文重视，但并未得到举荐。
元和二年（807年），李吉甫拜相。段文昌曾在李吉甫担任忠州刺史时前往干谒，因此得到提拔，被擢升为登封县尉、集贤校理，后历任监察御史、补阙、祠部员外郎。后来，唐宪宗欲授段文昌为翰林学士，但被宰相韦贯之阻挠。元和十一年（816年），韦贯之罢相。段文昌得授翰林学士，并升任祠部郎中，获赐绯色官衣。
元和十二年（817年），宰相裴度平定淮西之乱。刑部侍郎韩愈奉诏撰写《平淮西碑》，大力歌颂裴度的功勋。李愬在平乱时功居第一，在碑文中却甚少提及，因此愤愤不平。其妻韦氏向皇帝申诉，称碑文内容不实。唐宪宗遂命人将韩愈的碑文磨去，让段文昌重新撰写。元和十四年（819年），段文昌又加知制诰。
元和十五年（820年），唐穆宗继位。段文昌被召入思政殿，以备顾问，不久便被拜为宰相，授为中书侍郎、同中书门下平章事。
出居藩镇
长庆元年（821年），段文昌上疏，请辞相位。唐穆宗遂任命段文昌为西川节度使、同中书门下平章事。段文昌素知蜀地民情，到任后虽治政宽仁，但却法纪严明，深受蛮夷畏服。
长庆二年（822年），云南蛮族侵入黔中。朝廷接到黔中观察使崔元略的奏疏，非常担忧，诏命段文昌严加防备。段文昌派使者前往谈判，蛮族退兵而去。长庆四年（824年），唐敬宗继位。段文昌被征拜为邢部尚书，后改任兵部尚书，并代理尚书左丞。
826年（宝历二年），唐文宗继位。段文昌升任御史大夫，进封邹平郡公，后又出镇淮南，授检校尚书右仆射、同平章事、淮南节度使。太和四年（830年），唐文宗调段文昌为荆南节度使，改授检校左仆射。太和六年（832年），段文昌再次出任西川节度使。
无疾而终
太和九年（835年），唐文宗派宦官到西川赏赐春衣。段文昌可能是兴奋过度，刚刚受宣完毕便突然去世，时年六十三岁，被追赠为太尉。