韦孝宽，陕西西安人，出身在将门之家。他少年从军，为人深沉机敏，温和正直。年轻时，韦孝宽就显示出非常出色的军事才能。一次，关中发动叛乱，二十岁的韦孝宽前往北魏都城洛阳，毛遂自荐，要求朝廷让他担任平叛大军的先锋。朝廷对他的自告奋勇很是欣赏，便任命他为统军。西魏时期，韦孝宽一直率军在边境与东魏作战，屡立战功。
西魏大统八年（542年）韦孝宽被派驻守王壁。这是一处战略要地。大统十二年十月，东魏丞相高欢率倾国之兵攻打玉壁。攻下玉壁，东魏可长驱直入西魏境内。东魏大军连营数十里，声势浩大，军威雄壮。韦孝宽奉命坚守玉壁。东魏军队依仗兵多势众，堆起土山，企图居高临下向玉壁城中的西魏军队攻击，但韦孝宽却以木代土，在城中搭起木楼，超出敌人土山的高度，使高欢的第一招失败。
高欢改变了战术，集中兵力昼夜不停攻击地势险要的北城。当然，城北的动作是为了声东击西。他命令士兵们在城南向城内挖掘多条地道。韦孝宽立刻针锋相对地在城南挖掘壕沟，以切断东魏军的地道。并在壕沟中屯集重兵，每当东魏军挖通一条地道，就遭到壕沟中守军的还击。守军还在地道口堆积木柴，发现敌军在地道中潜伏，便将木柴塞进地道，点燃起来。在牛皮囊鼓风作用下，地道中烈火浓烟弥漫，烟熏火燎之下，东魏士兵只得连滚带爬地退了回去。高欢第二招又告失败。
高欢又生出新的主意，他在士兵中选出一批能工巧匠来制造战车。车头和车身都包着铁皮，众多兵士推着这种战车撞击，所到之处，墙倒屋塌，即使设置栅栏也挡不住，威力简直如同现代的坦克一般。韦孝宽还是没被难倒，他用布匹做成大帐幔，对着敌军的战车方向张开。高欢的战车撞过来，布幔不仅遮挡住了视线，而且受到冲击立即悬空。布幔怎么也撞不坏，城墙也被保护住了。
高欢让东魏军在长竹竿上绑缠麻布，浇上膏油，点火后去焚烧布幔，企图连玉壁城楼一起焚毁。城楼上的韦孝宽则让兵士们在长杆上绑扎锐利的钩刀，东魏的火杆攻击时，城上就伸出远远地钩刀去割，把点燃的麻布割落，火焰反而阻挡了东魏军的进攻。高欢命令筑起堤坝，让流经城内的汾水改道，以断绝城中水源。韦孝宽便发动人力，在城内打井取水饮用。高欢转而再在城墙下挖掘地道，先用木柱支撑起来，然后放火烧断木柱，使城墙崩塌。韦孝宽则在城墙崩塌处用栅栏堵住，东魏军还是无法攻入城内。
高欢攻城50天，始终无可奈何，反而士兵战死和病死多达7万人。心力交瘁的高欢急得旧病复发。这时恰有陨石坠落，正好砸在了高欢的军营里，引起一片惊恐。高欢只好解除对玉壁城的包围，退兵东归。回到晋阳后，高欢一病不起，不仅就去世了。
经此玉壁一战，原本东魏强于西魏的形势开始反转，从此两魏进入相持阶段。韦孝宽也被加授骠骑大将军，封为建忠郡公爵。西魏变成北周后，韦孝宽依旧是朝廷倚重的大将，从西魏到北周，他在这个战略要地玉璧镇守了32年之久。
周武帝宇文邕即位后,于玉壁特设勋州,授韦孝宽为勋州刺史。保定四年(564),进位柱国。天和五年(570),进爵勋国公。利用反间计,杀东魏大将斛律光。建德年间,上疏武帝宇文邕,建议励精图治、发展生产、壮大兵力、稳定人心,然后相机灭齐。北齐灭后,拜大司空,进位上柱国。
北周统一北方后，579年，韦孝宽被任命为行军元帅，领军攻打南朝的淮河以南地区。先后攻克寿阳、广陵、霍州等地。陈军难以抵挡，只好退往江南。长江以北的土地全部归于北周。第二年，71岁高龄的韦孝宽担任大元帅，征讨叛军尉迟迥。在平定叛乱，凯旋而归后不久，便因病溘然长逝了。
