武士彠家世门第一般，木材商人出身，为文水小姓，因跟随李渊起兵反隋，并倾全部资产资助李渊，而功成名就，位列二等“太原元谋勋效功臣”，是大唐开国功勋之一，是李渊“太原元从”的重臣，受李渊重用，也曾为李渊立下汗马功劳，被封为“应国公”。
李渊曾言“欲使卿一门三公”，所以他的两个哥哥也曾有小功，李渊也封了他的哥哥及其相关宗亲。
武士彠已经死了三年，当时在任荆州都督，贞观九年李渊于五月驾崩，他得知后悲痛呕血而死，死后李世民大为感动，追赠为礼部尚书，谥号“定”。
武士彠为武华的第四子，早年经营木材，在隋炀帝时期，可以说赚了不少钱财，得罪了隋朝宰相杨素，于隋炀帝大业七年开始逃隐，后出山跟随李渊反隋，并出财协助李渊。
李渊称帝后，论功行赏，他被封为二等“太原元谋勋效功臣”，任命他为尚书省兵部的库部司，掌握全国武器军备设施。当时国家初建，群雄并列，战争时有发生，兵部库部司实在是重中之重，虽然只是正五品，但却是皇帝重要的后勤保障大臣。
后武德三年武士彠升正三品工部尚书，位列国之大臣“八座”之一，兼以本官任检校右厢宿卫的禁军，同时参与唐朝令典的编修，后被封为一品应国公。武德皇帝对他的信任和重用有此可见，他不止是武德年间的八大宰辅，更掌管着皇帝的亲信禁军，说他是“当世勋贵”一点不假。
当世勋贵，倍受皇帝宠信，可惜天公不作美，四个儿子中的两个儿子相续于武德五年病死。当时武士彠军职在身，无瑕照顾，甚至连探望都没有回去，依然勉力从公，严令家人不得声张丧子之事。一年之后，更沉痛的事情又跟着传来，他原配夫人相里氏，因痛失爱子，积痛成疾，也因病亡故了。这中年丧子丧偶，何止悲惨，他更因军务无法回家，于是忍着心中悲伤，依然勤于政事。
武德六年武士彠爵位已经是义原郡开国公，他虽然严令家人不能声张，但是相里氏的身份已经是外命妇，死讯必须上报朝廷有关部门。武德皇帝得知后，感动的痛哭流涕，下诏褒奖：“此人中节有余，去年儿夭，今日妇亡，相去非远，未尝言及，遗身殉国，举无可比！”之后，皇帝在京城赐宅院，将其二子接入京城，派专人照料，私下里开始为武士彠求偶。