1870年，李鸿章任湖广总督并受命去陕西镇压回民起义，盛宣怀的父亲盛康与李鸿章为故交，就推荐自己的儿子入了李鸿章的幕府，让科举考试失败的盛宣怀跟随当时最大的洋务派首领李鸿章学洋务，以便从另一条道路取得发展。
李鸿章对这位世侄的才华早已有所闻，所以一开始就很器重他，委派他为行营文案兼做营务处会办，以机要秘书的身份随侍李鸿章左右。盛宣怀也很重视这一发展自己的机会，他对李鸿章的托付都尽力去作好，卖力去工作，因而很快就得到李鸿章的赏识和信任。他以一个秀才出身，出任李鸿章的幕僚不到一年，就被破格提升为知府、道员衔，并获得赏赐花翎二品顶戴的荣誉。
李鸿章入陕西镇压回民起义不久，天津发生教案，列强陈兵海上威胁，清政府急将善办洋务的李鸿章调往直隶（今河北省），处理天津教案。这时盛宣怀亦随从李鸿章到了天津，被任命为会办陕甘后路粮台和在淮军后路营务处工作。这是专为军队采购供应军需品的差事。他为此经常往来于天津、上海等地，更多地接触到洋务，也对外部世界有了初步的认识，对于他以后长期跟随李鸿章，经办以发展近代资本主义工商业为中心的洋务事业，奠定了思想和业务基础。
盛宣怀独当一面担任政府官职，始于1879年河间兵备道（道是府、州级官员），后来在1884年还兼任过4个月的天津海关道。但此二职均为临时代理，任期时间都很短，所以没有什么明显的政绩。实际授任官职并有所作为的，开始于1886年任山东登莱青道兼烟台海关监督。盛宣怀在山东烟台任职期间，政绩还是比较好的。当地有一条小清河，终年泛滥成灾，为了根除水患，他经过科学勘察和计算，决定加以疏浚。他用以工代赈的办法，用了3年的功夫，疏通河道400里，终于解决了沿河9个县的水患问题。他还利用自己在招商局对交通运输重要性的认识，在山东开办了内河小火轮航运，方便了当地的客货运输。他见当地盛产葡萄，就建立了张裕公司，按照西法用葡萄酿酒，也取得了成功。
盛宣怀在山东任职6年后，就被李鸿章调到天津正式担任了海关道。他在天津任职的4年期间，正是甲午战争前后外国侵华战争不断，天津这一战略要地首当其冲的时期。他充分利用自己的方便地位，为李鸿章提供情报，出谋献策，充当了重要的耳目和参谋。
天津海关道的地位虽然十分重要，但毕竟还是一个地方官，并没有满足盛宣怀做大官的愿望，但却为他做大官奠定了基础。所以到1896年被委任为铁路总公司的督办后，很快就被授为太常寺少卿，次年又被授为大理寺少卿。
这些职务虽然都属于荣誉头衔，并无实权，但却表明他已进入中央的官位，有权参与中央的事务了。在他被授予太常寺少卿的同时，也给予了专折奏事的权利，就证明了这一点。随后，他就利用这一特权，向皇帝呈上了名为《条陈自强大计折》的第一个奏折，详细地从练兵、理财和育才三个方面，陈述了自己办洋务的主张。
盛宣怀做到的最高官职是邮传部尚书。这时已经到了清朝即将被推翻的时候了。在这之前，他还做过会办商务大臣、商税大臣、商约大臣，也当过工部左侍郎、邮传部右侍郎。一个秀才出身的人，能依赖办洋务做到这样的高官，也算不容易了。
盛宣怀所以能长期成为李鸿章办洋务的左右手，除了他办事的才干和认真负责的精神受到李鸿章的推崇外，更重要的是他与李鸿章在兴办洋务的认识上，观点比较一致，看法比较相同。他们都从维护清朝统治的根本利益出发，认为国家要想强盛，必须引进国外的先进技术，兴办以近代的工商业为中心的洋务。而洋务的发展，又要依靠清政府的支持，依赖洋务派官僚的权力。所以要办大事，搞洋务，必须兼做高官。没有权力的支持和维护，洋务是搞不成的。这是李鸿章办洋务走的路，也是盛宣怀办洋务要走的路。