起初由于资本不足，“顺记”规模有限，所获利润也不像像预期的那样丰厚。叶澄衷节衣缩食，咬牙坚持度过创业之初的困难时期。1862年冬天，叶澄衷将“顺记”移至百老汇（今大名路），希望能够扩大营业。由于始终坚持诚信经商的原则，逐渐获得往来客户的信任，经营状况好转。
虹口地处黄浦江边，那里总是停泊着许多洋轮，又接近杨树浦工厂区，便于进行五金交易。因此，虹口百老汇一带不久便成为一个五金业的集聚地，上海70%的五金店都集中在这里。在众多五金店中，叶澄衷的“顺记”堪称数一数二的老大。这与他不因循守旧、重视调查研究市场信息，善于掌握商情变化有密切的关系。有人这样评价叶澄衷：“乐观时变，墨揣中外财计物产盛衰息轻之故，久之，得其肯綮”，还有人称他为“知欧事者”。
五金商品繁多，规格复杂，各店铺经营的品种又各有重点，不可能配备齐全，面对客户开出的一揽子要求，五金店铺很难应付。叶澄衷以自己的厚道与实力主导确立了同业拆借，这种经营理念一直延用至今，并为其它行业所借鉴。承接业务的这家店铺，这可以到同业去进行拆借，同业按照进货的价格上浮5%的利润，这个5%的利润就由两家经营的店铺互拆了互相平分，顾客到手的价格依然是市场价格。他确定了许多规矩，此后的五金行业基本上都遵照这些行规在操作。同业拆借照顾了整个行业，而且叶澄衷从来都是自家低价拆借给别家，从不向别家拆借，这让同行们非常佩服。
在当时的上海五金业，货物的来源被外国商人控制着，中国商人主要是经销。没有货源，中国商人只能赚些薄利。1870年，普法战争爆发，一名德国商人被召回国，他开设在北苏州路与乍浦路交叉口的可炽煤铁行只好盘出。叶澄衷获悉后，当既将其盘入，更名为可炽顺记煤铁行。开始由叶澄衷与他人合伙经营，三年后合伙人退出，叶澄衷独自经营，并改造为专门经煤铁的企业。这家是上海滩最早以经营进口煤和旧铁为主的商号，从此成为第一家华商经营的钢铁企业。盘入了这家商号，叶澄衷也就掌握了最重要的五金货源。从此，叶澄衷不断扩大经营范围，从五金、机械、钢铁直至军需器械和军服，并在全国各地开设了数十家分支机构，赢得了“五金大王”的美称。
19世纪80年代的时候，美国洛克菲勒的美孚石油，已经大量开采石油和提炼石油制品。早期的石油，主要用到的是火油，就是现在说的煤油。火油可以燃烧，也可点灯照明，当时相当一部分用于照明。洛克菲勒为了打开中国市场，花费了很大的精力。但是立足未稳，美孚即遭到了英国亚细亚石油公司和美国德士古石油公司的夹击。最后，美孚看中了叶澄衷的声誉和能力，找到了他。
在见面之前，叶澄衷已经对有关火油销售的背景情况做了深入的调查了解。他知道当时在上海销售火油的公司，除了美孚以外，还有英国的亚细亚石油公司和美国的德士古石油公司，当时除租界外，使用火油灯的用户还不多，所以，三家公司都急于扩展销售范围，而中国农村是火油的最大潜在市场，可是面对中国复杂的地方势力，混乱的货币制度、度量衡制度，洋行很难把火油销往内地。
了解了三家外国石油公司竞争的态势，当然也就洞察了美孚这时候的急迫心境。在谈判时，叶澄衷表现得很冷静，并没有马上答应，而是先向美孚表明亚细亚石油公司、德士古石油公司也想在中国找代理。这样一来，美孚石油公司生怕叶澄衷被其他两家石油公司聘去做代理，只能答应叶澄衷提出的所有条件——代理人的佣金由常规的20%提高到25%，除原来的代理商老晋隆外，由叶澄衷长期经销，并且货到后90天结账。
根据这个合同，叶澄衷充分利用90天结交货款的时间差（他与内地商户结算的时间为一个月左右），周转资金，发展业务，做地产和钱庄放贷生意，而且无需支付分文利息。这样一来，他除了能获得经销权规定的利益外，还能获得其他额外利益，包括利用货源多少、到货时间的迟早，操纵市场、左右油价，从中获取超额利润，其他顺记号在各地的分支机构也因经销美孚火油而创造了一种无成本的广告效应。利用“顺记”早已建立的通道，叶澄衷利用上海虹口码头，把美孚火油源源不断地销往中国内地。通畅的销货渠道，又可以使叶澄衷快速地回笼资金，做短期投资之用。
在10年的独家代理期间，叶澄衷究竟赚到了多少钱，谁也说不清。尽管以后美孚公司与叶澄衷在业务上发生矛盾，终止了代销合同，然而顺记号经营火油的业务并未中断，叶澄衷仍然是历年不变的“火油董事”。