途中，家康还特意到镰仓（位于今神奈川县）鹤冈八幡宫参拜，当然更没有忘记到埋葬赖朝的白旗宫去，在那儿，家康久久伫立在自己敬仰的赖朝像前，最后拍着赖朝像的肩膀，高声说：“真正取得天下的，只有赖朝公和我！”
“关八州古战录”中记载了当时家康的豪言壮语，从中我们不难看出家康当时的英雄气魄：
能徒手取天下者，唯汝与我而已。但你出身王族，乃义家公之后，而我，以一匹夫而能取得天下，此乃我胜你之处。这且不谈，你我乃神交至友。
离开了白旗宫，家康庞大的迁徙队伍继续东行，8月1日就浩浩荡荡地穿过了武藏野大草原，抵达了他们新的家园。
天正十八年（1590年）的八月一日这一天，是东京都最有意义的日子。这个名为城堡的地方已经荒废了很久，里面好几处都在漏水。家康看到疏疏落落的渔家也不禁有点泄气了。他站在海边观望了好一会儿，甚至对自己的决定有些动摇，不过总算又鼓起勇气，下定决心要把这里重建。家康任命神原康政担任总奉行（总执行官），亲自和懂得土木的伊奈忠次和板仓胜重商讨重建工作。
秀吉托孤
1598年，家康已经57岁了。年号也由天正改成了文禄，又由文禄改成了庆长。在这期间，家康为了开发江户倾注了很大的心力，他甚至完成了填海造陆的壮举，把挖掘樱田门（位于今东京千代田区）外壕的土拿来填海，做成了日比谷（位于今东京千代田区）的市区。
新城的建设渐渐上了轨道，家康很高兴，给家臣们论功行赏，还留在小田原的亲眷也都被接了过来，原先荒凉的城市顿时增加了许多生机和活力。不过人口一增加，对饮水的需要自然日益迫切，家康又派懂得土木工程的大久保忠行负责引水工程，务必尽快解决大家的饮水问题。忠行四处察看，终于在井头（位于今武藏野市）找到了水质最为理想的水源，就决定在此引水。首先，他沿着高田马场（位于今新宿区）到文京区的江户川公园筑堤，再用木制水槽把水引到城中各地区。全江户地区共需要60多公里的水槽。忠行还设计开凿了4000个水井，把水引来贮存其中，作为饮水及消防之用。工程总共耗时21年。这就是被称为“神田上水”的工程。
后来，家康又命玉川村的玉川庄右卫门、清右卫门兄弟，在新宿御苑的四谷大木户挖掘一条长达50公里的水道，以便另从多摩川的羽村引水，就是所谓的“玉川上水”。这对兄弟态度认真，受到了大家的赞赏，据说当经费用完时，他们就变卖家产支持下去，最后终于顺利完成了工程，一度被传为佳话。
建设江户的计划有些部分进行得并不顺利，只能算是勉强合格而已。这其中有部分原因是分散了精力，刚到江户不久，家康就派兵去讨伐残留在关八州的浪人；文禄元年（1592年），家康又随秀吉到肥前的名护屋参加了征伐朝鲜的战争。
随着时代的发展，秀吉很早就有从事海外贸易的计划，并且和当时中国的台湾及西班牙的吕宋岛（今菲律宾）取得联系。
当时，有些九州岛地区土著，在安南、泰国、朝鲜、中国等国的沿海地区半海盗半贸易地活跃着，他们被称为倭寇或八幡船。为了将来和中国正式贸易做打算，秀吉很希望能以朝鲜作为据点，于是秀吉便要求朝鲜入贡臣服，不料竟被拒绝，秀吉一怒之下派兵攻打朝鲜，于是就有了史上著名的“文禄·庆长之役”。
这一次战争历时7年之久，期间双方虽曾经达成和议，可是到了庆长二年（1597年），秀吉再次发动了攻势。不过秀吉在这次战争中遭到了失败，但秀吉和家康都认为能借此让世界各国对日本的实力有所认识，也是值得的。
征讨朝鲜之后不久，秀吉就在从京都醍醐寺赏花归来，途经新建的伏见城时病倒了。病来如山倒，秀吉自知不久于人世，唯独偏房淀君所生的当时只有6岁的秀赖，以及他死后丰臣家的命运让他放心不下。
家康闻讯后连忙赶去探望，秀吉对他说：“我死后，丰臣家的事情，一切拜托内府（指家康）了。秀赖还是个小孩子，希望你能起誓，对他不要有二心。”眼见曾经叱咤风云的秀吉病得如此衰弱，家康心中也有些感伤，忙安慰秀吉说：“请放心，我一定会保护秀赖公的，你安心养病，以便早日康复。”
秀吉临死前任命了五大老和五奉行，五大老分别是德川家康、前田利家、宇喜多秀家、上杉景胜和毛利辉元。五奉行分别是前田玄以、浅野长政、增田长盛、石田三成和长束正家。这些人在秀吉临死前都写下了誓死效忠秀赖的誓词，并按了手印。
秀吉安排完了这些事宜，于庆长三年（1598年）八月十八日，在伏见城去世了，享年63岁。丰臣秀吉临死前还留下了一首诗：
朝露消逝如我身，世事已成梦中梦；朝露消逝世犹存，空留惆怅无限情。
秀吉的遗书内容如下：
秀赖之事，再三拜托五大老，务使其顺利成长，详情已另有交代，特留此书，别无任何遗憾。
此致
家康（德川）
利家（前田）
辉元（毛利）
景胜（上杉）
秀家（宇喜多）
家康身为五大老的首席，秀吉相当于把孩子和天下都托付给了他，家康深感责任重大。
一代重臣就此远去，其妻北政所、侧室淀君和年幼的秀赖都伤痛欲绝。五大老经过一番商议之后，公推前田利家在大阪担任秀赖的监护人，而身为五大老首席的家康则在伏见城执政。五大老和五奉行一同重新向秀赖呈递表明忠诚的誓文。
当时酒井忠次、大久保忠世、本多作左卫门都已相继去世，正信成了家康最亲密的心腹。秀吉去世，家康成为五大老之首，本多正信对家康说：“主公，天下终于属德川家了。”
家康也毫不避讳地回答说：“我也这么认为。除我以外，没人能治理天下。”他又不无感慨地对正信说：“我受信长公的信赖，和信长公结为盟友，这15年来，我甘愿屈居农夫出身的秀吉之下，全是为了等待这一天的到来。”家康好像在长久的黑暗之后终于看到了曙光，长久以来的失意、绝望、困难都将成为过去，统一全国的愿望很快就要实现了。
激动过后，家康意识到前方的道路还是很漫长的。还有建设新城江户的工作尚待完成，真正治理天下的日子还不知何时才能到来，平静下来的家康还是有许多问题要处理。正在这时，石田三成突然出现在他面前，这个人是五奉行中最受秀吉信赖的，石田认为家康有篡夺天下的野心，所以一直对家康密切关注着。
39岁的三成就已经是近江（位于今滋贺县）佐和山的城主，领有粮饷很多，据说真正的实力在百万石以上。不过近年来他也树敌不少，由于深受秀吉赏识，三成常借秀吉之力压制别人。素来敌视石田三成的，有被称为丰臣七虎将的加藤清正、福岛正则、加藤嘉明、池田辉政、黑田长政、浅野幸长、细川忠兴等。
石田三成知道自己人缘不好，得罪了不少人，于是就极力拉拢毛利辉元、上杉景胜、宇喜多秀家、大谷刑部、增田长盛、小西行长、长束正家等，企图扩大自己的势力，最终达到掌握大权的目的。不过三成的野心并不是像家康那样想统一天下，他是希望在表面上仍奉秀赖为主君，由自己掌握实权。
丰臣家的明争暗斗已经不是一两天的事了，从前分为北政所派和淀君派，七虎将属北政所派；三成等人则属淀君派。看似风平浪静，实际上却潜伏着一股暗流。石田三成近来的态度日益嚣张，使得家康也不得不注意，但家康本人却不愿卷入这种纷争当中，然而那些人却不让他安宁，翌年，也就是庆长四年（1599年）一月中旬，突然传来消息，家康的首席大老的职务要被撤销了。
这是由石田三成、前田利家和其他大老及奉行共同商议决定的，当使者到家康处宣布的时候，家康勃然大怒：“什么？要撤去我大老的职务？”