刘备痊愈之后，三兄弟无颜再返回刘子平那里，当初是自己主动要求出来的，现在一败涂地，怎么好再厚着脸皮回去呢。于是，他们带着硕果仅存的二三十个弟兄继续流浪。
中平五年（公元188年），刘关张来到了东汉首都洛阳。和关羽当年到河东郡首府安邑去找机会一样，三兄弟抱着同样的目的来到了首都。
首都里虽然有的是达官显贵、各种衙门，他们却投靠无门，辗转奔波了很多天，一直没有眉目。没有人愿意理睬，更没有愿意收留他们。三兄弟就像没头苍蝇一样在首都到处乱撞，却没有一扇门朝他们打开。最后，三个人筋疲力尽，几乎要绝望了。
这一日，三兄弟心情压抑，到一座酒楼里喝酒。正喝着，忽然从外面闯进一群人来，为首的一人五短身材，皮肤黝黑，长得很丑。关羽自己高大挺拔、英俊儒雅，见到这种貌似小丑一样的人本来就有些不屑，又见他们大呼小叫，非常嚣张，心情郁闷的关羽禁不住骂了一句，“哪里来的鼠辈？”
不曾想，为首那人恰好听到，回骂道：“你说什么？你这个无名鼠辈，胆敢在本将军面前大放厥词，我看你是不想活了！”
刘备一把没拉住，关羽霍然站起身来，怒视着那人，“你这副尊荣，恐怕有辱军威吧！”
对方被激怒了，一挥手，“给我抓起来！”身后的一群随从一拥而上，扑向关羽。三兄弟只好出手，一群人就在酒楼里打成了一团。
为首那人倒气定神闲，很有临危不乱的大将风度。看酒楼里的其他客人都夺路而逃，老板伙计也都藏了起来，他就找了角落里的一张桌子坐下，拿起桌上的酒壶自斟自饮，在旁边饶有兴味地看热闹。
对方虽然人多，但刘关张都是身经百战，很快就放倒了四五个打手。为首那人看到这种情景，大喝一声：“都给我住手！”
他大步走到三兄弟面前，拱手说：“我乃典军校尉曹孟德，方才多有得罪，不知几位壮士尊姓大名？”
此言一出，刘备吓出了一身冷汗。原来，黄巾之乱后，汉灵帝建立了一支西园新军，都是帝国的精锐之师。统军将领称为“西园八校尉”，曹操就是其中之一。曹操在军队中的级别之高，相当于现在的大军区司令，是当时还默默无闻的刘备等人须仰视才见的。与这样的人群殴，刘备岂能不怕？
刘备连连谢罪，乞求曹操原谅，但关羽生性高傲，倔强地不肯低头认错。曹操倒也宽宏大量，不再与他计较。
“我今天闲来无事，到街上逛一逛，不想与三位相遇，看三位身手了得，应该是出身行伍、久经战阵的豪杰。我们不打不相识，我曹孟德识英雄、重英雄，不如我们把酒言欢，交个朋友，怎么样？”
能结识这样的高级将领，刘备求之不得，关羽和张飞见对方如此豪爽，也就不好再与之僵持下去，气氛瞬间缓和了下来。
曹操叫来老板，“所有的损失你估摸个数，全包在我身上。在楼上摆一桌，我与三位豪杰一醉方休！”
刘关张就这样与曹操相识。几个人聊得很投机，特别是曹操和刘备，都爱好声色犬马，自然有很多共同语言。对于这个骂自己是“鼠辈”的关羽，曹操反倒很敬重。
此后，在曹操的介绍下，三兄弟结识了一些军中将领，机会之门戏剧性地再次打开了。曹操去沛国募兵的时候，还特意带上了刘关张三兄弟。
第二年四月，汉灵帝驾崩，大将军何进拥立刘辩为帝。为了与宦官势力对抗，何进谋划招募天下豪杰进京，并派都尉毋丘毅去丹阳（安徽宣城）募兵，刘关张带领部属随行。
这日，一行人赶到下邳（江苏睢宁西北），由于天色已晚，就在一个山丘上扎营。入夜后，关羽负责巡营，月明星稀、万籁俱寂，关羽伫立在山丘上俯瞰笼罩在茫茫夜色中的大地，浮想联翩。
他想起了至今杳无音信的妻儿，想起了尚在安喜的干娘，甚至想起了那个赠刀给自己的老人以及临别时他留下的那六个字——“雨水盛，麦子亡”。他一直参不透其中的玄机，真想找到那个老人再问问他啊！自己出来闯世界，算来已经有十个年头了，尚且一事无成，关羽的心头笼罩着悲哀和忧郁。
忽然，关羽的眼睛睁大了，他发现半山腰的地方有很多人影在向上移动，逼近山丘上的营垒。关羽大喝一声，“什么人？”他声如洪钟，在寂静的夜里传出很远，那些人影稍微停顿了一下，紧接着就发出一阵呐喊，向山顶冲过来。
关羽马上明白，有人袭营。情况十分危急，因为毋丘毅一行总共只有一百多人，山下来袭营的至少有几百人，而且是从不同的方向同时进攻。
关羽率领身边的几名士卒冲向营门，组成了第一道防线。眼看着敌人离营门只有百步距离了，关羽叫了一声，“放箭！”自己率先射出了第一支箭，一个冲在前面的敌人应声而倒，射了两轮箭之后，敌人已经快冲到面前了。
关羽手握长矛，带头向敌人冲去。这时，在营帐里睡觉的人都已经被惊起，抄起兵器，冲出帐篷，从不同的方向展开防御。刘备和张飞带着部属赶到营门，支援关羽。
关羽如同下山猛虎一样，将长矛向前送出，正扎在一个敌人的胸口上。关羽挑着他继续向下冲，将跟在后面的敌人撞翻了三四个。这时，关羽已经冲到了敌人的中间，回头一看，那几名跟随自己的士卒都被身后的敌人挡住了，自己孤军深入，陷入了敌人的包围中。五六支长矛同时向关羽刺来。
关羽并不惊慌，拨开一支长矛，径直向那个人撞了过去。他力大无穷，那人根本承受不住，被撞翻在地。关羽翻转长矛，矛头向下，扎进了那人的肚子里。他随即拔出短刀，与周围的敌人厮杀起来。
刘备和张飞带着十几个人冲出营门，将围攻营门的敌人杀退，与关羽会合在一起。有他们把守住营门，其他人凭借四面的防御工事用弓箭和长矛反击，终于挫败了敌人的袭营行动。
事后大家才知道，这些袭营的人是黄巾军的残部。由于刘关张三兄弟力战有功，刘备被任命为下密县丞，后改授高唐县尉、县令。
大将军何进剪除宦官势力不成，反而被宦官所杀。董卓带兵进京，废杀了少帝刘辩，另立刘协为帝，是为汉献帝。
初平元年（公元190年）正月，各路诸侯纷纷起兵讨伐董卓。时在高唐县任上的刘关张也带着几百人的队伍参加了反董联军。可惜，各路诸侯貌合神离，联军两个月后就土崩瓦解。刘关张三兄弟又返回了高唐县（山东禹城西南）。
悬案追踪：温酒斩华雄
在《三国演义》中，关羽温酒斩华雄，闪亮登场。但在历史上，斩华雄的另有其人，即破虏将军孙坚。在讨伐董卓的过程中，孙坚先是被董卓部将徐荣击败。但他很快就聚拢了被打散的部队，“大破卓军，枭其都督华雄”。