韩愈回到徐州后，心情平静不下来，他在《海水》中，终于喊出了“我将辞海水”、“我将辞邓林”的呼声。4年的幕府生涯，韩愈虽然得以入仕，但生不逢时、怀才不遇的苦恼总是沉重地压在他的心头。贞元十六年（800年）五月，韩愈终于结束了徐州的幕府生活。
韩愈离开徐州不久，张建封病故，徐州也发生叛乱，韩愈又一次幸免于战乱的惊扰。贞元十六年（800年）秋，他携30口之家暂时寓居于洛阳。在洛阳，韩愈他失去了在幕府时期的稳定俸禄收入，生活比较桔据。但那里环境幽静，是一个读书和着述的好去处。生活虽然恬淡、闲适，又似乎充满诗意，可是，韩愈却始终信奉着儒家的入世哲学。所以时间稍久，他就不甘于这种寂寞的生活，于当年冬天就西去长安，谋求调选，补授官职。当时官场弊端丛生，对韩愈的请求只是虚于应付，让他等候安排，并不给以明确的答复。正在韩愈郁闷无聊的时候，他又巧遇也来参加调选的老友、此时已年过50的孟郊。在韩愈看来，官场既然如此，实在不值得留恋。他告诉孟郊“如今便当去，咄咄无自疑”。韩愈就怀着这种复杂的心情，于贞元十七年（801年）三月返回洛阳。在洛阳的日子里，韩愈将主要精力用于着书立说。除读书着文外，韩愈还不时地与志同道合的朋友、学生倘徉山水，泛舟垂钓，交流思想，切磋学问。有一次，韩愈的门生朋友侯喜邀请他到洛水去钓鱼，韩愈和侯喜却手持钓竿，从清晨一直坐到黄昏，好歹总算钓到一条寸把长的小鱼。他借题发挥，赋诗一首赠侯喜。诗中说当钓上一条仅能分辨出何处为鳞何处为鬈的小鱼时，两人“良久叹息相看悲。我今行事尽如此，此事正好为吾规。半世逞逞就举选，一名始得红颜衰。人间事势岂不见，徒自辛苦终何为……君欲钓鱼须远去，大鱼岂肯居沮洳（泥潭）”。他告诉侯喜，在小河沟里是不会有大鱼的，要钓大鱼就须到远处的大江大海。此时的韩愈，已经有些心灰意冷之感，经世致用的理想并未混灭，一有时机他还会施展才华去干一番事业。
韩愈当年秋末冬初，被任命为国子监四门博士。从此，开始进入京师政府机构任职。国子监是唐代的最高学府，长官称“祭酒”。国子监下设几个学馆，各学馆分设主讲教员“博士”、辅助教员“助教”、“直讲”等若干人。四门馆是国子监属下的学馆之一，它主要招收六品、七品官员及侯爵以下的子孙，以及庶民子弟的优秀学子。是一座中下层土子的高等学校。四门博士的品级不高，仅是七品。朝廷任命韩愈担任此职说明，在学术文化界已很有些名气。韩愈是一位恪守儒道，饱经忧患的文人，尽管有些失意，等到任职莅事以后，又能为振兴教育奔走呼号。他曾着眼于“公卿子孙，耻游太学”，导致生员不足的问题，上《请复国子监生徒状》，提出增加充实国子太学和四门学馆生员的建议。他也积极地利用学校这个育人场所，传道授业，奖掖后学，努力为韩门弟子和学馆生员寻找出路。韩愈在任博士的第二年（802年）春天，礼部又举行进士考试，中书舍人权德舆主考，陆惨辅佐评考。因韩愈曾因李翱的介绍与陆惨相识，所以，他一次就向陆惨推荐了侯喜。尉迟汾、沈粑等10人应试。其中多半是古文运动的后起之秀。这10人之中当年就有4人一举及第，还有5人后来也都先后被录取。由于韩愈的推荐能产生重要影响，后来不少举子都投奔到韩愈门下，称为“韩门子弟”。此时的韩愈年仅35岁，地位也不高，但在文坛上已有了相当的名望，这对于继续推动古文运动是十分有利的。在长安，韩愈以提携后进而闻名，登门求教的，请他品评指点文章的，使韩愈应接不暇。对这一切韩愈的态度是有求必应，来者不拒。杨子给韩愈写信请教，韩愈立即复信，表示“学问有暇，幸时见临”。韩愈有一次，热情地接待过一位身着破衣、足蹬麻鞋的素不相识的人。此人后来写信指责韩愈，说韩愈不能像信陵君那样为候生牵马驾车，对他怠慢失礼。对这种无理的责难，韩愈并不计较，他赶忙复信予以解释安慰。对那些将诗赋文章当作敲门砖，企图投机取巧的不实之徒，韩愈则给以严厉回绝和批评教育。有人向韩愈讨求“速化之术”，即不用刻苦学习就能迅速成功的诀窍。韩愈复信指出：古之贤人学者只问义，而你却问功名，所企盼的是入仕，向我讨速化之术，无异于向盲人问路。由于韩愈弟子日多，声望日增，而诽谤也随之而来，对这种指责韩愈十分愤慨。针对士大夫阶层“好为人师”的议论，他于贞元十九年（803年）写了着名的《师说》，赠给弟子李皤该文详尽地阐明了师道的重要性，并决心以此自任。文章产生了巨大的社会影响，一时又成为被攻击的对象。
面对来自四方的强大压力，韩愈有些担心与后怕。既为了争得理解、同情，又为请求援引、支持，韩愈曾几次给权贵势要上书，对他们卑辞称颂，苦心求告。他给皇族宗室、工部尚书李实的信中说李实“赤心事上，忧国如家”；还馆媚说由于李实“条理镇服，宣布天子威德”，使大灾之后，“盗贼不敢起，谷价不敢贵”，连那些老奸宿赃也慑于李实的清正威严，“销缩摧沮，魂亡魄丧，影灭迹绝。”被韩愈捧上天的李实，事实上是一个欺上压下、聚敛无度的权臣。韩愈为了解谤，也为了自全，有时确实也表现出胆小动摇、忧谗畏讥的弱点。
韩愈贞元十九年（803年）夏，四门博士任期已满，经过御史中丞李汉的荐举，韩愈被擢升为监察御史。韩愈到任不足两个月，关中大旱，田种无收，十不存一。此时已改任京兆尹的李实却隐瞒灾情，欺骗皇帝说：“岁虽旱，不害有秋。”他置朝廷蠲兔租赋的命令于不顾，仍然加重征敛，使大灾后的百姓“弃子逐妻以求口实（湖口的粮食），拆屋伐树以纳税钱，寒馁道途，毙踣沟壑”。但李实系皇族近臣，权势炙手可热，他“恃宠而愎，不循法度”，谁向皇帝吐露灾情，他就将谁置于死地。此时已担任监察御史的韩愈发出“决云中断开青天”的呼声，“剑与我俱变化归黄泉”决心。便和张署等一起拟就《御史台上论天旱人饥状》的奏章，上奏皇帝，要求减免灾区赋税，揭发了李实欺君聚敛之罪。韩愈为此遭到李实等权贵的嫉恨和报复。不久，韩愈被兔去监察御史之职，逐出长安，贬为连州阳山冲广东阳山）令。与韩愈同案遭贬的还有张署，张署被贬为郴州临武（今湖南临武）令。
韩愈和张署便于贞元十九年底，结伴离开长安，踏上南下的旅途。在隆冬数九的路上，风雪连天，艰难备尝。当来到阳罗河畔时，韩愈想起楚国的一代忠良屈原因忠见弃，不胜伤感。贞元二十年（804年）春，他们渡过洞庭湖，南下湘水。一路上韩唱张和，“百篇在吟”，到达郴州，受到郴州刺史李伯康的盛情接待。李伯康不仅问寒问暖，设宴相待，而且拿自己的文章和书法请韩愈过目，从此二人结下了友谊。在郴州，韩愈与张署分手，各自向贬所行进，不久，韩愈就达阳山。唐代的阳山是一个边郡的穷僻小县，那里“县郭无居民，官无丞尉，夹江荒茅重竹之间，小吏十余家”（糙区册序》）。韩愈初来乍到，语言不通，水土不服，所到之处，既有瘴气之害，又有虎豹之虞。韩愈因忠被贬，本来心中不平，眼下又被发配到此地，冤恨烦恼更深。随着时间的推移，韩愈逐渐平静下来，公务之余，他的最大乐趣就是读书为文。韩愈在《县斋读书》中描写过：“出宰山水县，读书松桂林。萧条捐末事，邂逅得初心。哀狖醒俗耳，清泉洁尘襟。诗成有共赋，酒熟无孤斟。”读书为文，赋诗唱和，寄情山水，朋友对酌，使韩愈进入另一种境界：似乎有些宠辱皆忘的感觉。
韩愈当时已名重天下，他来到这边郡小县不久，有一些人不远千里慕名来投。在韩愈到达阳山半年之后，有一位名叫区册的青年就从南海乘舟而来。还有个游历多年的狂生刘师命，他浪迹天涯，一事无成。就来到阳山，拜韩愈为师。韩愈首先用前圣的故事打动教育他，又指导他赋诗习文。经过一年的努力学习，刘师命在文学上有了长足的进步。
韩愈在阳山逐渐对当地人民傍山水开山、耕耘捕鱼的生活产生了兴趣。有时他和朋友们一起参加渔民的叉鱼活动，看着点点火把照耀下鱼又起落的劳动场面，听着渔民粗放的渔歌，诗兴大发。每当这种时刻，韩愈几乎忘却被贬抑的忧愤。由于韩愈在阳山治事清平，有爱在民，当地百姓为了纪念他i有不少人家以韩愈的姓或字给自己的孩子取名。据说韩愈常去读书的山，后来被名之为“贤令山”，韩愈常去钓鱼的地方，后人也筑起了钓鱼台。
唐顺宗贞元二十一年（805年）春，即位的消息传到连州，衙门前擂起大鼓，通告百姓，大赦天下，韩愈也在被赦之列，从而结束了贬逐阳山一年多的生活。
韩愈蒙赦离开阳山，前往郴州待命。在去郴州的途中，又与同时被赦的好友张署相遇。他们结伴而行，心情欢畅，诗兴大发。韩愈“回头笑看张公子，终日思归此日归”。他们到达郴州后，受到好友郴州刺史李伯康的接待。韩、张二人在郴州等候了3个月，其他当年遭贬的官员多数已恢复原职，北返中原，而他们任命却迟迟不下。在郴州待命期间，韩愈潜心着述，完成了《原道》、《原性》、《原毁》、《原人》、《原鬼》等被称之为“五原”的重要着作。
朝廷新的任命八月上旬终于下达，不是官复原职，而是调韩愈去江陵（今湖北江陵县）担任法曹参军，张署任江陵工曹参军。韩、张二人的希望随之烟消云散，更加充满委屈和愤懑。因为“参军”的职位和地位很低。韩愈虽然不满，但君命不可违，又与张署一起经衡州（今湖南衡阳）、过潭州（今湖南长沙）、渡洞庭、历岳州（今湖南岳阳），尔后渡江去江陵上任。在江陵期间，韩愈一想起前半生的曲折经历，就陷入矛盾与苦闷之中。他百思不得其解，为什么自己命运如此悲怆？为什么那些无才无德的势利小人却能保其禄位？在这种心情的驱动下，韩愈又写出一组发抒自己感情的忧愤之作，即《五箴》。全文由“游箴”、“言箴”、“悔箴”、“好恶箴”、“知名箴”五篇短文组成。它集自嘲、牢骚、忧愤、焦虑、企盼、不屈等诸多矛盾心理和深沉的感叹于一体。他在《五箴》小序中说，他虽然只有38岁，但白发却越来越多，牙齿也松动脱落，智力明显不如从前。大发未老先衰之叹。抑郁寡欢的韩愈，终于在元和元年（806年）六月被朝廷任命为代理国子学博士，重返长安。
韩愈结束了贬逐生活，离开江陵，又回到长安。国子学博士一职又属一种闲官，并且他的头衔还是暂时代理博士。在这种情况下，韩愈的公务并不繁重，过着“学堂日无事，驱马适所愿”的闲适生活，使他有较多的时间与一批新老朋友张籍、孟郊、张彻、侯喜等频频相聚。他们在一起饮酒、赋诗、联句，兴致盎然地同作“文字饮”，追忆离别后的愁绪烦恼，叙说重逢后的喜悦友情，互相勉励。
韩愈除以诗文会友外，很少与官人交往。他在《答冯宿书》中说：“仆在京城，一年不一至贵人之门，人之所趋，仆之所做。与己合者则从之游，不合者虽造吾庐，未尝与之坐。”表现出韩愈耻于趋炎附势的本来面目。韩愈正因为如此，又遭到无端的诽谤。当时郑絪在朝为相，他十分赏识韩愈的文章，让韩愈呈献自己的“诗书若干篇”，并准备起用韩愈担任翰林学士之类的文学之职。此职是土林中人最羡慕的荣耀职务之一，于是，一伙企盼谋取这一职务的人，就散布流言蜚语，中伤韩愈狂妄自傲，连宰相也不放在眼里。还有人公开威胁韩愈，让他退出文学之职的竞争，尽快离开长安。为避免他人诽谤，蹈袭前辙，韩愈主动向朝廷提出调为外任的请求。韩愈于元和二年（807年）六月调到东都洛阳，仍然权知国子博士。
韩愈到达东都后的主要职责是分管东都国子监的教学工作。这是一个既无权又没有多少事可做的闲散职务，韩愈认为“幸蒙东部官，获离机与阱”是一件得以脱离是非之地的好事。
韩愈到东都后，身边又聚集了一大批朋友，如郑余庆。张籍、李翱、皇甫湜、裴度等。尤其是孟郊由长安移居东都后，以他俩为中心，形成一个十分活跃的诗坛。他们或把盏赋诗，挥毫为文，其生活并不孤独，心情亦不寂寞。在韩愈的朋友中，还有一些名士、隐士、狂士和侠士，他们在诗赋文章方面都得到韩愈的指教。如苦吟诗人贾岛，原来是一个和尚；他还俗后，于元和六年（811年）春天到洛阳拜韩愈为师。关于“推敲”的传说和佳话，就发生在韩愈和贾岛之间。有一次，贾岛骑着驴在长安大街上缓步，随口吟出一句“僧推月下门”。贾岛又觉得“推”字似乎未能尽意，于是他又想到一个“敲”字。如醉如痴的贾岛在驴背上完全进入意境，他用手比划着推门、敲门的动作，冥思苦想，细细琢磨，不觉冲撞了韩愈的车驾。当韩愈了解到实情后，非但不怪，反而帮他选定一个“敲”字。
元和四年（809年）六月当时韩愈由国子博士改授都官员外郎分司东都兼判祠部。此职主要执掌刑法政令并主管词庙祭祀及道观佛寺等事务。他到任以后，根据有关规定，把东都寺观的管理权力从宦官手中收归饲部。接着就整肃风纪，按法办事，当禁者禁，当诛者诛，杀掉一批不法的僧尼、道土。这些事连尚书也“敛手失职”，所以此事与宦官有牵连。韩愈依法典办事，触怒了东都腐朽势力宦官。元和五年（810年）冬，韩愈被调任河南县令。这样一来，韩愈就无权过问宦官的事了，对此，韩愈颇多感慨。为发泄对当时处境和社会现实的不满，韩愈以拟人化的手法，撰述一篇《毛颖传》。写毛颖不但“强记而便敏”，而且又“善随人意”，所以得到皇帝的赏识和重用。后来毛颖年老秃败，“不能称上意”，就被遗弃。从形式和表面看这是一篇游戏文字，但在嘻笑怒骂间，韩愈却借毛颖的遭遇来讽刺统治者的刻薄寡恩，并悲悼遭到疏忌的知识分子的不幸命运。
当时的河南县、河南府、东都留守三级行政机构都集中在洛阳城内，而河南县职级最低，权力最小。韩愈元和六年（811年）44岁，想想几年来投闲置散、无所事事的曲折经历，他哀叹自己就像“笼中鸟”一样。他写出一篇送《送穷文》抱怨“智穷”、“学穷”、“文穷”、“命穷”、“交穷”这五个穷鬼，纠缠了他40余年，他想驱逐它们，而终于又把它们请进了门。东都的4年多，除了与新老朋友赋诗唱和、执笔为文大部分时间是在闲散、郁闷中度过。