深秋，白居易决计回符离搬家，当时对校书郎行动限制可能不太严格，正像他所说的：“犹喜兰台非傲吏，归时应免动移文。”贞元二十年公元894年）二月，白居易全家离开了埔桥。路过洛阳，小作停留，白居易曾亲去拜礼凝公大师的法身。凝公大师原为东都圣善寺的住持，贞元十九年秋八月迁化。白居易在贞元十六年过洛阳时曾向凝公大师求教，凝公教以“观、觉、定、慧、明、通、济、舍”八音。白居易就以这八个字为题，作了《八渐偈》，而且是“升于堂，礼于床，跪而唱，泣而去”。表示对凝公大师的敬崇。白居易这个行为本身，说明他对佛教的信仰不是一般迷信，而是对佛教经典产生了浓厚的兴趣；甚至已经是“入于耳，贯于心，达于性”了，这自然也对他的思想产生了很大影响。
白居易的家人回到了下邦故里，因为他当时还没有力量在长安租赁较大的住宅。故里的小村名金氏村，门前往南百步就是渭河，那里恰好是一个渡口，名叫蔡渡。从长安到蔡渡，大约是百里之遥，他常常乘船回家，很方便。他曾作过一篇《汛渭赋》，表达出他对目前生活的满意。
白居易两登科第，再出任校书郎，他的交游渐广，结识的友人也越来越多。当时在兰台同为校书郎的有元稹、王起、崔玄亮、吕灵等。此外还有老友元宗简、樊宗师。新结识的有李建、刘禹锡、柳宗元、李伸等人。
刚直不阿，慷慨陈辞
由于白居易的诗有一种拨人心弦的力量，所以人们都很爱读。时间一长，便由民间流传到宫里。唐宪宗读到他的《长恨歌》和《观刈麦》等诗后，竟也被他那悲天悯人的情怀感动了。于是下了一道诏书，于元和二年冬，将他召回长安，破格授予负责撰拟机要文告的翰林学士。第二年四月，又迁任左拾遗。
按照唐朝的官制，门下省设左拾遗六人，中书省设右拾遗六人。这些拾遗执掌供奉和谏议等职事，朝廷有大事商议，拾遗可参与廷议，直抒己见，也可直接向皇帝陈述政治得失、天下利弊，乃至应当兴废的意见。这个官职虽然职位不高，只有八品，年禄也只有39万钱，但对于白居易这位有“兼济天下”之志的人来说，是他参与朝政、施展抱负的机会。白居易对受任左拾遗很高兴，在《初授拾遗》-诗中，他把自己初受恩宠、喜不自禁的心情和无所顾忌、犯颜直谏的决心，表达得淋漓尽致。
白居易是这年四月二十八日被任命为左拾遗的。五月八日，他就上了一道奏疏，向宪宗一吐衷肠：“授官以来，仅经十日，食不知味，寝不遑安，惟思粉身以报殊宪，但未获粉身之所耳”。表达了自己为报答宪宗的知遇之恩，宁愿粉身碎骨的决心。同时，他也恳切地向宪宗表白了自己身为谏官，负有重要的言责，义不容辞地要对“发令举事，有不便于时，不合于道者，小则上封，大则廷诤，……有阙必规，有违必谏，朝廷得先天不察，天下利病无不言”，“倘陛下言动之际，诏令之间，小有遗阙，稍有损益，臣必密陈所见，潜献所闻。”在白居易任左拾遗的三年间，果然没有违背自己的誓言，始终挺身而出，同权贵宦官等做了不妥协的斗争。
白居易初任左拾遗的这年夏天元和三年四月），宪宗举行“贤良方正直言极谏”的科举考试，选拔直言敢谏的官吏。参加这次考试的翰林学士牛僧孺、皇甫等三人，此在“试策”中，都毫无顾忌地指责朝弊，并且胸襟坦白，慷慨陈词，很受考官吏部侍郎杨于陵、吏部员外郎韦贯之的赏识，因此都被列入上等。复考官翰林学士裴珀、王涯等审查考卷后，也都一致同意考官的意见。这就激怒了宦官和宰相李吉甫。他们抓住皇甫是王涯外甥这一点亲戚关系大做文章，向宪宗控诉，说考官徇私作弊。据《资治通鉴》卷二三七略云：“李吉甫恶其直言，泣诉于上。”唐宪宗不问是非，贬杨于陵为广府节度使，罢裴珀翰林学士，除户部侍郎。王涯于四月十三日出翰林院，裴珀于四日二十五日出翰林院。
目睹李吉甫等人的无耻行径，白居易义愤填膺，遂上《论制科人状》，慷慨陈辞，力保裴珀等人：
“臣伏以裴珀、王涯、卢坦、韦贯之等皆公忠正直，内外咸知，所宜授以要权，致之近地。故此来情私相谓日：此数人者，皆人之望也。若数人进，则必君子道长；若数人退，则必小人之道行。故卜时事之否臧，在数人之进退也！……乞俯回圣览，特示宽恩，僧儒等准往例与宫，裴珀等依旧职奖用，使内外人意欢然再安。若以臣此言理非允当，以臣覆责，事涉乖宜，则臣等见在四人，亦宜各加黜责，岂可六人同事，唯罪两人？虽圣造优容，且过朝夕。在臣惕惧，岂可苟安。敢不自陈，以待罪戾……”
白居易的这篇《论制科人状》，可以说是理直气壮，但是却未能改变唐宪宗的决定。其实制科案，不过是一条导火线，实际上是各派政治力量的较斗。唐宪宗即位以后，很想刷新一下政治，所以提拔一些进士出身的新进分子。进士集团的人们要改革时政，宦官集团和旧官僚集团便成为抨击的对象，不只是牛僧濡、皇浦浞、李宗闵如是，其他的进士也发表过激切的言论。可是宪宗所以能做上皇帝，也多亏一些宦官的拥戴，所以他对宦官总是有些袒护。至于靠门第出身的旧官僚集团，为了保有既得权势，主张因循守旧，于是就反对过激的言论和过激的行动。宦官集团和旧官僚集团他们由于利益的一致，常常是相互勾结，共同对付进士集团。但是，这并不排除各自集团的内部分裂与矛盾。这种朋党之争，延续了四十余年，主要表现在争夺“掌权”上；这种“权力之争”，主要表现在用人的问题上。经常是党同伐异，互相贬斥、残害，甚至有的丧失了性命。总之，这种朋党之争，其实质是革新与反革新的矛盾冲突。但从表象上看，大都是为具体问题而争。白居易刚刚入朝参政，他还不深知内情，可是他实际上已经站在进士集团的一方了。尽管他后来从不介入任何一方，但他还是有鲜明的倾向性的。这倒不是白居易徇私，而是因为他生性刚直，嫉恶如仇，对不合理、腐朽的现象，他自然就会站起来反对，故而，他的倾向性并不是从集团的利益出发的。
同年九月，淮南节度使王锷来朝，目的是要求个宰相头衔，白居易向来鄙视王锷的为人，已经看出他此来的目的。王锷任岭南节度使时，即大肆搜刮民财，他利用边郡的特点，能“计居人之业而榷其利”，得到的钱与两税钱一般多。他便把两税钱“上供时进及供奉外”，其余的皆归自己。对于外国来的商船，他就没收其利，因而“家财富于公藏”。他这次来京运用钱财，广为接纳。对宦官巨款贿赂，对宪宗更是厚贡进奉。唐宪宗收了王锷的大宗财物，便想让他遂愿。白居易强烈反对，他上疏说：“宰相者，人臣极位，天下具瞻，非有清望大功，不可轻授。王锷既非清望，又无大功，若加此官，深为不可。”同时他还尖锐地指出：王锷做节度使，不顾地方凋残，只顾大肆收刮，以致淮南地区民不聊生。他把搜刮来的大量财物，亲自带来京城，美其名日贡赋的盈余，进奉皇帝。这是众所周知的事实，现在倘若让他如愿以偿地做起宰相来，恐怕天下的人知道了会说陛下收了王锷的进奉才让他做宰相的。我还恐怕各道节度使，从今以后都要效法王锷搜刮人民来谋求宰相。
宪宗看完白居易写的这篇《论王锷欲除官事宜状》后，觉得有理，同时又由于白居易的再三力谏，为保护面子，只得给王锷加了个检校司徒、河中尹、河中晋、绛、慈、隰节度使，把他打发到江西去了。
就在王锷来朝的时候，原山南东道节度使、守司空、同平章于崾，同山南东南节度使裴均，俩人均请入朝。他们入朝的目的，显然不是只想挂个宰相的头衔，而是想掌握实权。白居易看出他们的用心，于是据理陈述利害，提醒唐宪宗拒绝他们。可是唐宪宗接受了他们的“累有进奉”，终于诏准他们入朝了。不仅如此，唐宪宗还把长女永昌公主嫁给了于崾的四子，成了亲家。可见唐宗宪的昏庸。
元和四年公元899年）春天，南方及京畿地区久旱成灾，赤地千里，路有饿莩。唐宪宗以久旱不雨，下了一道“罪己诏”。白居易得知后很感动，在一首《贺雨诗》里，他说：“君以明为圣，臣以直为宗，敢贺有期始，亦愿有其终。”意思是勉励皇帝能从此开始，体恤人民，多做些于人民有益的事。他又上书奏道：“皇帝空言‘罪己’是不够的，要让人民真正得到实惠，最好是减轻或免除缴纳租税。因为人民遇上荒年，谷物歉收，已经难以为生，还要交租纳税，在差吏的催迫征收之下，势必活不下去。希望皇帝能广播皇恩，对江淮受灾地区，按灾情轻重，或减租，或免租，以救灾民于水火之中。”
白居易奏请免除江淮地区的租税，对处于水深火热之中的江淮人民来说，显然是有利的。从统治阶级的长远利益来看，也是有好处的。因为人民久经兵革之害，疲惫已极，现在人祸未了又加天灾，真是苦不堪言。若再催逼赋税，人民走投无路时，不得不铤而走险，反抗暴政。唐宪宗看到了这一点，一来怕逼迫过甚，灾民造反，危害自己的统治；二来也想笼络民心。于是很快就诏准了白居易的奏请。
九月正是开始和籴的季节，白居易对和籴害民，深有体会，便立即上疏主张把配户改为开场自籴，或者和籴改为折籴，和籴本来是官府出钱，百姓出谷，两相商量，然后交易。政策本身并不坏，可以调节谷价，免得谷贱伤农。可是后来却变成府县散配户人，等于摊派，不仅不是商量定价，而是少给钱。这还不算，还得百姓送到指定地点，苟有稽迟，则被追捉迫蹙，甚至鞭挞，比追讨赋税还严重。号为和籴，其实害人。白居易由于熟知其情，主张有司出钱，开场自籴，谷价稍高一点，卖谷的人自然多起来，前弊自除。如果不愿开场自籴，可采取折籴，就是折青苗税钱，使纳斛斗，然后给现钱。故而白居易在《论和籴状》说：
“由是而论，则配户不如开场，和籴不如折籴，亦甚明矣！臣久处村间，曾为和籴之户，亲被迫蹙，实不堪命。……”
然而这种对人民有利的意见，唐宪宗却听不进去，不予采纳。
白居易对朝政出于一片忠诚，的确做到了“知无不言，言无不尽”。可是他的劝谏却很少得到宪宗的采纳，使他感到非常苦闷。
官场失意，谪居江州
元和八年夏天，白居易“丁忧”期满。按照惯例，除服后就该补官，而白居易到次年冬天，才被朝廷召回长安，拜为太子左赞善大夫。
赞善大夫隶属于东宫，唐代的东宫官属，不准过问朝政。赞善大夫的主要职务是协助左德对太子进行“讽谕规谏”，事实上事情很少，故白居易称之为“冷宫”。当权者把白居易搁在东宫，是别有用心的。因为这一闲职使得对国家政事有着远见卓识而急于兴利除弊、对文武大臣祸国殃民勇于揭发批判而奋不顾身的白居易，失去了在朝廷中参政的权利。
这时的白居易心情极其苦闷，他胸怀治国安邦的抱负，但却没有机会实施。在他看来，与其做这毫无发言权的“冷宫”，还不如不作的好。在赠友李绅的一首七律中，他很含蓄地流露了这种想法：
病身初谒青宫日，衰貌新垂白发年。
寂寞曹司非热地，萧条风雪是寒天。
远坊早起常侵鼓，瘦马行迟苦费鞭。
一种共君官职冷，不如犹得日高眠。李绅是白居易的好友，元和八年暮春回长安，他此时任国子助教。国子助教也是一个没有职权的闲职。
元和十年正月，元稹由唐州回到江陵府，然后入京。白居易由于政治上失意，加之心情苦闷，遂常和元稹、李绅去城南野游，以排除心中的不快。长安城的南郊，当时是风景秀丽的游览地方。南有终南山、雪岩、玉案、圭峰、紫阁诸峰并列，气象万千。在这广阔地区中还有许多名刹古寺。他们常常在此饮酒作诗，流连忘返。有时白居易还鼓动元、李二人等天黑再往回走，“更劝残杯看日影，犹应趁得鼓声归”。三人常常沉醉在这山光美景之中。
三月二十五日，元稹诏授通州司马。二十九日，白居易送别到户东蒲池村。白居易有诗日：“蒲池村里匆匆别，沣水桥边兀兀回。行到城门残酒醒，万重离恨一时来。”同时觉得意犹未尽又写了《重寄》。“萧散弓惊雁，分飞剑化龙。悠悠天地内，不死会相逢。”可见对元稹的不幸遭遇，感到愤愤不平，可又无可奈何。
同年夏天，京城长安发生了一起非同寻常的事件，这次事件是对他生活的一次大的冲击。
这年春天，蔡州刺史吴元济叛唐，宪宗命令宣武等十六道进军讨伐。平卢节度使李师道暗中与吴元济勾结，他派遣奸人募盗十人攻河阴转远院，杀伤十余人，烧钱帛39余万缗匹，谷3万余斛。目的是威胁朝廷罢兵，以解吴元济之围。人情稍有恐惧，但宪宗不为所动。
自去年冬天李吉甫暴病死后，用兵讨伐吴元济之事，由宰相武元衡主持。李师道阴谋派人刺杀他和主战大臣御史中丞裴度。恒郓节度使王承宗遣牙将尹少卿奏事，为吴元济游说，尹少卿在书中言辞不逊，当时就被武元衡叱斥出去。而后王承宗又写信诋毁武元衡，可是武元衡毫不退让，矛盾已经到了白热化的境地。
六月初三日，天还未亮，武元衡入朝，由住所走出靖安坊的东门时，突然有贼从黑暗处以箭射之，随从们都吓得一哄而散，贼人抓住武元衡的马而杀死了他。然后割下他的头颅而逃走。大约也在这个时候，另一伙贼人在通化坊击伤裴度的头部，裴度从马上摔到沟里，幸亏毡帽厚，刀才没有破进去，得以不死。
事情发生之后，京城大骇，人心惶惶，不可终日。白居易更是义愤填膺，怒发冲冠。他认为如此行为，不能容忍。在京城里刺杀丞相，是对皇权的蔑视，是朝廷的莫大耻辱。于是不顾职权的局限，首先上书追查凶手，要求洗刷国耻，以肃法纪。然而诗人这种正义举动，却触怒了以宰相韦贯之为首的官僚集团。他们早就对白居易那些针贬时弊、揭露贪官污吏的讽喻诗和他的所作所为不满，于是他们和宦官集团联合起来借机报复，说他“以宫官非谏职，不当先谏官言事”，要定他的罪。正在这个时候，有人乘机散布谣言，说白居易浮华无行，其母因看花堕井而死，而白居易却作“赏花”及“新井”诗，甚伤名教。这样不孝的人不能陪太子读书，也不宜在京城里任职。两事凑在一起，舆论又是如此，宰相遂奏贬为江州辖境相当今江西九江市、德兴、彭泽、湖口、都昌等地）刺史。
下诏之日，中书舍人王涯又上书谏阻，他认为白居易所犯罪状严重，不宜治理州郡。于是朝廷又追回诏书，降级改贬为江州司马。
就这样，白居易终于被恶势力逐出了京城。这次遭贬，是白居易进入仕途以来遭受的一次最沉重、最严酷的打击，这也成为他一生的一个重大的转折点。诗人的失意心情是可想而知的，“壮心徒许国，薄命不如人！才展凌云志，俄成失水鳞。”
官场的失意、社会的黑暗使诗人的思想和生活都起了很大的变化。自此以后诗人有了“知足保和”、“独善其身”的念头。
既然无法“为云龙、为风鹏，勃然突然，陈力出击”，那么只好“为雾豹、为冥鸿，寂兮寥兮，奉身而退”了。