天宝六载（747年）初，颜真卿自长安尉入御史台任监察御史。唐代，御史台分为三院，监察御史属察院，掌管监察百官、巡视郡县、纠正刑狱、肃整朝仪等事务，虽说只是正八品，品秩不高而权限很广。
从此，颜真卿可以常常进入大明宫。大明宫在龙首原上，地势高，正殿含元殿在南端，高出下面平地四丈多，距宫门丹风门约二里。人丹风门后，行至殿前，有翔鸾、栖凤两阁相对，由此登殿，有左右两条砌道曲折而上，以其所处地势与形状而称为龙尾道。逢冬至、元日大朝会，文武百官、边远酋长肃立于殿下平地，“仰观玉座，若在霄汉”。这样的地形，可以突出天子尊严，显示大唐国威，朝会时彰显君臣尊卑之礼。在大唐王朝兴盛时期，大明宫之壮观应该能激发正直的士大夫为国效忠的责任感。
任命颜真卿为监察御史的制词说：“文学擅于登科，器干彰于适用。宜先汗简之职，俾伫埋轮之效。”这可以说明颜真卿的品行才干已得到重视，他性格刚直，正适合这样的职位。“埋轮”，用东汉张纲的典故。顺帝时，遣使巡察地方，别的使臣受命出发，而张纲把车轮埋在洛阳都亭，说：“豺狼当路，安问狐狸！”于是上奏弹劾专权外戚，震动京师。制词是鼓励颜真卿刚直敢言，不畏权贵。这是王朝制度对御史职责的要求，但是朝政已非开元清明之治，正逢“豺狼当路”。最大的当路豺狼就是李林甫。
这时，李林甫作宰相已有十余年，排除异己到了穷凶极恶的地步。天宝五载（746年），李林甫欲危害太子，兴起大狱，牵连朝内外官员多人。天宝六载正月，遂奏遣使杖杀北海太守李邕、淄川太守裴敦复，被从相位排挤下来而贬为宜春太守的李适之在郡惧而服药自杀。李邕是大名士、文章宿老、书法名家，生性豪放，他的死尤其引起人们的同情和愤慨。几年后，李白有诗曰：“君不见李北海，英风豪气今何在。君不见裴尚书，土坟三尺蒿棘居。少年早欲五湖去，见此弥将钟鼎疏。”在野的李白激情喷薄，对政治黑暗予以无情抨击，不愿同流合污。颜真卿则在朝守正不阿，尽力与邪恶作斗争。可以说，由于朝中正直官员的存在，邪恶势力毕竟有所顾忌，大唐王朝还保持着表面的光耀。
天宝六载十一月，李林甫又兴起大狱，曾荐举颜真卿的御史中丞王拱与李林甫同谋，害死户部侍郎兼御史中丞杨慎矜及其兄弟慎馀、慎名。杨慎矜是隋炀帝玄孙，与王敛父是中表兄弟，小时与王敛关系亲密，又曾引荐王铁人御史台，因而对王敛不够礼貌，伤其自尊，王拱怀恨在心。李林甫曾提拔杨慎矜，见他得到玄宗看重，深为忌恨，诱使王敛（替换）伺机陷害，使杨慎矜兄弟三人皆赐自尽，并连坐数十人。杨慎名时任洛阳令，朝廷遣颜真卿送敕至东京赐其自尽，宣读后，杨慎名以寡姊年老，请求暂缓片刻，作书信诀别。按例，自尽不得迟延，却得到颜真卿的许可。史书记载了颜真卿此事，应当有其深意，即以此反映颜真卿天性仁厚，也间接显示他对杨氏兄弟横遭诬陷的同情。作为一个小官员，颜真卿虽然无力改变冤狱的结果，但是在官场倾轧中保持了正直操守，与那些巧宦酷吏形成对比。
李林甫对不依附于自己及地位逼近的官员如此残酷打击，对未仕士人也横加阻挠。例如，天宝六载正月，玄宗想广求人才，诏天下通一艺者赴京师就选，李林甫担心士人对策指斥自己的罪恶，建议先由地方长官严格考试，通过者再由尚书省复试。这样，对天下士人设置重重障碍，最终无一人及第。
李林甫奸谋得逞，上表贺“野无遗贤”。杜甫、元结也参加了这次考试，都遭到李林甫玩弄，先是伤心，继而愤慨。元结不愿依托权门，愤而劝友人归去，誓曰：“人生不方正忠信以显荣，则介洁静和以终老。”杜甫后来有诗提及此事：“且随诸彦集，方觊薄才伸。破胆遭前政，阴谋独秉钧。微生沾忌刻，万事益酸辛。”这是李林甫导演的一场闹剧，对天下士人来说则是一场悲剧。这是政治黑暗的集中体现，正直的士人举步维艰。
入御史台当年秋，颜真卿充河东、朔方军试覆屯交兵使，往太原（治所在今山西太原）、灵武（治所在今宁夏灵武）一带巡察。第二年，充河西、陇右军试覆屯交兵使，往武威（今甘肃武威）、西平（今青海乐都）一带巡察。第三年，又充河东、朔方军试覆屯交兵使。三次出使，都恪尽职守，体察民情，“凡阅举纠士伍舒惨之情，事理无不必当”。五原郡（今陕西定边一带）有冤案多年未能解决，颜真卿到后立即妥善处理，赢得百姓信服。当地久旱无雨，这时下了一场好雨，百姓喜悦之余，认为这雨与他办案公正有关系，于是呼为“御史雨”。有郑氏兄弟三人，做官都做到县令、县尉，早年母亡，停棺于太原佛寺空园内，过了二十九年还没有埋葬。颜真卿弹劾郑氏兄弟不孝，于是朝廷令三人放归田里，终身不再任用。在台时，有职掌宫中、京城巡警的左金吾卫将军李延业，一向受到恩宠，曾召蕃客内宴，动用车驾仪仗而没有按规定报告御史台，颜真卿责问之，李延业凭恃权势，在朝堂喧闹，颜真卿上奏，终于使李延业贬外，朝廷纲纪得到维持。
对颜真卿个人来说，这三年里连续出行西北边要地也是新的经历。在这之前，他向西北的足迹不出长安附近，而这几次巡察所至，河西、陇右节度使驻地离长安都有两千里之遥。当奉使河西、陇右时，后世以边塞诗人著称的岑参作诗送行。
岑参是唐代著名的边塞诗人，原籍南阳，迁居江陵，他的曾祖岑文本、伯祖岑长倩、伯父岑羲都以文墨致位宰相。其父岑植，官至晋州刺史。岑参十岁左右时父亲去世，家境日趋困顿。他跟随兄长读书，九岁能属文，十五岁遍读经史，奠定学业基础。当时西北边疆一带，战事频繁，岑参怀着到塞外建功立业的志向，两度出塞，久佐戎幕，前后在边疆军队中生活了六年，因而对鞍马风尘的征战生活的冰天雪地的塞外风光有长期的观察与体会。他充满激情地歌颂了边防将士的战斗精神，如《轮台歌奉送封大夫出师西征》，写了将士们勇往直前、转战沙场雪海的壮烈场面。“四边伐鼓雪海涌，三军大呼阴山动”，将士们奋不顾身，充满了忠勇爱国的精神。又如《走马川行奉送出师西征》中，诗人描绘将士们在风雪中紧张的战前行军：“将军金甲夜不脱，半夜行军戈相拨，风头如刀面如割。”岑参也揭露了军营生活中苦乐不均的现象。他在《玉门关盖将军歌》中描写边疆大将的生活是“暖屋绣帘红地炉，织成壁衣花氍毹。灯前侍婢泻玉壶，金镗乱点野酡酥。紫绂金章左右趋，问着即是苍头奴”。而另一方面，士卒的生活却是“战士常苦饥，糗粮不相继”。岑参叙写了祖国西陲的壮丽山川等，对千变万化的边疆景色，给以生动夸张的艺术描绘，如《白雪歌送武判官归京》的“忽如一夜春风来，千树万树梨花开”，写的是边塞风雪，却给人以春意无边的感觉。岑参的诗想象丰富，意境新奇，气势磅礴，风格奇峭，词采瑰丽，具有浪漫主义特色。爱国诗人陆游曾称赞说，“太白、子美之后一人而已”。
颜真卿这几次出行边地，见到塞外广阔的天地、壮丽的风光，了解游牧民族的异样风俗、强悍性格，接触豪壮而艰苦的军旅生活，应该大大扩充了人生阅历。开元末，王维曾以监察御史出使河西，并在节度使府中任判官，写下“大漠孤烟直，长河落日圆”的千古名句，以诗笔表现雄浑的大自然画面。对于军中生活，王维诗既有反映征战操练的内容，也有反映祭神的内容，例如以下这首七绝：“凉州城外少行人，百尺烽头望虏尘。健儿击鼓吹羌笛，共赛城东越骑神。”由此可略见军旅生活的丰富多样。颜真卿没有留下自己有关西北边地之行的片言只字，然而可以推测，他对军旅生活的初步接触有益于未来的军事斗争，他的经历感受日后融入了雄伟的颜体字之中。
天宝八载（749年）八月，颜真卿自河东、朔方归，迁殿中侍御史。殿中侍御史掌殿庭供奉仪式，纠正朝官不守秩序者，大朝会时登殿。有次朝会，当年新破吐蕃石堡城而立战功的陇右节度使哥舒翰喧哗无度，颜真卿上奏弹劾。哥舒翰不服，向玄宗申诉，玄宗反而指责颜真卿侮辱功臣。颜真卿出使陇右时，哥舒翰曾设宴接待，兄颜幼舆石堡城之役在哥舒翰幕府，哥舒翰此次来朝又极为风光，而颜真卿全不徇情面，可见执法严明。
颜真卿任殿中侍御史的同时，二兄允南任谏官左补阙，属于近臣。逢冬至、元日朝贺，走过长长的龙尾道而登殿的朝臣自宰相以下只有几十人，而颜氏兄弟两人在其中，允南赋诗曰：“谁言百人会，兄弟皆沾陪。”他们感到家族的荣耀，也一心恪守职责。然而朝政日渐败坏，朝廷中充满阴谋、倾轧，奸佞当道，正人君子难有建树。
当时的御史台长官之一中丞宋浑是贤相宋壕第三子，所作所为却全无先父之风。他巴结李林甫，得以连连升官。任平原太守时，重征百姓一年租庸。任东京畿采访使，见薛稷甥女寡居而美，宋浑有妻，使河南县尉聘为妻而实际自己纳之，触犯唐律。宋浑与御史吉温、崔珪有私怨，被告发，天宝九载（750年）四月以贪赃流放岭南。宋浑罪有应得，然而这案件却有复杂的背景，牵涉杨国忠与李林甫的权力斗争。