1964年1月8日，约翰逊总统向国会提出了他的第一份国情咨文，再次敦促国会行动起来，以实现肯尼迪的遗愿。他说：“我希望，国会的这次会议，能由于在维护民权方面做出的贡献将超过历史上的一百次国会会议在这方面的全部贡献而闻名于世；能因为实现了当代最大幅度的减税而闻名于世；因为敢于在全国范围内对贫困、失业宣战而闻名于世；因为终于能确认我国所有老年人的保健需要而闻名于世；由于能实现效果最好、效率最高的援外计划而闻名于世；由于比以往任何一次国会会议都更善于协助各地建立起更多的住宅、学校、医院、图书馆而闻名于世。”
约翰逊上台后没过多久便破除了肯尼迪在任时的那些立法障碍，显示了他的手腕和精明干练。除了为老年人提供免费医疗这一提案外，国会通过了他的所有提案。如国会批准了为各项学校建设计划12
亿美元的拨款、通过了一项公共交通法案和保护荒芜地区的立法。约翰逊决定削减联邦财政预算，使赤字比过去降低了一半。他还做出许多象征性的举动，例如关闭白宫多余电灯和削减政府机构用车数量，给人一种厉行节约、对财政认真负责的印象，因而不仅得到企业界各利益集团对那些自由派政策的一致性支持，而且诱使国会议员们批准了一项数额为130多亿美元的减税法案。这项税法的实施刺激了私人投资和购买力，推动了经济的快速增长。1964年国民生产总值比上一年增加了380亿美元。
60年代初以来黑人运动的高涨，使约翰逊认识到，为了把民权运动纳入政府控制的轨道，尽早通过民权法已刻不容缓。1963年11月27日，他向国会联席会议发表讲话时说：“没有任何演说和颂词，能比尽早通过他曾为之奋斗的民权法，更好地纪念肯尼迪总统。”他还向黑人民权领袖作了承诺。约翰逊在民主党人议员领袖、参议员休伯特·汉弗莱以及共和党参议员弗雷特·德克森等人支持下，使这项法案摆脱了众议院程序委员会的扣压，并以“中止辩论”的办法，挫败了参议院南部议员的有意阻挠，使之获得通过。1964上7月2日，该法经约翰逊总统签署而正式生效。它规定：禁止在公共场所实行种族隔离；授权司法部对实行种族隔离的公共场所和公立学校向法院起诉；建立公平就业委员会以消除就业中的种族歧视；授权一些联邦机构，对交由各州经营的工程项目凡有歧视黑人者一律扣留资金。1964年民权法以法津形式废除了美国南部的种族隔离制度，是一项影响深远的进步立法。
由于取得了相当可观的立法成就，约翰逊在1964年民主党全国代表大会上得到各派的一致支持。为了进一步树立自己的进步形象，他挑选民主党自由派领袖汉弗莱为副总统候选人，从而使民主党以团结一致的面目投入到1964年的大选中。
共和党的情况恰恰相反。过去，共和党保守派的主要基地在中西部，自由派的基地在东部，西部相对说来只起较次要的作用。在第二次世界大战期间和战后，西部经济发展速度超过全国其他地区，不甘心只在全国政治舞台上扮演配角。西部发展的一个突出特点是军火工业所占比重远远超过全国平均水平，而军火工业的最大主顾是联邦政府，因此更热衷于扩大在联邦政府中的发言权和打着反共产主义的牌子要求大量增加军费。这就使西部成为共和党内极右势力的基地和孕育各种极右组织的温床。共和党传统保守派争夺总统候选人提名连续多次失败后，他们在1960年把希望寄托在尼克松身上。尼克松竞选失败之后，西部极右势力认为这是因为他没有坚持保守主义原则。他们认为，要扭转这种局面，必须推出更加保守的领导人。他们选中的新旗手就是亚利桑那州参议员巴里·戈德华特。
戈德华特一贯持极右立场，对罗斯福新政以来民主党东部自由派实行的国家干预和大政府的政策猛烈抨击。他曾对人说道：“有时候我想，如果我们能把东部沿海那块地方锯掉，让它漂到大海里去，这个国家将会过得较好一些。”这就使广大选民担心，如果这位政治狂人当选为总统，就会破坏与他们日常生活保障息息相关的社会保障制度。
在外交政策上，戈德华特公开宣扬他的好战主张。他曾表示，只要让欧洲北约部队指挥官有权使用战术核武器，就可以把美国驻欧洲的地面部队削减三分之一。他主张在北越投掷低当量的战术核武器和出动第七舰队轰击中国。结果，戈德华特不仅失去了大量选民的支持，而且也使共和党内的自由派和温和派疏远了他。
尽管约翰逊总统于8月间下令对北越实施大规模空袭，以报复据说北越鱼雷艇在东京湾对美国驱逐舰的袭击（即所谓“东京湾事件”），并促使国会通过了授权总统“采取一切必要措施击退对美国军队的武装进攻和制止进一步侵略”的“东京湾决议”，但约翰逊却又同时着重声明“我们仍不寻求扩大战争”，他向选民保证，“我们不打算派遣美国青年远离故乡九千或一万英里，去干亚洲青年应当自己干的事情。”他指责戈德华特“好扣扳机”和威胁世界和平。投票结果表明：约翰逊囊括了44个州的486张选举人票，赢得压倒性的胜利；他获得4，310万张****票，占投票人数的61．1％。民主党还同时在国会选举中，在参众两院赢得了1937年以来的最大优势，从而瓦解了南部民主党人和共和党人在国会中结成的保守派联盟。这就为约翰逊进行大规模的社会改革提供了非常有利的条件。
早在1964年5月22日，约翰逊在密执安大学发表演说时就极力强调，他决心改善“美国生活的质量”，以求实现一个“伟大的社会”。他说：“我们有机会不仅向富裕社会和强大前进，而且向‘伟大社会’前进。
‘伟大社会’依赖所有人的富裕和自由。它要求结束贫困和种族歧视，……‘伟大社会’是每一个儿童都能学到知识以丰富其思想和扩大其才能的地方。” 大选以后，他在1965年1月的国情咨文中，正式提出“伟大社会”的施政纲领，并在随后的6个星期内向国会提交了83个特别立法咨文，要求国会在教育、医疗、环境保护、住房、反贫困和民权等领域采取广泛的立法行动。
约翰逊的呼吁很快得到国会的响应。他得到了几乎所有一切他所要求的东西。新通过的立法里面有许多是被延搁了很久的其中包括为65岁以上的老年人提供医疗照顾的计划；拨款10亿美元资助贫困地区中小学校的《初级和中级教育法》，为大学生提供14万个奖学金名额的《高等教育法》；增设住房和城市发展部，主要负责修建平价住宅和处理大城市的贫民窟问题。国会还通过了《公路美化法》，以表明“伟大社会”对“生活质量”的关切。
1965年的《选举权利法》是约翰逊最引以为自豪的成就之一，它取缔了歧视性的识字测验，授权联邦政府促进选民登记，从而导致少数民族投票人数的明显增长。在1965年和1966年间，约翰逊还敦促国会通过了许多创新性的法案，如建立地区医疗中心、对经济落后的阿巴拉契亚地区实行救济、对贫困者提供医疗补贴、租金津贴等。此外，在控制水污染、制定空气质量标准、垃圾处理及美化环境方面，国会也通过了一系列立法。
由于1964年民权法、1965年选举权利法等民权立法的颁布，使美国政治民主化又迈进了一大步。登记的黑人选民数量大幅度增加。
1966年黑人争取担任公职所获得的成功，超过了以往任何一年。马萨诸塞州的黑人爱德华·布鲁克当选为国会参议员；1967年卡尔斯托克斯竞选克利夫兰市市长并获得胜利，成为美国有史以来第一个黑人市长；同年，约翰逊总统任命瑟古德·马歇尔为最高法院法官，使其成为坐上最高审判员席位的第一个黑人。
然而，在国内政策方面采取进步立场的约翰逊在外交上却连连陷入困境。1965年多米尼加内战时，约翰逊派军队前去支持他认为是代表民主的一方，结果大大疏远了拉美国家，破坏了他们对美国刚恢复不久的信任。最糟糕的当然还是越南战争。由于约翰逊认为“我们在越南打仗的同时可以继续‘伟大社会’，”因而奉行既要大炮、又要黄油的政策，这就使改革的希望化为泡影，使国会的许多立法徒具虚名。“伟大社会”和它的旗手一样，在政治上失去了昔日的光彩，很快从鼎盛走向衰落，并终于无声无息。
早在国会通过“东京湾决议”之前的1965年3月，约翰逊就已派出3，500名海军陆战队员在南越登陆；4月，又增派4，000名陆军战斗部队。1965年底美国军队在越南的人数增加到18万人，1966年底为40万人，1967年底为47万人，在1968年达到55万人的顶峰。随着越战的升级，美军伤亡人数和军费开支的直线上升，国内人民群众和统治集团内部的反对声浪逐渐高涨起来。约翰逊越来越多地求助于撒谎以保持“共识”。例如，国防部长麦克拉马拉向他报告，1967年越南战争的费用可能增加到170亿美元，他却通知国会说预计只有100亿美元，而后来实际支出的则是210亿美元，比他告诉国会的数字超过一倍以上。
国会相信了他故意低报的数字，没有提高税收。这就进一步增加了财政赤字和加剧了通货膨胀。约翰逊在公开讲话中一再宣扬的和平意愿更是骗人的谎言，因为他把越南看成是“一个四流的小国”，根本不是美国的对手；他拒绝任何认真的谈判，而一心要靠武力解决问题。他的谎言不久即被戳穿，从而失去了广大公众的信任，这成为他后来被迫退出政治舞台的重要原因之一。
到1968年，越南战争已经成为美国历史上持续时间最长和最不得人心的一场战争。美国国内，在争取民权、反对种族歧视运动的同时，出现了席卷全国的反战运动。人们通过电视了解到战争的残酷的真相，坚决要求从越南撤军。大学生首先站出来反对这场非正义的战争。
他们以逃避兵役、游行示威和静坐等形式抗议约翰逊的战争政策。教授、律师、宗教界人士等各界群众也加入了反战运动。1967年初，在纽约爆发了30万人参加的反战示威游行。除了那些从战争中大发横财的军火商外，大多数商人、企业家也都反对在越南继续打下去。侵越美军士气低落，吸毒、开小差的现象十分普遍。美国社会动荡不安，陷入严重的分裂之中。
与此同时，美国统治阶层内部的分歧也加深了。以参议院外交委员会主席威廉·富布赖特等人为代表的“****”要求约翰逊政府停止对北越的轰炸，甚至完全从越南撤军；以国务卿腊斯克等为代表的“鹰派”
则主张将战争继续下去。他们声称，美国军队进入越南是为了遏制中国，消除中国式的民族解放战争。随着两派辩论的发展和越南战局的变化，约翰逊政府的一些高级官员也改变了态度。国防部长麦克纳马拉反对继续对北越进行空袭，于1967年底辞职。其他一些内阁成员也相继挂冠而去。在越南问题上，约翰逊陷入众叛亲离的困境。他每次外出，都会受到示威群众的包围，都有反战青年高呼：“喂！喂！约翰逊，你今天杀了多少人？”可是，他轻易不敢离开白宫一步，这使他由此获得了“白宫的囚徒”这一绰号。在迫不得已的情况下，约翰逊任命克拉克·克利福德为国防部长来收拾残局。新任国防部长在全面重新审查美国对越南的战争政策后，得出了一个并不出人意料的结论：美国不可能赢得这场战争，只有谋求通过谈判实现停战。此时，约翰逊已别无选择，只有接受克利福德的意见。1968年3月31日，约翰逊通过电视向全国宣布，他正在对派遣飞机轰炸的北越地区进行限制，并已向河内发出一项和解方案的邀请，对方很快地便接受了这一邀请。他同时声明：“我将不寻求、亦不愿接受我的党提名我连任你们的总统。”可以说，已造成大量伤亡和引起国人怨声载道的越南战争，现在已使约翰逊的政治野心消磨殆尽。而且，它还将使民主党人付出失去执政地位的代价。