凭借《明星报》出名之后，哈丁开始转向政界。进入政界就需要加入一个党派，但在哈丁生活的马里恩，民主党占据更大优势，所以加入民主党则更有利于哈丁的发展，但哈丁却选择了共和党。
很快，哈丁为自己的选择付出了代价。1892年，哈丁首次参加了县审计员这个职位竞选时，尽管这个职位并不是很高，但哈丁还是落选了，落选的原因是民主党的实力更大。
但加入共和党也让哈丁有了一个巨大的收获，那就是让哈丁得到了一个人的赏识，他就是俄亥俄州政界的实力人物哈里·多尔蒂。在以后的工作中，这个多尔蒂一步步把哈丁送进了白宫。
在接下来的仕途中，哈丁非常顺利。1899年他成为俄亥俄州参议员，1903年他成为俄亥俄州副州长，1915年他成为美国参议员。
总的来说，哈丁有两个突出的优点，一是英俊潇洒，一是演说口才出众。凭借这两个优点，在进入国会的第二年，哈丁就成为了共和党全国代表大会的主要发言人兼主席。
1920年大选即将来临，哈丁试图参加这次大选，但当时共和党内比他有实力的候选人至少有三个，所以按照正常途径，哈丁连党内提名也得不到。
对于这个情况，哈丁的竞选经理多尔蒂非常明白，但多尔蒂并没有灰心，他对这次竞选进行了一次非常准确的分析：“我不指望哈丁能够在前三轮投票中赢得提名，但等到会议持续到第二天凌晨，大家睡眼蒙眬的时候，就会想起哈丁。”
事实证明，多尔蒂的这个分析非常正确。共和党全国代表大会进行了多轮投票，虽然一直有人领先，但就是达不到规定的人数，会议进入了僵局。
休会期间，多尔蒂开始四处活动，希望让哈丁成为妥协候选人。第二天的夜里，共和党内各个派别的头头们在一个饭店里开会，大家开始关注多尔蒂一直大力宣传的哈丁。在这些头头们的眼里，哈丁有一个优势，那就是他的政敌少，当然这也和他柔顺的性格有关。现在共和党的党魁们最为担心的一个话题是“哈丁有没有丑闻”？
为了确定这个问题，凌晨2点钟左右，哈丁被召集到饭店的会场，并被询问：“你有不可告人的家丑吗？”
哈丁思考了10分钟，然后回答：“没有。”
之所以思考这么久，是因为哈丁其实是有丑闻的。他的丑闻就是有情妇，而且有两个，其中一个还是他朋友的夫人。
哈丁的第一个情妇是卡莉·菲尔普斯，她是哈丁多年朋友詹姆斯·菲利普斯的妻子。尽管哈丁和卡莉两个人结伴前往欧洲等地旅游，双方的配偶居然在很长的一段时间内都不知情。
这场罗曼史在极其秘密的状态下持续了15年，其间，哈丁向这位漂亮的情妇写了250封情书，以表达自己的爱慕之意。
哈丁的另一个情妇是南·布里顿，她比哈丁小30多岁。据说布里顿上中学的时候就迷恋上了哈丁，并在大学毕业后成为哈丁的情妇。
在得到哈丁“没有”丑闻的答复之后，共和党内的党魁们接受了哈丁为妥协人选，在第10轮投票中，哈丁赢得了共和党总统提名。
赢得党内提名之后，哈丁遇到的对手是来自民主党的詹姆斯·考克斯，他和哈丁一样也是来自出版行业，当时是俄亥俄州州长。
考克斯和哈丁还有一个共同点就是，那就是考克斯获得党内提名也不顺利。在民主党全国代表大会上，代表们分成了支持财政部长的一派，和支持司法部长的一派，进行了40多轮投票都没有确定党内总统候选人，最后考克斯作为两派妥协的人选，在第44轮投票中赢得党内提名。
1920年大选的议题是是否批准美国加入国联。和威尔逊同为民主党的考克斯极力支持美国加入国联，而哈丁在这个问题上既不表示支持，也不表示反对，而是含糊其辞。
在美国大选中，候选人想在一个重要的议题上保持含糊其辞也是困难的。哈丁是如何做到的呢？这是因为当时共和党内人提出建议：“不要让哈丁离开家乡，如果他到各地去竞选，肯定有人向他提问题，而哈丁恰恰是那种想回答他们的窝囊废。”
因此，两个政党在是否加入国联这个议题上的不同态度，在一定程度上决定了两个候选人的不同表现。在整个大选中，考克斯旅行2万多英里，发表了近400多场演说，而哈丁只是在马恩里的家乡参加了一些竞选活动。
如果方向是错误的，一个人越是努力，可能结果越惨。考克斯在这次大选中的表现，就验证了这句话。美国历来就有自由主义传统，此时又是刚刚结束第一次世界大战，所以美国对参加国际事务的兴趣并不大，他们希望联邦政府把更多的精力放在国内。所以考克斯极力鼓吹让美国加入国联的态度，让他失去了部分民众的支持。
最后，哈丁以一个世纪以来最大的压倒性优势，404票对127票彻底击败了对手考克斯，赢得大选。