结婚之后，罗斯福依然继续在哥伦比亚大学读书，直到1907年，罗斯福通过律师资格考试之后，才从哥伦比亚大学退学，因此他并没有在哥伦比亚大学法学院正式毕业。
从1907年开始，罗斯福开始了一段有些平庸的律师生涯。由于缺乏经验，律师才能也不出众，罗斯福只是偶尔才能接到一些小案子。即便是这样的小案子，罗斯福做起来也不轻松，有时要他靠投机取巧，靠绕开实质内容而专攻诉讼形式，才能侥幸打赢官司。
罗斯福做律师之所以做的这么平庸，固然是因为他缺少经验，而更多的则是因为他缺少兴趣。在这段时期，罗斯福的事业游离不定，进展缓慢，所以后人把罗斯福的这段时期称之为“平静的6年”或者“韬光养晦的6年”。
当然，在这段平静的时期，罗斯福并非毫无收获。他积极参加各种社会组织的活动，初步掌握了同各阶层人士打交道的技巧，并很快成为这一带社区中年轻活跃的知名人物。
有了一定的群众基础之后，罗斯福开始打算进入政坛。堂叔老罗斯福总统是共和党党员，所以如果罗斯福加入共和党也许会更有利，但他却不顾堂叔的不满，毅然地成为了民主党的一分子。
1910年，罗斯福决定竞选纽约州参议员，为此，他乘着一辆红色的汽车，每天进行十多场演说。年轻、红色轿车这些元素让一些保守人士断言，罗斯福可能会因红色轿车会惊吓到牧场的牲畜而招致报复，太爱出风头的罗斯福不可能会赢得竞选。
罗斯福丝毫不受这些保守人士看法的影响，依然乘车到乡间进行演说。这个时候的罗斯福并没有太多演说经验，有时甚至语有梗阻，不够流畅。
但这并不要紧，年轻人最大的优势就是勇气可嘉，几场演讲下来，罗斯福很快就学会了美国政治家们的那套经验和惯用手法：对人笑容可掬，热情握手，讲上几句足以勾起当地居民自豪感和优越感的奉承话。
罗斯福的努力终于有了回报，在1910年11月的一个阴冷雨天里，罗斯福赢得了竞选。不过后来也有人认为，罗斯福的成功主要得益于恶劣的天气。因为许多本来要投共和党人选票的农场主，因为下雨而没有去选区投票。
1911年，罗斯福正式开始了自己州参议员的生涯。这一年，他只有29岁，是当时州内最年轻的参议员。这个时候，年轻人的虎劲又表现出来了，他也因此惹上了一个不小的麻烦，而这个麻烦最后也成了他出人头地的一个好机会。
罗斯福的这个麻烦和一个叫坦慕尼协会的组织有关。早在1789年坦慕尼协会就成立了，最初它只是一个全国性的爱国慈善团体。但后来该组织和政治交织在了一起，通过操纵政治选举来谋求好处。同时，它还和一些犯罪团伙有很大联系，因腐败、犯罪等原因而名声很臭。
虽然坦慕尼协会的名声不好，但却是民主党的政治机器，对民主党的选举有很大影响。当时联邦参议员还不是由选民直举产生，而是由州议会推选，而纽约州的民主党组织，长期被坦慕尼协会所控制。党魁墨菲经决定推举希恩，作为民主党的候选人。
这个希恩声名很差，可谓劣迹斑斑，他之所以被选中，是因为他是个雇用政客。当时，希恩向坦慕尼协会许诺，自己一旦跻身于联邦参议院，将好好报答坦慕尼协会。
对于希恩和坦慕尼协会的这种赤裸裸政治交易，当时很多人都知情，但由于担心被民主党核心小组视为叛徒，所以也只有一小部分民主党议员表示了反对。
这个时候，年轻的罗斯福不惜得罪核心小组，毅然决定站出来反对这一丑恶行为。罗斯福的勇气赢得了大家的赞赏，他也因此成为反对者的领袖，并和坦慕尼协会的一方进行了旷日持久的激烈论战。
罗斯福的反对并没有起到太大的效果，最后双方达成令人沮丧的妥协，罗斯福的反对实际上是被无形地给化解了。
虽然如此，罗斯福在这件事中的表现，不仅没有像以前的其他反叛者那样付出惨重的代价，罗斯福也一跃成为带头反对坦慕尼协会的英雄，从而引起全国舆论的瞩目。