李斯是楚国人。他年轻的时候，曾经担任过乡里的小官吏。
有一次，李斯看见生活在府衙厕所里的老鼠，吃着脏东西，遇到人时，还要担惊受怕、东逃西窜；后来又看见住在粮仓里的老鼠，吃着细粮，住着大房子，也不会受到人的惊扰。李斯非常感慨地说：“一个人命运的好坏，也和这些老鼠一样，全看他处在什么样的地位和环境里啊！”后来，李斯跟随荀况学习帝王之道，又来到秦国，被吕不韦留了下来，当了客卿。
吕不韦自杀后，秦国又发现了郑国的间谍。秦国的贵族和一些大臣就纷纷议论说，诸候国的人跑到秦国来，都是为他们自己的国家做打算的，有的人说不定就是来做间谍呢！他们要求秦王把来自各个诸候国的人才——客卿，统统赶出秦国去。
秦王接受了这个建议，立即下了一道逐客令：无论官职大小，只要不是秦国人，都得离开秦国。李斯也在被驱逐的范围内。他在离开秦国咸阳的时候，上了一道奏章给秦王。李斯在奏章里写道：“从前，秦穆公用了百里奚、蹇叔，当了霸主；秦孝公用了商鞅，使秦国变法图强；秦惠文王用了张仪，拆散了六国的抗秦联盟；秦昭襄王用了范雎，提高了秦国的威望。这四位君王，都是重用了客卿啊！客卿有什么对不起秦国的呢？再说，秦王宫里的珍宝、器乐、美女，难道都是秦国出产的吗？”他认为秦王的做法对秦国的强大和发展是毫无好处的。把人才赶出秦国，只能帮敌国增加实力。
秦王认为李斯的话很有道理，立刻取消了逐客令，还派人把李斯请了回来，恢复了他的官职。