战火中的幼年
1936年农历11月17日，李明出生在广东省三水县，现为佛山市三水区。
三水位于广东省中部，地处珠江三角洲，西江、北江、绥江在此汇合，故名三水。作为家族第三代中的第二个男孩，李明在父亲调到三水海关工作之后，就一直跟随在父亲的身边。
尽管父亲当时将李明留在身边的意愿是希望能让他接受更好的教育，学到更多的知识，将来成为一个对社会、对国家有用的人才，然而时局的纷乱，以及父亲工作上的频繁调动，年幼的李明不得不随着父母在广州、香港、澳门、上海之间来回颠簸。1938年，父亲调到香港九龙海关工作，两岁的李明和家人一起开始了在那里的生活。
尽管当时国内抗日战争已经进入相持阶段，但是由于香港当时仍然是英国的殖民地，还没有遭到日本的进攻，全家人的生活也算安稳平和。1941年，5岁的李明被送到香港一家幼稚园，开始接受最初的学前教育。然而就在1941年底，日本侵略军于12月8日动用炮兵、空军、海军同时向香港发起猛烈进攻，空军首先轰炸了香港启德机场和停泊在香港海面的英军舰队，步兵随即攻占九龙要塞，英军猝不及防，被迫退守香港岛。日军经过5天的炮击，分别在北角、布莱玛、水牛湾登陆，英军被日军分割在东、西两个地区，日军两次劝降英军，遭到英军拒绝，日军向英军多个驻点狂轰滥炸，迫使英军放弃抵抗，无条件向日军投降。12月26日，日军举行了占领香港的入城式。李明只记得，在日军进攻香港那天，枪炮声隆隆，他因吃鱼的时候被鱼刺卡了喉咙而没有去幼稚园上学，后来就再也没有去了。
日军占领香港后，在香港市区内烧杀抢掠，无恶不作，并对英军士兵和香港市民进行了惨无人道的有组织的大屠杀。据记载，在香港为抗日捐躯的各国人士共达1600人，市民死亡人数超过4000人。迫于上述种种压力，父亲带领全家人于1942年2月乘船离开香港，逃难到了广州。虽然当时年幼的李明对所谓的爱国主义、打击侵略者的豪情和壮志尚不明白，但是在全家屡次搬迁的颠沛流离之中，他对日本侵略者有着最单纯的反感和厌恶。到了广州之后，李明在父亲的安排下进入私塾学习，而父亲也经常购买课外阅读的书籍给孩子们看，包括《丰子恺画册》《三毛流浪记》《三毛从军记》《小朋友》等，在提高孩子们的学习兴趣、扩大知识面的同时，也让孩子们明白了最纯朴的人生大义、善恶是非。
据姐姐李新回忆，李明从小性格腼腆，是父母眼中的乖孩子，是老师心目中的好学生。“记得我们全家逃难到广州时，由于地方不熟悉，情况不了解，父亲只能安排我们进入私塾读书。我不喜欢古文，既不肯读，也不肯背，看着老师摇头晃脑的样子很反感。结果，天天被老师留下来罚背书，有时候甚至被老师惩罚用戒尺打手心。”但是在大姐的记忆中，“李明每次都能认真地按照老师的要求背书，从来没有被罚过，还总能得到老师的表扬。”
就读蔡高小学
抗日战争胜利后，父亲工作调动到了澳门，此时已经9岁的李明才算过上了相对平静的生活。在澳门，李明进了基督教圣公会创办的蔡高小学读三年级。蔡高小学创办于1919年，是一所非营利性质的私立学校。蔡高小学最初取名志道堂幼稚园，提供学前教育，是小学教育预备班，1932年增办初中，1949年再增办高中而成为完全中学。该校宗旨是以基督教信仰融贯诚、毅、爱、朴的美德，实施全面教育。蔡高小学的宗旨融贯的美德，使少年李明的心灵受到潜移默化的影响。
回到上海
1947年1月，父亲向单位提出申请，要求调回上海工作。在得到批准之后，李明全家回到了上海。回到上海之后，李明到杨家渡小学插班。由于上海的小学教育与澳门的小学教育差别较大，加上李明是插班生，按照学校规定必须进行插班考试。有意思的是，原本准备到杨家渡小学四年级学习的李明，在进行插班考试的时候误进了五年级的考场，更有意思的是他居然考试通过了。就这样，杨家渡小学接纳了这个聪明爱学的孩子，并允许他跳一级直接进入五年级学习。
从澳门初回上海，由于听不懂上海话，李明姐弟都被同学们称做“小广东”，不过半个月之后，李明已经可以应对自如，和同学们自由交流了。
在洋泾中学成长
小学毕业之后，李明考入上海市重点中学——洋泾中学。洋泾中学创办于1930年，抗日战争期间因为遭到日本军队的严重破坏而多次搬迁，更换教学地点。抗日战争胜利后，这所浦东名校在老白渡地区的俞家庙复课。洋泾中学还是一所具有悠久革命传统的老学校，解放前，该校的多位老师是中共地下党员，当时还在同学中建立了党的外围组织——地下学联。他们团结广大师生以办墙报、罢课、传阅进步书刊等形式，宣传共产主义，反对国民党的统治。在这里成立过地下少先队，发展过地下学生党员，进行过各种形式的学生运动。
李明进入洋泾中学之后，学习非常认真刻苦，所以学习成绩一直比较好，在班上排前10名。中学学习期间，李明开始对数学、物理表现出极大的兴趣，而学习兴趣的建立跟班上老师的培养教导分不开。当时，在李明的任课老师中，教英语的曹文玉老师，教几何的方亦良老师都是中共地下党员，还有体育老师，经常带同学开展跳高和乒乓球活动，低年级的学生特别喜欢踢小橡皮球，李明对体育的兴趣和爱好就是这时候培养起来的。在老师的教导和影响下，李明除了努力掌握文化知识，还从老师那里接触到了进步思想，并积极向党组织靠拢。
1949年9月，在新中国成立前夕，13岁的李明申请加入青年团组织，经张为濂老师介绍，被批准成为上海市第一批新民主主义青年团团员。