著名的韦伯教授派人通知他，如果他留在苏黎世，可以破例特许他来旁听自己的物理课。校长也十分欣赏爱因斯坦非凡的数学能力和渊博的数学知识，他给爱因斯坦提出了一个善意的忠告：应当在瑞士的一所中学毕业后，过一年再来投考。校长还亲自推荐了阿劳小镇上的州立中学，这所学校无论在教学方法上还是教师的组成上都是最先进的。
爱因斯坦自己虽不想再进中学，因为慕尼黑中学生活在他心里留下了深深的阴影。但怎么办呢？继续待在家里无所事事肯定是不行的，爱因斯坦也不想再伤父母的心了。
爱因斯坦怀着懊丧的心情来到离苏黎世不远的阿劳镇上。这依山傍水的小镇，美丽如画的景色，一点也引不起他的兴致。踏进州立阿劳中学大门的爱因斯坦，心上仿佛压着一块大石头。他寄住在温特勒先生家里。温特勒先生是州立阿劳中学的教师，不仅知识渊博，而且深知教育心理学。他带着爱因斯坦在学校里到处散步参观，并让自己的妻子和七个孩子都与爱因斯坦交上了朋友。很快，爱因斯坦就在温特勒先生家里找到了温暖，抑郁的心情过去了，一个新爱因斯坦诞生了。
阿劳中学的老师教育思想开通、民主。19世纪初叶，瑞士伟大的教育学家佩斯塔洛齐曾在阿劳州附近活动过，他的民主和人道主义思想在阿劳州立中学十分盛行。他们不赞成用权威的棍棒和名利的诱饵当做教育的手段。他们主张学生自我负责，老师的责任就是向学生展示知识和科学的魅力，点燃他们好奇心的火花，激起他们的求知欲望，让他们的智力自由地发展。温特勒先生教德文和历史。他纯朴热情，学识渊博，采集鸟类标本是他的业余爱好。他常带着学生到山里去远足，采集动植物标本。让孩子们欢笑，来洗去岁月留在身上的尘翳，这是温特勒先生最大的快乐。爱因斯坦与温特勒先生朝夕相处，尊重他，热爱他，他们成了好朋友。
爱因斯坦有生以来第一次喜爱学校了。老师这样亲切，学生可以自由地提问、研究问题，第一次享受到这样的民主和自由，爱因斯坦变了：他对生活的热爱，他青春的朝气和活力迸发出来了。路易波尔德中学里那个怯生生、不多说话的少年，现在变成笑声爽朗、步伐坚定、情绪激昂的年轻人了。他浓密的黑色卷发下面，那一双棕色的大眼睛里，时常带着嘲笑的神色。早年的那种腼腆已经痕迹全无了。有一位同班同学后来还回想起爱因斯坦的那种有力而又自信的步伐，脸上的那种微带嘲讽意味的表情以及他的那种“不顾是否会冒犯别人而敢于表达自己意见的大无畏方式”。
1896年秋天，爱因斯坦在阿劳中学顺利地以下列分数（规定最高分数为6分）拿到了中学毕业证书：德语5分、意大利语5分、历史6分、地理4分、代数6分、几何6分、图形几何学6分、物理学6分、化学5分、自然历史5分、绘画（美术）4分、绘画（技术）4分。
在阿劳的生活，更坚定了爱因斯坦不做德国人的决心。在慕尼黑的时候，他就曾经向父亲要求放弃德国国籍。一个孩子，要放弃自己祖国的国籍，这多少是不可思议的事情。现在，爱因斯坦再次恳求父亲答应他的要求。父亲性情随和，经不住儿子的一再恳求，就向当局写了申请。当局接受了申请，在付了3个马克之后，爱因斯坦便获得了一份1896年2月28日由乌尔姆地方签发的文件，正式宣布爱因斯坦不再是德国公民。10月29日，爱因斯坦考上了瑞士联邦工业大学，而且是一个无国籍的大学生。
从1896年10月到1900年8月，是爱因斯坦大学生活的4年。他就读的是苏黎世工业大学的教育系。其实，这个教育系应本称为物理—数学系，专门培养物理、数学教师。像大多数充满好奇心的大学一年级新生一样，爱因斯坦的选修课程也是五花八门，从日晷投影、瑞士政治制度到歌德作品选读，样样都有。但他很少去听物理学和数学的主要讲课。教授物理学课的韦伯是位杰出的电工学家，但在物理学方面，他的讲授内容爱因斯坦早已熟悉。爱因斯坦宁可自己直接攻读物理学大师麦克斯韦、基尔霍夫、波尔茨曼和赫兹的著作。大学期间，爱因斯坦对数学，他曾钟爱的数学改变了看法。数学分支太多、太细，每一个细小的分支都可以消耗一个人的终生。可在物理学中，特别是在理论物理学中，很容易找到本质的东西。你只要钻进去，再钻进去，自然的奥秘就呈现在眼前了。
经常旷课的爱因斯坦每当考试时就得提心吊胆了。幸好，他的同班同学格罗斯曼笔记记得非常出色，考试前，这些笔记就成了爱因斯坦的救命船。
格罗斯曼总是准时去听明可夫斯基和其他教授讲授的高等数学的各章节的课，爱因斯坦和他很要好，后来吸收他参加广义相对论的数学工具的制订工作。格罗斯曼把自己的课堂笔记本借给爱因斯坦。
爱因斯坦对科学研究的理解在守旧的教授们那儿，被视为离经叛道、胡思乱想。在他们眼里，爱因斯坦是个糟糕的、叫人头疼的学生，能否毕业都成问题呢！
有一次上实验课，教授照例发给每个学生一张纸条，上面把操作步骤写得一清二楚。爱因斯坦也照例把纸条捏做一团，放进裤子口袋。过了一会儿，这张纸条就进了废纸篓里。原来他有自己的一套操作步骤。爱因斯坦正低头看着玻璃管里跳动的火花，头脑却进入了遥远的抽象思维的世界，突然，“轰”的一声，把他震回到现实世界中来。爱因斯坦觉得右手火辣辣的，鲜血直往外涌。同学、助教、教授都围了上来。教授问明情况，就愤愤地走了。他向系里报告，坚决要求处分这个胆大包天、完全“不守规矩”的学生。前不久，因为爱因斯坦不去上他的课，他已经要求系里警告爱因斯坦。未来的物理学大师果真受到了处分。一个不听老师话的学生能成材吗？
十几天以后，爱因斯坦看到教授迎面走来，想躲已经来不及了。教授走到爱因斯坦面前，目光很自然地落到他那只包着绷带的右手上，教授叹了口气，心里又同情又遗憾。教授再次叹了口气，说：“唉，你为什么非要学物理呢？你为什么不去学医学、法律或语言学呢？”
爱因斯坦并未意识到教授的话中话，教授认定，一个不循规蹈矩的人是进不了物理学殿堂的。
诚实的爱因斯坦老老实实地回答：
“我热爱物理学，我也自以为具有研究物理学的才能。”
教授迷惑了。一个不守规矩的学生还加上一份固执，他摇了摇头，再次叹了口气，说：
“唉！”
“算了，听不听由你，我是为你好！”
历史得感谢爱因斯坦的“不守规矩”和固执。假如当初爱因斯坦真听了这位教授先生的“忠告”，物理学真不知要蒙受多大的损失呢！幸好，固执的爱因斯坦是有自信的。他继续走自己的路，继续刻苦攻读物理学大师的著作，不为守旧教授们的态度而退缩。
1900年秋，爱因斯坦通过了毕业考试，拿到了文凭。他的朋友们也都在工大毕业了。米列娃除外，她在下一学年结业，但没得到文凭——当时文凭是不发给妇女的，代替文凭的是一份结业证明书。
爱因斯坦步入了漫长的求职道路。他替苏黎世联邦观象台做过计算工作。为了寻求固定工作，他不得不考虑加入瑞士国籍。1901年2月，爱因斯坦花掉了自己的全部储蓄，回答了有关祖辈们的健康和性格问题，并向当局保证不酗酒之后，才获得了瑞士国籍。这个新公民没被征入瑞士联邦军队，因为发现他是平足还有静脉曲张。
5月间，爱因斯坦得到了在温特图尔城的职业技术学校当几个月教师的职位。1901年秋，爱因斯坦又失业了。下一个短暂的安身之处是夏富豪森——莱茵河畔的一座小城镇，这里以吸引了许多旅游者的瀑布而闻名。爱因斯坦在工大时结识的哈比希特的家就住在这里。由哈比希特推荐，爱因斯坦进了一所私立的中学生寄宿学校当补习教师。让他把学生们教好以便应付毕业考试。他接手数学，并努力使它变得生动活泼和饶有兴趣，破除了那些童年时给他本人带来过不少痛苦的陈规陋习。但是，爱因斯坦和他的老板雅科巴·纽易莎对教学的观点和目的不一致。补习教师表现出来的判断的独立性和自主性使纽易莎不满，于是爱因斯坦被解雇了。
爱因斯坦再次失业，而且无法重新谋得一个教师的职位。贫困和屈辱，不能使爱因斯坦降低人格。他不自怨自艾，也不乞求怜悯。他用幽默来排遣愁闷，在给一位同学的信中，这样写道：“上帝创造了驴子，给了它一张厚皮，这使驴子的处境比我有利……”
爱因斯坦把痛苦咽到肚里，化做微笑和玩笑，去安慰亲朋好友。
他常爱说：“我最后还有一条出路呢，我可以拿起小提琴挨家挨户去演奏，这总能挣几个钱吧！”
1901年12月11日，报上登出了伯尔尼专利局的“征聘启事”：
“征聘二级工程师。应征者需受过高等教育，精通机械工程或物理学……”