1926年3月6日，格林斯潘出生于纽约，父亲是个股票经纪人，母亲在零售店工作。
4岁时，父母离异，他一直跟着母亲生活，对母亲的感情特别深，长大后还每天打电话向母亲请安，每逢周末还要乘飞机前往纽约看望母亲，直至她1995年去世。
格林斯潘从小就对在别人眼里无聊的数字游戏如痴如醉。大约5岁时，母亲就让他做三位数的加减法心算，小格林斯潘居然能一口报出正确的答案。每当零售店顾客多时，他自然就成了母亲的好帮手。母亲能歌善舞，在她的熏陶下，格林斯潘迷上了音乐。他最初的理想是当一名职业音乐人。在乔治·华盛顿中学读书时，他开始学吹单簧管，后来进了著名的纽约朱利亚音乐学院，曾和斯坦·盖茨同窗共学吹奏萨克斯管，而后者如今已是名扬天下的萨克斯管演奏大家了。当时，爵士乐和吉特巴在美国风行一时，格林斯潘也赶了趟潮流，加盟亨利·杰尔姆的强节奏爵士乐乐队，一年里走南闯北，四处巡游，甚至还演到了纽约著名的“时代广场”，真可谓“潇洒走一回”。在乐队里，他不仅是出色的萨克斯管手，还是合格的记账员。他常常利用在演出间隙自学来的点滴金融税务知识，现炒现卖地帮队友填报纳税申报表。但乐队经常面临“断粮”的窘迫，终归不是长久之计，加上格林斯潘意识到自己在音乐方面只是“小有出息”，很难再有长进，于是毅然决定进入纽约大学商学院学习，让自己的另一份天赋开花结果。他先后于1948年和1950年以最优秀的成绩获得经济学学士和硕士学位，后到哥伦比亚大学继续深造。正是在那里，他遇到了他的第一位伟大的良师益友，也就是后来在尼克松政府中担任美联储主席的来瑟·博恩斯教授。他与博恩斯的友谊成为他后来进入美联储的入场券。由于囊中羞涩，格林斯潘中途退学。这一耽搁就是近40年，直到1977年，格林斯潘51岁“高龄”时才圆了年轻时的梦想，戴上了母校的博士帽。现在想想，幸亏当年格林斯潘当机立断改了行，否则美国顶多是增添了一名平庸的乐师，却损失了一个金融奇才。