埃里森在32岁以前还一事无成。读了三个大学，没得到一个学位文凭，换了十几家公司，老婆也离他而去。开始创业时只有1200美元，却使得Oracle公司连续12年销售额每年翻一番，成为世界上第二大软件公司，他自己也成为硅谷首富。但世人知道，这期间他经历了多么漫长的人生奋斗历程。
埃里森被《财富》杂志列为世界上第五富的人，2004年《福布斯》杂志全球富豪排行榜显示，他的个人净资产为187亿美元，排名第十二位。他拥有的Oracle是世界上最大的数据库软件公司。Oracle公司也许并不为大众所知，但当你从自动提款机上取钱，或者在航空公司预定航班，或者将家中电视连上Internet网，你就在和Oracle打交道，Oracle的客户大多是赫赫有名，名列财富500强的大型公司。埃里森以乐于享受、好勇斗狠、傲慢自大还有和漂亮女人交往而出名。在32岁以前他一事无成。
1973年埃里森在Amdahl工作，Amdahl是和IBM竞争的生产大型电脑的公司，有45%的股份是日本富士通的，埃里森所以有机会去日本出差，他被东京的东方异国情调给迷住了，日本的禅学和文化给埃里森深刻的影响，他成了一个日本文化艺术的终身爱好者。
离开Amdahl，埃里森加入Ampex，这是硅谷一家生产影像设备的公司，在那里他认识了他一生中最重要的两个人：BobMiner和EdwardOates。他们一起研究如何有效存储读取海量的数字信息，埃里森转向了市场和销售工作，他们的项目最终失败了，埃里森将这归咎于公司管理不善，“我比公司的头儿们懂技术，也比他们懂市场，如果他们能经营公司，我也能。”
就在他们打算成立公司时，另外两个传奇式的公司也产生了，一个是苹果，一个是微软，虽然公司产品、理想、文化完全不同，但却有着同样成功的模式：创立者都是一个有梦想精神的技术企业家和一个技术天才，BillGates有PaulAl-len，SteveJobs有SteveWozniak，Larry埃里森有BobMiner。
1977年6月埃里森他们3人合伙出资2000美元成立了软件开发研究公司，埃里森拥有60%的股份，占有这么多股份是因为成立公司完全是由于埃里森的鼓动，而且他有一个40万美元的项目合同，这一年他32岁。
“好在经营软件公司不需要大量的资金，用点小钱就可以创业。所有伟大的软件公司都是这样开始的，也许不是所有的，但Microsoft和我们是的，我们比Microsoft资金更少，几乎一无所有。”
1976年IBM研究人员发表了一篇里程碑的论文，《R系统：数据库关系理论》，介绍了关系数据库理论和查询语言SQL，埃里森非常仔细地阅读了这篇文章，被其内容震惊，这是第一次有人用全面一致的方案管理数据信息。作者TedCodd10年前就发表了关系数据库理论，并在IBM研究机构开发原型，这个项目就是R系统，存取数据表的语言就是SQL，文章详细描述了他10年的研究成果和如何实现的方法，埃里森看完后，敏锐意识到在这个研究基础上可以开发商用软件系统。
那时大多数人认为关系数据库不会有商业价值，因为速度太慢，不可能满足处理大规模数据或者大量用户存取数据，关系数据库理论上很漂亮而且易于使用，但不足就是太简单实现，速度太慢。埃里森认为这是他们的机会：决定开发通用商用数据库系统Oracle，这个名字来源于他们曾给中央情报局做过的项目名。不过也不是只有他们独家在行动，Berkeley大学也开始开发关系数据库系统Ingres。
IBM却没有计划开发，为什么蓝色巨人放弃了这个价值上百亿的产品，原因有很多：IBM的研究人员大多是学术出身，他们最感兴趣的是理论，而不是推向市场的产品，从学术上看，研究成果应该公开，发表论文和演讲能使他们成名，为什么不呢？还有一个很主要的原因就是IBM当时有一个销售得还不错的层次数据库产品IMS，推出一个竞争性的产品会影响IMS的销售和人员工作，直到1985年IBM才发布了关系数据库DB2，Ellision那时已经成了千万富翁。
埃里森曾将IBM选择Microsoft的MS-DOS作为IBM-PC机的操作系统视为“世界企业经营历史上最严重的错误，价值超过了上千亿美元。”，IBM发表R系统论文，而且没有很快推出关系数据库产品的错误可能仅仅次之，Oracle的市值在1996年就达到了280亿。
几个月后，他们就开发了Oracle1.0，但这只不过是个玩具，除了完成简单关系查询不能做任何事情，他们需要花相当长的时间才能使Oracle有用，维持公司运转主要靠承接一些数据库管理项目和做顾问咨询工作。
Oracle数据库的头两个用户是美国中央情报局和海军情报所，他们使用完全不同的硬件和软件，中央情报局用的是IBM大型机，海军用VAX机，而埃里森和Miner开发Oracle用的是Digital的PDP机，这迫使他们作出了重要而关键的决定：新版本3.0全部用C语言开发，因为C语言是所有机器支持的，而且C编译器很便宜。
埃里森向客户宣称Oracle能运行在所有的机器上，事实上当然不可能，但这是非常聪明的市场策略，大型公司和机构都拥有各种类型的电脑和操作系统，他们愿意购买一种能通用的数据库。
Oracle的成功除了有IBM的友好帮助外，还要记上Digital的一份功劳。
IBM向埃里森提供了关系数据库理论，DEC提供了表演的舞台：VAX电脑，VAX是历史上最成功的小型机。
埃里森和Miner都十分好战，“我需要的不仅仅是成功，所有其他人都必须失败。”虽然埃里森后来否认了他对新闻周刊记者说过的这段话，但这是他的一贯作风，既使是在工作之余的体育比赛中他也总要争取胜利，他是相当不错的网球和棒球选手。为了胜利他可以不择手段，夸大其词和撒谎是家常便饭。