1995年，马杰回国开始创业，当时他手中掌握着不少技术，但是缺乏资金，于是在外经贸介绍下与一个大型企业合资创办了一家医药公司，注册资金800万。在此之前，马杰没有经过商，对于如何办企业完全没有经验。当时他想得很单纯，自己出技术，对方管经营，赚不赚钱是小事情，能把事情做好就行。这个公司运作了3年，3年期间，马杰成功开发出了3种新医药技术，而且经常是自己去制药局进行报批，对于医药的开发、生产乃至报批等环节非常熟悉了。产品虽然出来了，但是由于经营不善，一点没有赚钱。公司也关闭了，马杰的第一次创业失败了，自己白白投入了3年时间，还损失了100多万元。
但是马杰并不后悔，他说：“其实我也从中学到了不少东西。”他总结了三条教训。首先就是不能和外行合作。另外，要懂得如何花钱。节约当然是重要的，但是如果不懂得花钱，就更谈不上节约了。在试验用品、人才等软件上要舍得花钱，在只是装点门面的硬件设备上能不花就应该不花。另外，从他自身来说，也缺乏商业运作的经验。
马杰没有气馁，紧接着，就在美国与几个同事组建了一个医药开发公司，专门在国外进行药物技术研究，然后在国内生产。在北京郊县，马杰开始建设自己的生产基地。然而在厂房就要封顶的时候，土地政策发生变化，生产基地只能停止运作，马杰又损失了100多万元。