1893年康有为应乡试，中举人第八名，取得了考进士的资格。
1894年，日本军国主义发动甲午战争。年底，大连、旅顺相继被日军占领。次年初，清政府多年经营的北洋舰队全军覆没。4月，清廷被迫派李鸿章赴日本马关与日议和。签订了丧权辱国的《马关条约》。条约规定：
一、中国割让辽东半岛、台湾全岛人附属岛屿和澎湖列岛给日本。
二、中国赔偿给日本军费2亿两白银。
三、中国增开沙市、重庆、苏州、杭州4个通商口岸。
四、允许日本在中国通商口岸设厂。
这个苛刻的条约传到北京，全中国人民都陷入巨大的悲愤之中。面临国家民族的灾难，人们的民族觉醒意识空前高涨，爱国热情极为高昂。北京的大街小巷掀起了拒约浪潮。当时正值全国科举大考即将举行，全国举人（公车）都集中在北京。这些尚未步入仕途的士子更是群情激愤。大弟子梁启超在康有为影响下慷慨激昂，奔走联络。首先联合广东举人麦孟华、张寿波等百余人，湖南举人任锡纯、文俊铎等数十人，上书都察院，请代奏皇帝，力言台湾不可割给日本。梁启超等人上书之后，福建、四川、江西、贵州以及江苏、湖北、直隶、云南等省举人也分别上书，强烈反对割台。几天之内督察院衙门前车马骈集，填街溢巷，有时长达数里。台湾举人们涕泪交流，慷慨陈词，引得一些官员也连连表示敬意。
人们高涨的爱国热情深深感染了康有为，他意识到有必要联合起来，发动一场大规模的请愿运动，以改变政局。他召集18省举人1300余人聚会，决定上一公呈，请求清政府拒和、迁都、练兵、变法以自救立国。这时他早已因倡言变法图强而名满天下，于是，大家公推他起草上奏书。他用一天两夜时间，写出了洋洋1. 8万余言的《上今上皇帝书》，准备由各省参加会试的举人签名后上呈。
康有为在上书中首先驳斥了出卖主权，对日妥协就可以保清廷数年安全的幻想，指出：日本割台后，其他列强必接踵而至，提出领土要求。答应则国土日削，不答应则战争势不可免。中国将进退失据，国无宁日。在反对议和的同时，他提出“下诏鼓天下之气，迁都定天下之本，练兵强天下之势，变法成天下之治”四项主张。“下诏鼓天下之气”，就是建议光绪皇帝下三道诏书：第一，下罪己诏，以感动忠臣义士，使他们奋起为国雪耻；第二，下明罚诏，严惩主和辱国的大臣和征战不利的将帅，以重振朝纲；第三，下求才诏，破格选拔人才。“迁都定天下之本”，就是根据当时京师屏障全失的局势。迅速迁都西安，避免日本的武力挟制，在内地养精蓄锐，以图东山再起。“练兵强天下之势”，就是摆脱中国将衰、兵弱、器劣的状况，用练新兵、选良将、购精器的办法，建立一支强大的军队，改变中国被动挨打的局面。“变法成天下之治”，在康有为看来是改变中国积贫积弱国状态的根本措施。
他提出要行“富国之法，养民之法与教民之法”。富国之法包括：由国家发行钞票，以扩大商务，筹措军费，聚资建设；兴修铁路，发展交通；允许私人开厂造机器、舟船，发展工业；开发矿产资源，以获其利；自铸银圆，以收利权；开设邮政业务，便利公私信件传递。养民之法包括四项内容：务农，即全面改造农业；劝工，即鼓励科学创造发明；惠商，即减免重税，保护商业；恤穷，即扶贫济弱，收取民心。教民之法也有四项：一、普及教育，提高国民文化素质；二、改革科举，增加时事政治与科学知识内容；三、开设报馆，移风易俗，加强舆论作用；四、设立道学，用孔子之道统一人们思想。
康有为对清政府政治制度的低效落后进行了有力批评，认为君臣、君民、上下级之间的阻隔是中国贫穷落后的主要原因，应当吸收民众，特别是士人参加国家管理。
最后，康有为告诫光绪皇帝：如果采纳他的建议，实行了上述主张，中国就会由弱转强，收复失地，一雪国耻。如再徘徊观望，苟且因循，则局势将不可收拾。
这些建议与措施，既有学习西方资本主义先进文明的色彩，又体现出他迫切要求改变中国落后状况，抵御列强侵略的强烈愿望，反映了他的远见卓识。其中许多主张是他多年考察、研究的结果，是切实可行的救弊良方。在中华民族危亡的关键时刻，康有为提出资产阶级维新改革的政治纲领，企图在保持清朝统治的前提下，反抗侵略，救亡图存，把中国引上资本主义道路，具有进步的历史作用。
康有为的上书脱稿后，于5月1日在北京宣武城南松筠庵，召集十八省举人及京官名流讨论。听了康有为的讲演和上书后，群情激昂，深受感动，纷纷签名。准备4日去都察院集体投递，阻止签约，洗雪国耻。公车上书引起了慈禧太后及朝中顽固派官僚的恐慌。“马关条约”原定于8日在烟台正式换约，他们怕举人们的爱国行为引发更大的事态，便胁迫光绪皇帝于2日批准条约，在条约上用印，造成了既成事实。孙毓汶等慈禧党羽又造谣惑众，虚声恫吓，千方百计阻止这一爱国行动。2日，举人们再次讨论散会后，不少举人听说和议已成，大局不可改变，斗志便有些松懈，收回了签名，也不愿再去参加斗争。康有为不得已取消了上书行动。
条约批准后，各省举人对力主签约，极力破坏公车上书的军机大臣孙毓汶恨之入骨，扬言要抬着棺材到孙家示威，杀死这个卖国贼。康有为认为这是过分之举，予以制止。这个消息吓得孙毓汶不知所措，后来被迫辞职。
这场斗争不失为中国近代爱国运动史上的一个壮举。成千士子在数载苦读，眼见踏上光宗耀祖的坦途之际，置功名利禄甚至身家性命于不顾，拍案而起，发出了救亡图存的呐喊，显示出中国人刚直不阿的高尚民族精神，谱写了一曲气壮山河的凯歌。这次公车上书，把酝酿多年的资产阶级维新思潮变成了实际的爱国政治运动，是中国近代史上浓墨重彩的辉煌一笔。康有为也走上斗争舞台，从一个启蒙思想家，变成了一个杰出的社会活动家。
这封上书没有送到光绪皇帝手上，可封建阴霾毕竟遮挡不住它的思想光辉。上书第二天，《上皇帝书》副本即开始传抄。一个月后，上海出版发行了它的印本。这一文献在祖国大地上广泛流传，产生了巨大影响。这个行为本身也使士庶民众受到极大鼓舞，从中看到了中国的希望。
上书期间，会试发榜，康有为中第五名，殿试降为二甲第46名，赐进士出身。即使对康参加科举考试之事，顽固派也要进行阻挠。此次会试的总裁徐桐、副总裁李文田等人曾预先指示阅卷大臣：广东省试卷中有才气者一定是康有为，注意不要录取。阅卷者在试卷中看到一份才华横溢的卷子，传阅后大家以为是康有为的，遂弃置不取，不料这是梁启超的试卷。当前5名以外的榜已填完时，徐桐高兴地说：康有为一定没被取上！可填前5名时，康有为试卷正在其中，而且拟取为会元。徐桐等已无可奈何，只能把康的名次从第一降至第五。徐桐又羞又恼，吩咐家人：康如下拜谒，拒而不见。他根本不懂得，康有为是不屑于向他这样的守旧官僚折节礼拜的。
考中后，康被授予工部预衡司主事之职。他考进士只为扩大政治影响，没把这个六品官放在眼里，所以他继续从事维新事业，根本没有到任就职。他自己解释说：“我自知无作官才能，不能为朝廷奔走效劳。再说我生平以讲学著述为业，本打算以平民身份终此一生。因为难违母命，才不得已应试，连科举都无意参加，怎么会去作官呢？我不能为五斗米折腰，所以没有到任。”
马关条约的签订引起西方国家的不安，他们感到在华利益受到了严重威胁。俄、德、法三国同日交涉，要求日放弃辽东半岛。日本当局被迫同意归还已占领的南满和辽东半岛。
腐败的清政府又盲目乐观起来，恢复了文恬武嬉的常态。康有为怀着深深的忧患意识，5月末和6月末，又接连两次上书给光绪皇帝，阐述政治主张，呼吁改变现状，提出变法的具体步骤与措施。在《上清帝第三书》中，因形势变化，去掉了拒和、迁都的主张，集中讨论了变法问题。这时，康有为已是朝廷命官，都察院不能对他的上书予以扣压，于6月3日代递军机处。倾向维新的光绪皇帝师傅军机大臣翁同□马上将上书呈给光绪皇帝阅览。光绪皇帝读到上书后，思想受到很大震动。对康的主张大加赞许，认定通过变法维新，不仅能使中国富强，而且可以改变自己在清统治集团中的地位。他当即命再抄录三份副本，一份呈送慈禧太后，一份留存军机处，另一份放在宫中备自己随时观览。
第三次上书的成功使康有为受到很大鼓舞，他又写出第四封上书，详细论述变法的轻重缓急，并提出中国首先要在两个方面进行改革：一是鼓励科学发明，使中国迅速走向富强；二是仿照西方，设立议院以通下情。
当时，光绪皇帝的师傅翁同□对于光绪帝亲政后无权的处境十分不安。他认为康有为代表了可以帮助皇帝巩固地位，改变政局的新生力量，急于与之建立起稳固的联系，作为外援。他特意走访康有为，不巧没有遇上。康有为也正想通过当政者实行自己的政治主张，得知此事后立即登门回拜。翁向康透露了皇上无权的实情和渴望掌权重振朝纲的愿望，同时也受到康的鼓动，对维新变法有了初步的理解。事后，康又多次写信给翁，督促尽快实行新政。在康的影响下，翁同□思想发生了很大变化，成为光绪皇帝与维新变法事业的中介人。
这年7月，在康有为思想推动下，光绪帝与翁同□决定部分实行新政。下诏在各省推行一些改革措施，如修铁路，开矿山，造机器，折南漕，减兵额，创邮政，铸钞币，练陆军，整海军，立学堂，整厘金，核关税，稽荒田，汰冗员等。接着，他们又拟定十二道诏书，发布维新之令。可是这些措施遭到各地督抚们的抵制，在慈禧太后等保守的后党支持下，这些地主官僚们更是有恃无恐。由于慈禧太后的干预，这一年光绪帝推行新政的计划被迫中止。