光绪廿一年（1895年）六月，翁同龢得到光绪皇帝的同意，令陈炽起草实行新政的诏书12道，准备陆续颁布，但怕慈禧和一班守旧大臣反对，于是去说服恭亲王奕山作主颁布。奕不肯同意，事情便搁了下来。这时清廷的守旧派都很不欢喜乱上书的康有为，大学士徐桐、御史褚成博都上奏劾他，陈炽、沈曾植劝康有为暂离北京，康乃于八月底出京回粤。第二年慈禧杀太监寇良才，杖责珍、瑾二妃，太后和光绪之间的关系势成水火，变法维新是完全谈不到了。
光绪廿三年（1897年）冬天，德人强占胶州，康有为又赶到北京上了一个很长的奏章，陈说国际形势和当前中国处境，提出几个要点：（一）实行君主立宪。（二）整顿吏治与财政。（三）实行新式教育政策。（四）兴办社会福利。（五）振兴工商事业。（六）听任疆臣各自变法。（七）仿效俄法日以定国是。这篇洋洋大文不仅传遍北京，连上海的报纸也刊载出来了。
由于上述这篇奏章震动了朝廷上下，光绪本想召见康，但奕说：“本朝成例四品以下官吏不能召见”，于是乃改为大臣代表皇帝传康到总理各国事务衙门谈话。
光绪廿四年（1898年）正月初三日下午三点钟，康有为和当时清廷著名大臣李鸿章、翁同龢、荣禄、廖寿恒（刑部尚书）、张荫桓（户部左侍郎）等会见，地点是在总理衙门西花厅。这是一幕精采的辩论会。荣禄说：“祖宗之法不能变”。康有为答：“祖宗之法是为了治理祖宗的土地，如今祖宗的土地都不能守，则还守什么祖宗之法？举例来说：现在谈话的总理各国事务衙门，也不是祖宗时候就有的，因时制宜是适应需要。”他的回答驳倒了荣禄。廖寿恒问：“变法如何着手？”康有为答：“应从改革法律官制入手。”李鸿章问：“那么六部可以尽撤，则例可以尽弃吗？”康有为答：“法积久而弊生，而且今昔异势，现在的法律官制实在应该改弦更张，就是一时不能全改，也应斟酌情形逐步更改，这样才能推行新政。”接着他从政治谈到经济财政，又说日本因仿效西洋维新而富强，如今制度已很完备，中国和日本邻近，应该向日本学习。这次谈话由三点钟谈到天黑才散。
第二天翁同龢把谈话情形报告光绪，光绪又要召见康，恭亲王主张叫康先条陈意见，于是光绪命康具折上陈，并把康所著《日本变政考》、《俄大帝彼得变政记》一并进呈。康有为乃在正月初八日上了一个“统筹全局”的奏折，折中说：“现万国之势，能变则存，不变则亡，全变则强，小变仍亡……方今之病在笃守旧法而不知变……”然后举明治维新时的改革为证，要求光绪先做三大事：（一）大集群臣于天坛，诏定国是，除旧布新；（二）设上书所于午门，派御史二人收书，许天下士民上书言事；（三）设制度局于内廷，选天下通才数十人入直其中，皇上每日亲临，损益庶政。并于庶局下设法律、度支、学务、农、商、工、矿、铁路、邮政、电报、陆军、海军等12局。康并在著作的序文上警告清廷，如果不自动变法，等别人来变时，清朝就完蛋了，但如能自动地变，则清廷仍可以永远统治下去。在康有为的奏折里一方面强调变法可以富强，而变法又是非常容易。这些意见把年轻而有抱负的光绪皇帝完全打动了，他把康有为的著作和奏章都放在案头，天天翻阅。
康有为不仅只争取光绪皇帝赞同他的变法主张，同时还联络许多能接受新思想的官吏和知识分子。他在长兴里讲学时，已经拔识了几个同门弟子，其中最著名的是梁启超。后来康中了进士，名气日大，在京中结识了翰林侍读学士徐致靖、御史杨深秀、给事中高燮曾，以及张荫桓、李端棻、杨锐、林旭、刘光第等一班同志。在督抚中得到陈宝箴、张之洞（后来反对康）的支持。其他如黄遵宪、陈三立、徐仁寿、汪康年、屠守仁、黄绍荃等都给予他精神上的响应。他还有一个私淑弟子谭嗣同，是他同志中最得力的一员。
