1870年5月兵部省拟制了一个建造200艘大小军舰的计划，但因为不切实际和财政困难被否决，1873年胜海舟又提出一个18年的造船计划。准备铁甲舰26艘、大型船只14艘、中型32、小型16、运输16共104艘。但是在山县有朋的阻扰下，内阁并没理会此建议。
虽然大规模的造船计划没批准，但是军舰还是需要的。1871年日本购买英国船龄18年的三桅炮舰马六甲号（HMSMalacca）（舰首有马六甲人像的船首像）改为“筑波”号后参加过日本前期几乎所有的战争（西南、甲午、日俄），后因只有航速8节于是划拨给海军训练所作为训练舰用。

筑波号

1874年接任胜海舟职位的新海军卿川村纯义身为海军的强硬派可不像乐观豁达的胜海舟。他再次提出了胜海舟的造船计划，遭到再次拒绝后。在给太政官的信函里，措辞尖锐的指出中日日俄关系恶化，日本非常有必要扩军。同时弱小的海军也影响日本的军事和外交地位。1874年10月太政官同意拨款购买三艘英国炮舰，国内建造三艘。
当然太政官所代表的明治政府同意的原因恐怕更多的是在于第一次侵台的失败（英美等列强给出的理由是这是一次战争行为，他们选择中立，所以日本联合的外国船只在长崎解除合约不参加）。由于日本自己船只和人员不足，只能出动5艘老旧战舰和2艘运输船。所以太政官要求停止，然而大久保利通认为这样会引起聚集的军队哗变，所以要求用现有的船只和军队出发。后因为在台湾因为疾病等问题大量人员减员的同时。在英法美调停中签订《北京专约》清朝赔付50万两。日本带着巨款和清朝的对外态度中返回。在这次事中日本认为是弱小的军力才导致的这个不算满意的局面。

1875年日本向英国订购了3艘军舰。其中扶桑号是日清战争前日本唯一一艘铁甲舰（排水量3777吨，航速13节主要武器为4门240毫米克虏伯炮、2鱼雷发射管）金刚（2250吨，航速13.7节，主要武器3门170毫米克虏伯炮2鱼雷发射管）、比睿是铁壳巡洋舰（2250吨、航速13节主要武器3门170毫米克虏伯炮2鱼雷发射管）。这三艘军舰均由海军造船师爱德华·里德（Edward Reed）爵士设计，由蒸汽驱动。这3艘军舰完成后由英国开到日本，只有少量日本人随行。（东乡平八郎在比叡号）。这几艘军舰的到来也给日本造舰新手一个学习的机会。其中就有日本未来的造舰之父佐双左仲。

此时正值入侵台湾失败的第二年。这三艘无疑是针对清朝这个假想敌的。同时1874年的清朝也感受到了倭国的威胁。1875年李鸿章受命督办北洋水师，同时清朝一口气购买了11艘伦道尔炮舰（俗称蚊炮舰）以做海防浮炮台用。两国的海军定义从一开始就出现了差距。清朝更倾向于防守。
1873年日本建造第一艘自己的军舰“清辉”号，11月在横须贺造船厂动工。清辉号虽然是一艘只有890吨的航速9.6节的三桅蒸汽炮舰，但是它的下水是里程碑式的。它代表了日本有了自造军舰的能力。

随后又建造了“天城”“磐城”号。在明治政府建立10年后，日本终于有了自己的新式军舰舰队。随后又建造了一系列规模不大吨数不大的大小船只。但这些船只代表了日本掌握了从设计到建造的一条龙技术。
与此同时的清朝江南制造局已经能制造2800吨的巡海快船海安号。这个吨位哪怕是鼎盛时期的北洋水师都能排上号。但是因为成本过高，初期建造水平差，清朝逐渐放弃自建，转而选择更为实惠的购买英德现成军舰。另一个却不惜成本也要掌握自造技术。因此中日造船工业体系从19世纪80年代逐渐拉开差距。也反映出了清朝兴办海军的功利性。

1878年川村纯义对当时的日本海军发展深感忧虑。1879年日本吞并琉球以后，清朝购买了超勇、扬威两艘无防护巡洋舰。1881年又购买了以下水的定远镇远号。于是川村纯义在1881年12月请求朝廷评议会批准，从1882年开始，每年新建3艘军舰，20年内建造60艘，同时提议新建一个造船厂，并制定了一个5年计划，可惜如同1873年那样这个计划依然没有通过。但是这么多年的官海沉浮让这个海军强硬派也多了一些变通。第二年他利用萨摩关系网找到了几个高层人物，并且在高人的指点下修改了自己的计划书在金钱数目上做了些改变让其开头数字没有并没有那么骇人惊闻以其能更好的通过。（新计划8年后的第二个8年计划再追加12艘军舰。总数和第一个计划完全一致）
在萨摩关系网的努力下，加上清朝大肆规模的扩充军备的双重刺激下。这次右大臣岩仓具视非常赞同这个扩军计划。并上奏天皇主张“应断然增税，扩大海军军费”天皇允诺并下下谕令。1882年12月太政大臣三条实美节约行政经费并对酿造业和烟草业多征税700多万并从其他部门抽税收补充超过预算的支出（陆军扩军150万，海军建造军舰350万，舰船维护250万）。因此海军每年获得650万的预算，这可是海军成立一来最大规模的预算。

1883年川村纯义提出一个详细的2700万的8年32艘军舰计划。海军计划建造大型5艘，中小型15艘，鱼雷炮舰12艘。按照计划1883年～1885年自建和购买军舰共12艘。这次计划在萨摩人的帮助下得到了日本皇室的资金支持，因此得以解决1885年的因计划超支而引发的财政危机。顺利的进行了下去。（大型只相对于日本或者东亚来说。欧美。尤其是英国同时期建造铁甲舰的已经超过11000吨，而同时期的东亚3000吨位已经算是庞然大物）。

到了19世纪80年代，日本开始逐步淘汰舰船上的风帆。1882年日本海军决定停止建造木制战舰，1884年进口了必要的设备后，雇用英国技术工人后开始生产一些小型铁制战舰。筑地兵工厂在1874年还只能修理船只和火炮在1882年已经可以少量生产“西式钢铁”（不过因为日本当时经济，导致产量一直不高甚至几次关停）。同时还建立了一些造船企业，其中后来的石川岛和川崎造船厂就在其中。

同时19世纪80年代初时期的日本也在苦恼怎么发展海军。
如果按照原计划还是3000吨位不升级，这很明显不会让人满意，因为这样到了交付的85年这种的吨位组成核心舰队一定会被更先进的技术更大吨位的战舰超越且不利于整体的帝国争霸。第二计划购买技术先进吨位是当时最少两倍起还没交付的新战舰，已经用追加财政提高税率才通过的1882年扩军计划很明显不可能还有那么多人和资金支持。三就是按照留学归国的少壮派的想法优先考虑巡洋舰和鱼雷舰。当然留洋派有这想法还要归功与法国造船师白劳易，法国军舰设计上曾短暂领先英国。相对于当时厚重的铁甲舰，牺牲一部份护甲极大提高船只航速，搭配跟铁甲舰同样威力具大的主炮。价格却是同等口径主炮的铁甲舰几分之一。在没经过实战情况下，这种纸面数据非常好看的设计受到一大批相对经济不宽裕但又急需要发展海军的国家，比如日本。

最后川村纯义和已经在权力核心开始崭露头角的西乡从道为首的海军领袖们选择第三种作为未来的海军发展方案，即购买轻型护甲但火力强射速快的中型巡洋舰和加快鱼雷艇中队建设，海军认为该策略能让日本不需要购买大量价格昂贵的重型铁甲舰就能拥有一支强大的海军。十几年后的中日甲午海战证明了这个前瞻观点的正确性，在炮弹的火药没有更新换代的时代，装甲厚吨位重但是射速慢的北洋水师被装甲略逊一筹，但是航速和射速高一档的日本舰队追着打。

1878年12月日本效仿德国进行分权改革，设置了与陆军省并列的参谋本部。1886年3月又在参谋本部长（皇族担任）之下设立陆海两次长，仁礼景苑为第一任参谋次长。1889年3月，海军参谋部又隶属于海军大臣。陆军的军令机关-参谋总部直属于天皇，与海陆两省并列。相当于20几年后刚实际独立出来没多久的海军又要听从陆军的指挥引起海军不满，因此已成为海相的仁礼景苑提议设置独立的听从海军省的海军军令部，但是遭到了参谋总部陆军方的反对。但在朝鲜局势影响下明治天皇下达上谕。1893年5月海军军令部成立。

1885年（明治18年）12月，日本废除太政官制度改为内阁官制。伊藤博文为首届内阁总理大臣，首任海军大臣是西乡从道（西乡隆盛弟弟），山县有朋为内务大臣，陆军大臣为大山岩（西乡隆盛表弟）。

西乡从道上台后由于意识到与各国海军尤其是中国海军的差距，于是开始游说内阁成员包括萨摩藩的松方正义、尾山岩尾、森有礼和虽非萨摩但是海军出身的交通大臣榎本武扬，在这些人的帮助下成功说动本身游历各国后也有扩军意愿的首相伊藤博文的支持，但是支持不等于有钱。1882年的增税计划并没有达成原定目标（原本计划能从酿造业和烟草业征税1600万。实际只征收了1000万左右）因此松方正义、伊藤博文、桦山资纪（陆军出身1884年转为海军，西乡从道时期的海军二把手未来的第一任日本驻台湾总督，日本军队逼迫内阁解散的开创者 ）三位大臣讨论许久，在1886年以发行以行债券的方式提供海军贷款。这是明治政府首次发行债券用于扩军。