中国什么时候才有海军？是近代以后的事，直到清末北洋政府时还叫“水师”，好像孙中山时才叫“海军”，唐代只有水军，没有海军。表面是一字之差，本质上反映了缺乏海洋意识的问题。长久以来中国只有在江河里走动的水军，没有海军，更没有常备海军。隋唐要用到海军时，临时造船凑合。
秦朝和西汉水兵都叫楼船士，由楼船校尉指挥，有楼船将军称号；东汉撤消楼船士。
到隋唐时期，海军又有了新的发展，隋炀帝东征高句丽时曾多次使用海军，唐太宗为了东征高句丽也大建海军。据《旧唐书高丽传》记载，贞观十九年（645），张亮率"劲卒四万，战船五百艘，自莱州泛海趋平壤"，从海道进攻高句丽。而《唐会要》卷九五《高句丽》却载曰，“张亮水军七万人”。故《旧唐书》所说劲卒4万，当是指舰船上的作战士兵，不包括掌舵、摇橹等辅助性人员，即平均每艘战船载战士80人。一支舰队就有五百艘战舰、数万名战士，唐初海军规模之大由此可见一斑。
660年，唐朝在多次外交干涉无效的情况下，决定以武力阻止百济联合高句丽对唐朝藩属新罗的进攻，唐军从山东半岛成山角渡海，在新罗军的协助下迅速攻灭百济，俘其君臣。此役唐朝海军究竟有多少兵力参战，史无明载，但唐朝参战军队的数量则有记载。按中国方面史料，唐将苏定方所率攻灭百济的唐海陆军共计10万，按朝鲜方面史料，则是13万（百济义慈王二十年条），双方数据相差3万人。苏定方在东征百济之前，刚从西北战场得胜归来，其所率10万人当主要是从西北凯旋之陆军，高宗转用于东北，使之乘胜东征百济。此10万人当指从西北战场调来的陆军和海军作战士兵，不包括海军水手。而朝鲜方面在统计东征百济的唐军数量时则包括陆、海军全部。若此论不虚，则参与东征的唐朝海军中应有3万水手。10万大军从山东半岛海运到百济，所需舰船数量应是非常庞大的。按水手与乘客对半（注：《唐大和上东征传》第62页记载：鉴真有一次从扬州东渡日本，“同行人僧祥彦……等道俗一十四人，及化得水手一十八人，及余乐相随者，合有三十五人”（真人元开着，汪向荣校注，中华书局，1979）。这表明当时海上航行，水手所占比例甚高。木宫泰彦认为“半数以上是水手”（木宫泰彦：《日中文化交流史》第79页，胡锡年译，商务印书馆，1980）。）计算，3万海军水手至少也对应3万海军战士，按张亮舰队的船和战士的比例，3万海军所需战舰也应375艘；唐军水陆10万，扣除3万海军战士，尚有7万陆军战士需要用海船运送。唐代一般的海船“长二十丈，载六七百人”（注：慧琳：《一切经音义》。李肇《唐国史补卷下》记载漕船“每船载一千石”，杜佑《通典兵十三水平及水战具附》说战船“胜人多少，皆以米为率，一人重米二石”，则每船亦载500人左右。），若撇开运输船上的水手（或为临时征召）不记，按每船运送200人及其武器装备计算，7万陆军至少也需350艘海船运输；10万大军渡海东征，所需粮草补给必然很多，虽有新罗接济，但在平定百济、与新罗会师之前也无法得到，由于补给线长且危险，为了确保战役顺利进行，出征时至少当携带1月之补给，所需运输船舰当为数不少。如此则总船队当有上千艘。
663年，由于日本先后几次派兵共4万人支援百济抗唐，留守百济的1万唐军处境困难（新罗文武王十一年条），唐高宗又“诏右威卫将军孙仁师为熊津道行军总管，发齐兵七千往”援（《东夷百济传》），唐日矛盾尖锐化。当年8月，两军在白江口（今韩国锦江口）爆发了大战，唐军大胜。对于此战，唐朝方面记载说，“仁轨遇倭兵于白江之口，四战捷，焚其舟四百艘，烟焰涨天，海水皆赤，贼众大溃”（《刘仁轨传》）；日本方面记载说，“贼将至州柔（唐称周留），绕其王城，大唐军将率战船一百七十艘，阵列于白村江（即白江）。戊申，日本船初至者与大唐船师合战，日本不利而退，大唐坚阵而守”（天智天皇二年八月条）；朝鲜方面记载说，“此时倭国船兵来助百济，倭船千艘停在白沙，百济精骑岸上守船。新罗骁骑为汉前锋，先破岸阵”（新罗文武王十一年条）。综合三国史料就可对当年参战的唐日双方的海军规模有一个大致的了解。据研究，当时日本船较小，一般可乘120至160人（P77）；唐朝的海船则大一些，一般可载六七百人，刘仁轨所率唐海军170艘舰船作为作战舰队当由各种型号的舰船组成，大者楼船载兵很多，小者艨艟载兵不多。日本记载唐军舰船170艘，当主要指其造型较大者。按张亮舰队的船与战士的比例计算，170艘唐舰所载战士多达13600人，另加掌舵、摇橹等辅助性人员10200人，合计23800人。至于日本参战海军的数量，新罗说其战船千艘，唐说焚其舟四百艘，或有夸大，但其参战舰船有数百艘当不虚，即使按其参战舰船总数400艘，每艘战士50人计算，其参战海军战士人数也多达20000人，另加水手20000人，合计40000人。白江之战，唐海军以少胜多，有力地支援了陆军作战，最终迫使残余日军撤回。
唐军编制，以队为基本战术单位，一队50人，设队正，辖5火（伙），每火有驮马6匹（步兵）。队以上是旅，设旅帅，每旅辖2队，旅以上团，每团辖二旅，设校尉，团以上是军。每军辖4～6团。大将出征，大约授兵2万，分为7军（如兵少，从权），为前，后，左，右军及左，右虞侯军（虞侯军，类似禁卫军）。此2万人，战斗兵种1.4万，辎重兵6千。1.4万战斗兵中，步兵1万，骑兵4千，分属七军，其数目，中军最多，其他六军相近。步兵中，弩手2千，弓手2千2百，跳荡（突击队）和奇兵（预备队）各2千9百。
北宋水军以厢军为主，禁军只有虎翼水军和登州沿海水军，编制是指挥，每一指挥五百人。
南宋是水军大发展时期，有如下：
沿江水军 建炎置。
明州水军 绍兴置。乾道元年，二千人，分左、右两将。
福州荻芦、延祥砦 绍兴置，百五十人。乾道七年添招。凡五千人。
镇江驻扎御前水军 乾道三年，招三百人，淳熙五年增招千五百人。
沿海水军 乾道六年置，一千人。
潮州水军 乾道四年置，二百人。
江阴水军 乾道四年置，三百人。
广东水军 乾道五年，增至二千人。
平江许浦水军 乾道七年，七千人，淳熙五年，增五百人。
江州水军 淳熙三年，招一千人。
池州都统司水军 淳熙元年千人，嘉定中增至三千人。
漳州水军 绍熙元年，漳、泉共六百人。
泉州水军 见上。
殿前澉浦水军 开禧元年，一千五百人。
鄂州都统司水军 开禧十五年。
太平州采石驻扎御前水军 嘉定十四年，五千人。
建康都统司靖安水军 元隶都统司，嘉定中隶御前。
马军行司唐湾水军 元隶马军行司，嘉定中隶御前。
通州水军 乾道五年置。
池州清溪雁汊控海水军 建炎四年置，百五十人。
两淮水军 绍兴元年置，二千人。隆兴元年，诏诸州断配海贼刺隶。
水军将领是都统制、统制、统领、正将、副将、准备将等。
