首先，虽然历史上有关火矢的记载最早可追溯至《周礼》，但火矢在实战之中的正式运用，要晚到宋代之后。例如，在《宋史》中，便有记载，宋太祖开宝三年（970年）五月：

“兵部令史冯继昇等进火箭法，命试验，且赐衣物、束帛。”

到了宋真宗咸平三年（1000年）八月：

“神卫水军队长唐福献亲制火箭、火球、火蒺藜”

真宗年间，可以制造火矢的不止神卫水军一家，根据《续资治通鉴长编》，还有冀州团练使石普。记载中可见，火矢在宋代时已经成为弓箭作战的常规武器。对冯继昇、唐福献和石普所制造的这类“火矢”，在《武经总要》中，明确记载其形制。根据《武经总要》的论述，宋代的火矢，主要有两种形制，一是在箭首放置火药，二是在镞后放置火药（“火箭，施火药于箭首，弓弩通用之，其缚药轻重以弓力为准”；“火药箭，则如桦皮羽，以火药五两贯镞后，燔而发之”）。总而言之：（火矢）“凡燔积聚应可燔之物，并用火箭射之，或弓或弩或床子弩，度远近放之”宋代时，不仅出现了大量有关火矢的记载，还详细描述了火矢参与实战的情况。据《三朝北盟汇编》引《避戎夜话》的记载，宋钦宗靖康元年（1126年），当金兵南下直捣汴京时，汴京守军就用火矢与金兵展开激战。在这场保卫战中，宋军统制姚仲友建议在汴京的城东壁布防500人，每人发火矢20支，干矢50支，并在城墙上布置火盆，每个火盆内烧铁锥10个，以供20名火箭手发射火矢。

将火矢运用于实战方面，除了用火矢守城，在宋代，也可见用火矢进行水战的记载。从中可知，火矢用于水战的作战效果的确很好。例如，在《宋会要辑稿》中，就记载宋高宗建炎三年（1129年），监察御史林元平向朝廷建议造船以防东南沿海贼寇时，建议在水军战船中加载火矢的建议。