岳阳市烈士陵园原址位于市城区3517工厂内。新址选在岳阳楼区郭镇乡马鞍村拳形山。

1949年9月至10月，中国人民解放军第四野战军第十二兵团发起衡（阳）宝（庆）战役，歼国民党军白崇禧集团。衡宝战役是人民解放军向中南进军中具有决定意义的战役之一，历时34天，歼灭国民党军4 .7万余人，解放了湘南和湘西大部地区。战役中负伤的部分指战员被送到设在岳阳的解放军后方医院治疗。其中，124名重伤员因医治无效而牺牲，葬在医院附近（今3517工厂内）。1964年8月1日，岳阳县城关镇人民委员会根据1963年11月召开的城关镇第五届人民代表大会通过的决议，为烈士们修建烈士陵园。陵园占地3亩，内有革命烈士纪念碑、124名烈士集体坟墓、烈士亭等纪念建筑。

烈士陵园建成后，每年清明节广大人民群众、青少年学生都要去陵园凭吊扫墓。1964年和1987年，经湖南省人民政府批准，由省民政厅两次公布为湖南省烈士纪念建筑保护单位。

2006年，由于岳阳市城市的拓展及洞庭湖风光带建设需要，岳阳市烈士陵园被纳入沿湖风光带的规划范围。2006年7月20日，市政府决定将烈士陵园从3517工厂内整体搬迁到岳阳市花园坡龙头山重建。124名无名烈士的骨灰被临时安置在岳阳楼区花园坡龙头山老殡仪馆内。由于当时花园坡龙头山有2000多座公墓需要搬迁，且龙头山周边房屋林立，征迁费用大，人大代表、政协委员以及市民都强烈呼吁烈士陵园改址重建。后经有关部门调查研究后，最终选址确定在岳阳楼区郭镇乡马鞍村拳形山。2010年7月30日岳阳市第六届人民代表大会常务委员会第十六次会议审议了岳阳市人民政府《关于审议重建岳阳市烈士陵园的议案》，会议决定，批准在岳阳楼区郭镇乡马鞍村拳形山重建岳阳市烈士陵园。

2011年6月，其重建前期工作启动，新建的岳阳市烈士陵园将位于岳阳主城区的南部，距主城区约７公里，占地面积6.2万平方米。规划用地群山环抱，草木葱郁。陵园共分7个区，分别为入口区、办公区、悼念区、陵墓区、濒水休闲区、绿化休闲区和国防教育展示区。陵园主要纪念建筑物有一碑一馆两场两园，即：革命烈士纪念碑、革命烈士纪念馆、瞻仰广场、悼念广场、将军墓园、烈士墓园，另外还有革命烈士名录、英雄浮雕、诗词碑林、纪念长廊等。规划把岳阳市烈士陵园建成国家级烈士陵园。建成后的岳阳烈士陵园将成岳阳市青少年爱国主义教育阵地。