农安古城始建于古夫余国，两汉时曾是夫余国的都城。隋为高句丽夫余城。到唐朝是渤海国的夫余府。辽灭渤海后，改名为黄龙府，并设黄龙县。关于黄龙府这个名字，有这样一段传说：公元926年（辽天显元年），辽太祖耶律阿保机率兵攻打渤海国，他们先占领了夫余城。正月，又长驱直入攻打渤海王城忽汗城（今黑龙江省宁安市京城），渤海王投降。二月改渤海为东丹，改年号天显，改忽汗城为天福城。此后辽太祖又回师夫余城，并在这里住下养病。七月，辽太祖病重。某夜有一颗巨星落于太祖殿前。次日天刚亮，夫余城上空便有一条黄龙盘旋缭绕，身长一里多，浑身光芒四射，金光耀眼。后来黄龙钻进了太祖住的行宫，顿时紫气遮天，黑烟蔽日，经过一天时间才渐渐散去。不久太祖病故，终年55岁。从此辽将夫余府改为黄龙府。这段传说当然不足为信，只是为了神化辽太祖，但黄龙府之名确是由此而来。
公元975年（辽保宁七年），黄龙府的卫将燕颇反叛，杀了都监张琚，辽派大军平定了这起叛乱。战火给古城造成了重创，随后辽便放弃了黄龙府（农安），将黄龙府南迁至今四平市的一面城。自此古城降到了很不重要的地位。45年后，辽圣宗为了加强其东北部的防御力量，再次把黄龙府迁回古城（农安），为了避免重名，把一面城由黄龙府改为通州，把古城（农安）仍称黄龙府。领益州、安远州、威州、清州、雍州、黄龙县、迁民县、永平县。兴宗时于东北境伊通河地置怀德县，为祥州治（今农安万金塔乡）。1037年（辽重熙六年），辽在黑龙江下游地区设节度使，统辖女真五国部，隶属于黄龙府。此时是辽的极盛时期，当时黄龙府是各族人民杂居之地，人烟稠密，工商繁荣。据史料载：“凡聚会处，诸国人语言不能相通晓，则各为汉语以证方能辨之。”自黄龙府迁回之后，辽就对黄龙府加紧进行建设，使黄龙府成为“五京二府”七大重镇之一。黄龙府雄踞在伊通河西岸的高地上，呈正方形，城垣周长3840米，四面除有大门外，在南、西、东三面还各有一个小门，四角各有一个高大的角楼。有名的农安古塔就是在这个时期修建的。该塔用砖砌成，八角13层，高33米余，是中国东北地区最早修建的佛塔，至今已有千年，仍矗立在古城农安。
关于造塔有许多传说，其中一说：辽国钦天监有一次夜观天象，忽见有巨星从天而降，落在黄龙府附近。急奏圣宗：“黄龙府一带恐怕要有土龙出世，应立刻修一座塔压住它。”圣宗闻听大惊，立刻答应，马上命钦差随钦天监赴黄龙府造塔。钦差带领大队人马，日夜兼程，走了七天七夜，来到黄龙府地界，当船行至祥州（今万金塔镇）时，发现土龙的头就在这里，于是就决定把塔修在祥州。谁知塔刚修了半截，有一天夜里那个钦天监又观天象，忽然又大叫不好，说土龙知道要在祥州压它，所以又掉头跑回黄龙府了！于是干活的民工只好停下来，连夜赶到黄龙府去修塔。为了快些把塔修好，别让土龙再跑掉，又征调了大批民工和车马，日以继夜地干。一晃过了3年3月零3天，塔终于修好了。这回土龙被压在下面不能动了，圣宗松了一口气，安心坐他的金銮殿了。这个故事流传至今，有人说这就是黄龙府地名的由来，也有人说，这就是俗名龙湾的由来。当然也有人解释“龙湾”，是由于伊通河在此蜿蜒曲折，其形像龙一样弯曲，故而得名。
“土龙”是被压住了，可谁知到1115年（金收国元年），完颜阿骨打聚2500人誓师反辽，他的军队攻破黄龙府。而后阿骨打“命完颜娄室镇守黄龙府”。金国建立以后，曾定都黄龙府，接着便不断派兵进攻北宋政权，并于1126年（金天会四年）攻入开封，掳走徽、钦二帝。南宋初抗金英雄岳飞曾激励部下，“直捣黄龙府与诸君痛饮耳”，即指此城。至今这段故事一直被传为佳话。
当年完颜阿骨打在进攻黄龙府的途中，被松花江水所阻，附近又无船只，阿骨打急中生智，挥着马鞭向江对岸一指，命军队沿着他马鞭所指的方向涉水过江。结果人马行至江心，水深刚及马腹，大军顺利地过了江。等大军过后他再派人测量刚才走的地方，竟深不可测。为了纪念这次渡江成功，1140年（金天眷三年）金下诏改黄龙府为济州，又设利涉县。后因与山东的济州重名，且因黄龙府早有龙州之称，故于1189年（金大定二十九年）改济州为隆州，有时亦写成龙州。1214年（金贞右二年），将州升为府，称隆安府，为府治。元灭金后，1236年（蒙古窝阔台汗八年）,仍称黄龙府，废利涉县。1286年（元二十三年）,将府升为路，黄龙府先后为开元万户府、辽东路、开元路治所。后来开元路治所迁到咸平（今开原市），黄龙府古城便被废弃。此后在战火的硝烟中慢慢变成一片废墟。1375年（明洪武八年）,属辽东都司三万卫，后属亦东河卫，置龙安站。
明朝末年，这一带变成了蒙古族的游牧之地。清初为郭尔罗斯前旗地，1791年（清乾隆五十六年）招垦。一直到1882年（清光绪八年），由于关内流民来此耕种的日渐增多，清政府在这里设农安分防照磨，属长春厅。1889年（清光绪十五年），正式设农安县，农安之名一直沿用到今天。取用“农安”二字，为“隆安”、“龙安”的谐音。俗名“龙湾”，曾名农安堡。
民国时期，1913年9月7日设扶农镇守使，使署驻农安县城，隶属吉林省。1945年“八•一五”光复后，归吉合行政区；12月被国民党军占领。1946年1月获得解放，归吉江区管辖；同年2月在前郭县的老钱柜屯设立长农县，归吉江区管辖；同年5月归辽吉区第三区，9月改归辽吉区第二专区。1949年4月，划归吉林省，撤销长农县。1956年置农安镇，聚落呈正方形网格状，今建成区面积30平方公里。
