夏至周时为肃慎。

西汉时为扶余。

北魏时属勿吉。

隋唐时期，五常称莫颉府，辖宾县、呼兰等地，归渤海国管辖。

辽金时代称裴满部、甲骨部、金归上京管辖。

元朝称剌邻，是元大都通往黑河的最大驿站。

明朝年间在五常建立纳林河卫所和摩琳河卫所，隶属于努尔干都司。

清朝雍正3年，在拉林设立协领；乾隆9年，改设拉林副都统，今副省级；乾隆34年降为协领；到光绪6年，改设五常厅，宣统元年改五常府。

民国2年，改为五常县。1947年先后成立山河、拉林两县，同年山河县撤消并入五常。

1956年3月，拉林县撤消并入五常。至1993年8月28日五常撤县设市。