夏至周时为肃慎。
西汉时为扶余。
北魏时属勿吉。
隋唐时期,五常称莫颉府,辖宾县、呼兰等地,归渤海国管辖。
辽金时代称裴满部、甲骨部、金归上京管辖。
元朝称剌邻,是元大都通往黑河的最大驿站。
明朝年间在五常建立纳林河卫所和摩琳河卫所,隶属于努尔干都司。
清朝雍正3年,在拉林设立协领;乾隆9年,改设拉林副都统,今副省级;乾隆34年降为协领;到光绪6年,改设五常厅,宣统元年改五常府。
民国2年,改为五常县。1947年先后成立山河、拉林两县,同年山河县撤消并入五常。
1956年3月,拉林县撤消并入五常。至1993年8月28日五常撤县设市。