【由来】
1963年3月成立相山办事处，1970年4月改为相山区。区名可追溯至秦朝建立的相县，而相县之名取自山名“相山”。
【传说】
据传，距今约4000年前的夏朝前期，居于今河南商丘的商族部落首领相土曾一度来相城居住。故《无和郡县志》云：“故相城，盖相土旧都也。”《太平寰宇记》云：“相故城，即相山（土）所居。”
商族部落的始祖名契，是黄帝的后裔，契传位于昭明，昭明传位于相土。相土是个大有作为、声名显赫的人，在他的治理下，商族的农业、手工业和商业都有较大发展。随着生产力的发展，商族部落日益强盛，于是便决意向四方扩张势力。商族所到之处，其他弱小部落相继被征服，其势力范围一直延伸到山东渤海边上。故《诗经·商颂·长发》云：“相土烈烈，海外有截。”（意即相土干得轰轰烈烈，四海诸侯整齐地归服。）后人为纪念他，便将此地命名为相城。
传说，相土还是马车的发明者之一，《世本》曰：“相土作乘马。”据史载，夏禹时的车正奚仲创造了车，那时很可能是一马或是二马驾车，而相土则把二马改成了四马，所以应说这是一种改制。这种车是相土随着扩张势力的需要而改制的，主要用于军事上。后来人们把这种四马一车称为一乘，乘数多少是一个国家大小强弱的象征。
【沿革】
春秋（前588年—576年）宋国共公为避水患，经睢阳迁都于相。战国（前268年）宋国被齐、楚、魏所灭，相属楚地。
秦始皇三十三年（前224年）秦统一中国，置相县，属泗水郡，郡治相县。同时，置轾县（今濉溪临涣），亦属泗水郡。
汉高帝四年（公元前203年）改泗水郡为沛郡，辖37县，治所在相县。汉武帝元狩六年（前117年）沛郡改称沛国。宣帝地节九年（前69年） 曾改为彭城郡，黄龙元年（前49年）复称沛郡。并置竹县，
三国（220年—265年）曹操分沛国置谯郡，铚县属谯郡。曹丕分沛国置汝阴郡。相县初属沛国，后属汝阴郡。
西晋（265年—316年）复置沛国，国都在相县。东晋（317年—420年）晋室南渡后，相县先后入后赵、前燕，相县一带屡有战事发生，为戎马兵革之地，所属屡有更易。
南北朝（421年—528年） 相县归刘宋，属徐州沛郡（郡治在萧县），不久相县、铚县相继入北魏。北齐天保七年（556年）废相县为相城乡 ，并入符离县。此后，相城无县以上建置。
隋开皇九年（589年）相城随符离县属彭城郡。唐元和四年（809年）割徐州所属的符离县、蕲县，亳州所属的临涣县，泗州之虹县建宿州。
元至元二年（1265年）撤符离、蕲县、临涣3县并入宿州。明、清本地无县建置，地属宿州。
中华民国元年（1912年）改宿州为宿县，本地仍属宿县。
1950年7月1日，析宿县西境置濉溪县，属皖北人民行政公署宿县行政专区公署，今相山区为濉溪县地。1952年4月12日，濉溪县属安徽省宿县专区。1958 年，在相城废墟上设立濉溪矿务局。1959 年2 月，在濉溪矿务局的基础上，析濉溪县、萧县两县部分地区组建地级濉溪市。1960年4月6日，正式建立濉溪市。
1963年3月成立相山办事处，1970年改为相山区，隶属濉溪市。1971年4月2日，濉溪市更为淮北市（因地处淮河北，与淮南相对，故名），相山区随属。1984 年撤销郊区后，部分并入相山区。1992年3 月，将原属濉溪县的土楼乡划入该区。
