謝家集區境北部原為鳳臺縣屬地，南部原屬壽縣管轄。
1949年4月，淮南礦區政府設淮南區，轄蔡崗、孔集、八公、連崗、安成、山王、鴨背7個(gè)鄉。7月，城鎮部分設八公山辦事處。11月，改稱(chēng)八公山鎮。
1950年11月，淮南市人民政府將淮南區改稱(chēng)為第三區，轄錢(qián)湖、連崗、陶圩、蔡崗、沈塘5個(gè)鄉。
1951年11月，淮南市第三區改稱(chēng)蔡崗區，所轄鄉未變。
1953年5月，撤八公山鎮，建八公山區（科級）。
1954年3月，壽縣的廿店、隗店兩個(gè)鄉劃入蔡崗區。7月，廿店、隗店2個(gè)鄉改劃為廿店、隗店、翟家洼3個(gè)鄉。至此，蔡崗區轄8個(gè)鄉。
1955年2月，八公山區和蔡崗區的城鎮部分合并，建立八公山區（縣級）。蔡崗區的農村部分劃入淮南市郊區。
1956年，翟洼、廿店、沈塘3個(gè)鄉合并為東津鄉；蔡崗、陶圩2個(gè)鄉合并為蔡崗鄉。
1958年9月，錢(qián)淮高級農業(yè)社（錢(qián)湖鄉）、長(cháng)春高級農業(yè)社（隗店鄉）、新淮高級農業(yè)社（東津鄉）、迎春高級農業(yè)社（蔡崗鄉）合并成立了唐山人民公社。
1959年3月，撤銷(xiāo)郊區，八公山區境的農村（即唐山人民公社）劃歸八公山區。
1960年1至3月，八公山區成立八公山區人民公社，轄7個(gè)城市分社和1個(gè)農業(yè)分社。它們是：望峰崗城市人民分社、謝家集城市人民分社、畢家崗城市人民分社、李郢孜城市人民分社、謝三礦城市人民分社、蔡家崗城市人民分社、新莊孜城市人民分社和唐山農業(yè)分社。
1961年10月1日，八公山區分置為八公山、謝家集兩個(gè)區。謝家集區轄謝家集城市人民分社、蔡家崗城市人民分社、謝三礦城市人民分社、望峰崗城市人民分社、李郢孜城市人民分社和唐山農業(yè)分社。畢家崗、新莊孜城市人民分社、錢(qián)湖大隊和蔡崗大隊屬八公山區。
1962年，在謝家集城市人民分社進(jìn)行城市設立街道辦事處試點(diǎn)工作。
1963年2月18日，從唐山農業(yè)分社劃出部分生產(chǎn)隊成立永青蔬菜分社。后劃入陶圩人民公社，為永青大隊。
1963年至1964年，謝家集、蔡家崗、謝三礦、望峰崗、李郢孜5個(gè)城市人民分社分別更名為謝家集、蔡家崗、謝三村、望峰崗、李郢孜街道辦事處。
1964年7月，從唐山人民公社劃出部分生產(chǎn)大隊成立賴(lài)山人民公社。
1965年7月，從唐山、賴(lài)山兩個(gè)人民公社劃出陶圩、耿皇、周郢、劉崗、永青、鴨背6個(gè)大隊成立陶圩人民公社。1972年，二道河農場(chǎng)4大隊劃給陶圩公社，更名二道河大隊。
1970年2月28日，蔡家崗街道辦事處劃分為前進(jìn)、立新兩個(gè)街道辦事處。
1977年，前進(jìn)街道辦事處復稱(chēng)蔡家崗街道辦事處。
1981年9月，立新街道辦事處更名為蔡新路街道辦事處。
1986年，蔡新路街道辦事處復稱(chēng)立新街道辦事處。
是年5月，賴(lài)山鄉劃出尚安、廿店、施嘴、蓮花、砂里崗村，唐山鄉劃出邱崗村，合并成立施家湖鄉。
1989年3月12日，陶圩鄉、望峰崗街道辦事處合并，賴(lài)山鄉的山余村劃入，成立望峰崗鎮。
1990年，謝家集區轄唐山鄉、賴(lài)山鄉、施家湖鄉、望峰崗鎮和謝家集街道辦事處、蔡家崗街道辦事處、謝三村街道辦事處、立新街道辦事處、李郢孜街道辦事處。
1991年11月，成立平山街道辦事處；賴(lài)山鄉與李郢孜街道辦事處合并建立李郢孜鎮。
1992年2月，唐山鄉與施家湖鄉合并建立唐山鄉，鄉政府駐地在唐山。
1995年10月，撤唐山鄉建唐山鎮，謝家集區轄唐山鎮、李郢孜鎮、望峰崗鎮和謝家集街道辦事處、蔡家崗街道辦事處、謝三村街道辦事處、立新街道辦事處。
2004年7月1日，接管從長(cháng)豐縣劃轉三個(gè)鄉鎮，謝家集區轄謝家集區轄唐山鎮、李郢孜鎮、望峰崗鎮、楊公鎮、孤堆回族鄉、孫廟鄉和謝家集街道辦事處、蔡家崗街道辦事處、謝三村街道辦事處、立新街道辦事處