上海市国家税务局是根据《中共中央办公厅、国务院办公厅关于印发<上海市人民政府机构改革方案>的通知》（厅字〔2008〕17号）的规定设立，为市政府直属机构。上海市地方税务局与上海市国家税务局合署办公。

2018年6月15日，上海市国家税务局和上海市地方税务局合并后新组建的国家税务总局上海市税务局。