本行於1996年1月30日在原上海市98家城市信用合作社和上海市城市信用合作社聯社基礎上組建而成。本行設立時的名稱爲"上海城市合作銀行",1998年7月16日,中國人民銀行下發<關於上海城市合作銀行更改行名的批覆>(銀復[1998]215號),批准本行名稱由"上海城市合作銀行"變更爲"上海銀行股份有限公司"。本行於2000年11月20日在上海市工商行政管理局完成名稱變更登記。
