上羊市街居委会下辖2250户，辖区范围为东到上羊市街，南沿五圣塘、六圣塘到保安桥河下，北到望江门直街，西至中山南路。

上羊市街居委会通过选举产生，其中的委员包括了各个阶层，具有广泛代表性。

上羊市街居委会所辖40个居民小组，每组约有居民50户左右，公推组长1人，副组长2人，帮助政府传达政令，反映民意，协助处理治安、卫生等工作。