東京の山の手地方を形成する武蔵野台地は、多摩川と荒川に挾まれ、東京湾に向かって扇状に広がっています。その中は多くの小台地に分かれていて、中野区にも沼袋、野方、中野、幡ケ谷、落合の5つの台地があります。
 その台地の間を江古田川、妙正寺川、旧桃園川、神田川、善福寺川の五つの川が流れています。これらの川は神田川と合流し、さらに下流で隅田川に流れ込み、東京湾に注いでいます。
 標高は、台地面では約40メートルのところが多く、神田川の流域などでは30メートル以下となっています。
 区内の地表面は、多量の腐植土を含む黒土層で、その下は関東ローム層とよばれる火山灰の赤土が厚く堆積しています。さらにその下には、れき層、東京層、三浦層の順に重なっています。