黑河地处中国东北地区，黑龙江省北部，东南与伊春市、绥化市接壤，西南与齐齐哈尔市毗邻，西部与内蒙古自治区隔嫩江相望，北部与大兴安岭地区相连。以黑龙江主航道中心线为界，与俄罗斯远东第三大城市-阿穆尔州首府布拉戈维申斯克市隔黑龙江相望，是中俄边境线上唯一一对规模最大、规格最高、功能最全、距离最近的对应城市，最近处相距仅750米。

民国年间，黑河市大部分地区为黑河道尹公署管辖。民国二十二年（1933年）1月25日，日本侵略者占领黑河。民国二十三年（1934年）12月1日，成立伪黑河省。民国三十四年（1945年）8月，黑河解放。11月19日，成立嫩江省黑河地区行政办事处。11月中旬，成立中共黑河地区中心县工作委员会。12月14日，嫩江省黑河地区行政办事处更名为黑龙江省黑河地区行政办事处。民国三十五年（1946年）9月7日，黑龙江省政府决定设立黑河地区行政督察专员公署。民国三十六年（1947年）初，黑龙江、嫩江两省合并为黑嫩省。2月7日，黑龙江省黑河地区行政督察专员公署改称为黑嫩省第五行政督察专员公署。9月17日，原黑嫩省第五行政督察专员公署改称为黑龙江省黑河行政督察专员公署。