在朱元璋推翻元朝统治的同时，东北地区黑龙江下游及极东缘地区的吾者野人（或作兀者野人，即金时兀里改人）也掀起反抗元朝统治的斗争。当朱元璋将元朝势力赶出中原后，明王朝遣使自莱州湾渡海，很快消灭了在辽东的元朝残余势力，顺利地控制了辽东地区，置辽东都司（治今辽宁辽阳市），进一步经营东北。
以后明朝又多次进军松花江、黑龙江流域，并招抚女真各部，最后继承了元帝国在东北的疆土，势力到达了黑龙江口和库页岛。
自1403年（永乐元年）至1409年（永乐七年）间，明朝在黑龙江南北、乌苏里江东西、松花江流域，先后设置了115个卫。1409年在黑龙江下游和亨滚河（今阿姆贡河）会合处东岸特林地方，即元征东元帅府地，设置了奴几千都司，下辖130多个卫所。1413年（永乐十一年）、1433年（宣德八年）中央两次派员至该地巡视，并建永宁寺碑和重建永宁寺碑，两碑至今尚存，是明朝对黑龙江下游地区行使统治权的物证。
以后，明政府定期派兵往奴儿干都司地驻守，至万历年间(16世纪下半叶)下辖卫增至384个。以后自宣德至正统年间（1426-1449年），原居于西拉木伦河流域的兀良哈三卫南迁至辽河以西、内蒙古昭盟和河北北部地区；原居于绥芬河一带的建州女真也逐渐南迁至浑河一带。其后不断相交侵犯辽东的农耕区，1469年（成化五年）明政府在今辽宁省境内修了一道跨辽河东西的辽东边墙。
16世纪末至17世纪初，居于今浑河、苏子河流域的建州女真酋努尔哈赤崛起，统一了女真诸部，原设于女真诸部的羁縻卫所遂归消亡，其地为女真势力所控制。1616年努尔哈赤称帝，以赫图阿拉（今辽宁新宾县西老城）为都，建国号为金（史称后金）。
其后，后金势力不断壮大。1619年（万历四十七年）萨尔浒山（今宁抚顺市东北）之战，明军大败，后金即攻破辽东边墙，占领了辽东都司的大部分土地。17世纪30年代后，奴干儿都司全部辖境全在其控制之下。
