中国古代行政区划界的原则是山川形便，意思是依托大山大川的天然地形划分界限，直到现在山西、陕西以黄河为界，河北、山西以太行山为界，都是山川形便的典型。这样做的问题在于，依托山川地理环境，行政区很可能会形成一个相对独立、封闭的王国，这就为地方割据埋下了隐患。所以，从北宋开始，中国在行政区划界上，又添加了一个新的原则：犬牙交错。就这样，山川形便、犬牙交错，一直到今天都是省与省之间划界的原则。
具体到山东省来说，根据上述两个原则，各朝各代的划界均有出入。年建国后，山东省界也是不断在调整，也基本上是根据山川形便、犬牙交错的原则，一些地区划入山东，另一些地区又划出山东，今天就把相关情况总结如下：
年，是省界调整最频繁的一年，这一年的大事是撤销平原省。年8月，为治理黄河，从山东、河南、河北各划出一部分地区，组成平原省，省会新乡市（今河南地级市）。山东被划给平原省的分别是菏泽专区（辖菏泽、定陶、曹县、东明、鄄城、郓城、梁山、汶上八县），湖西专区（辖金乡、单县、鱼台、巨野、城武、嘉样、复程（年撤销）七县），聊城专区（辖聊城、堂邑、博平、清平、高唐、茌平、东阿、寿张（年撤销）、阳谷、莘县、冠县等十一县。
年，平原省撤销，原来属于山东地区的菏泽、湖西、聊城三个专区又重新回归山东（东明县年才划回山东）。另外濮阳专区的濮县（年并入范县）、范县（年重新划归河南）、朝城（今莘县朝城镇）、观城（今莘县观城镇）四县也一同划归了山东。
年，山东省与河北省的省界重新划定，划定的原则是，归还原建制，历史上属于河北，现在属于山东的县，重新划归河北，这样山东的东光、吴桥、宁津（年重新划回山东）、庆云（年重新划回山东）、盐山、南皮划归河北省。而历史上属于山东，现在属于河北的县，也重新划归山东，这样河北的恩县（现为平原县恩城）、武城县、夏津县划归山东的德州专区，河北的临清县、临清镇、馆陶镇（年重新划回河北）划归山东的聊城专区。邱县虽历史上属于山东，因便于领导，仍属河北。
年省界划分的另一件大事就是由山东代管的徐州、新海连（连云港）地区重新划归江苏。徐州、新海连历史上属于江苏，因年12月江苏尚未完全解放，两地由山东代管。到年，徐州市，山东滕县专区的丰县、沛县、铜北、华山，山东临沂专区的新海连、赣榆、东海、邳县重新划归了江苏省。
年的山东省山东与江苏省界调整并没有结束，年江苏赣榆县的汾水、小张庄两个村庄划归山东日照县，山东郯城县的黑豆涧等7个村划归江苏东海县，山东单县的胡杨庄、董台子村划归江苏砀山县。年，砀山县又重新划归安徽省，山东从此与安徽有了交界。
微山湖位于山东、江苏交界之处，年，对微山湖周边地区进行了调整：山东峄县（今枣庄）徒沟乡的十个村庄以及山东微山县马山乡、厉湾乡、黄山岛、套里岛下属的共计35个村庄划归江苏徐州市，微山湖面则由微山县统一管理。
年，再次对山东、河南省界进行调整，山东聊城专区的范县划归河南省，撤销山东省寿张县，原寿张县辖地分属山东阳谷县和河南范县；山东莘县的前任屯、后任屯两寸划归河南南乐县，河南南乐县的杨寨村、东节村、寨节村划归山东莘县。
现在的山东省年，山东、河北重新划定省界，原则上，以卫运河、四女寺减河（今漳卫新河）为界，这样河北省的宁津县、庆云县划归山东，河北吴桥县四女寺减河右岸的75个村庄划归山东宁津县，吴桥县另有75个村庄划归山东陵县。河北东光县大张庄公社划归山东宁津，河北盐山崔家口公社划归山东庆云，河北故城县甘泉村划归山东武城县。
山东馆陶县划归河北邯郸专区，山东临清县卫运河左岸个村庄划归河北省，设立河北省临西县。山东无棣县四女寺减河左岸51个村庄划归河北省，山东武城县卫运河左岸个村庄划归河北省故城县。
年，山东、江苏省界又进行了小范围调整，山东临沭县东朱范、西朱范等20个村划归江苏省。此后，除了个别村庄调整外，山东省省界大体上稳定了，再无大的变化。