武则天垂拱二年（686年），狄仁杰调任宁州刺史，中州在甘肃境内，是汉民族和少数民族的杂居地区，民族矛盾错综复杂。狄仁杰到任后，体察民情，施政有方。因而使各民族和睦相处，深得民心。老百姓感其德，立碑记其政绩。不久，右台监察使郭翰巡视陇右各地，一路所到之处，弹劾了不少贪官污吏。

然而一到宁州，则面目一新，百姓安居乐业，人们纷纷称赞狄仁杰的德政，郭翰回到朝廷后，遂即向朝廷推荐狄仁杰，请求重用，不久，狄仁杰被提升为掌握工程建设的冬官侍郎，充任江南巡抚使。

吴楚一带修建很多祠庙，祭力已很滥，狄仁杰对这种做法非常厌恶，他不惮非议，一举关闭和拆毁了一千七百多所调庙，只保留夏禹、吴太伯、季札、伍员四祠。在焚毁项羽祠时，他还写了一篇《檄告西楚霸王文》，文章大意是：崇高的名声不可假借谬误来取得，天下的帝王不能以力去争夺；顺应天命者才享有百姓拥戴的美名，背违时代者就不是明察物变的君主。垂拱四年（688），狄仁杰转任文昌右丞，出为豫州刺史。

武则天当政之初，依靠李义府、许敬宗等贬杀了长孙无忌、禇遂良等元老重臣，杀了许多唐宗室皇戚，并且幽禁自己的亲生儿子，重用武氏家族武承嗣、武三思等人，这引起了李唐宗室的强烈不满。嗣圣元年（684），柳州司马徐敬业在扬州起兵反对武则天，意图恢复后室。他以拥立庐陵王为号召，人数曾发展到十余万，最后被武则天镇压下去，垂拱四年，琅玡王李冲在博州。

越王李贞在豫州又起兵反对武则天，但因力量悬殊很快就遭致失败。为了尽快恢复豫州的局面，武则天派狄仁杰出任豫州刺史。当时武则天为惩治李贞余党，定罪六七百家，籍没五千口。狄仁杰为此密奏武则天，认为这些人仅仅是受牵累，并非存心要作乱狄仁杰说服了武则天，宽赦了这些人，把他们流放到丰州这些人深感狄仁杰的活命之恩，在路过宁州时，跪拜在狄公的德政碑前，“设斋三日而后行，”到了丰州又亲手为狄仁杰立下德政碑。

当时，平定越王李贞的是宰相张光辅。张光辅的军队在豫州，到处勒索钱财，滥杀无辜。狄仁杰非常恼怒，他亲自出面制止官军的不法行为。为此，张光辅怀恨在心，回到朝廷后上奏武则天，说狄仁杰傲慢不逊，狄仁杰被调往夏州做刺史，后来又降为洛州司马。武则天实行“武周革命”改唐为周，她抛开傀儡皇帝李旦，自己登上了皇位。

武则天是中国历史上第一个女皇帝，但也是一位唯才是举、任用贤能的女政治家，天授二年（691），她重新起用狄仁杰，任命他地官（户部）侍郎、同凤阁（中书省）鸾台（门下省）平章事，开始了他短暂的第一次宰相生涯。