В Северной Германии Рудольф пользовался весьма малым влиянием. Его зять, герцог Альбрехт Саксонский, поддерживал по мере сил и возможностей его авторитет, стараясь соблюдать его постановления о всеобщем внутреннем умиротворении страны. Все же власть короля здесь была почти неощутимой, и даже те союзы городов и владетельных князей, которые заключались как будто для соблюдения мира и тишины в стране, во многих местах были направлены против самого короля. Рудольф не пытался даже вступаться в борьбу, которая была вызвана Лимбургским спором о наследстве, и в кёльнские усобицы, закончившиеся битвой при Воррингене, которые волновали всю Северо-Западную Германию. Только однажды, в 1289 г., Рудольфу удалось успешно применить королевскую власть в Тюрингии, где он положил конец полной анархии и, разрушив несколько разбойничьих рыцарских замков, казнил 20 главных нарушителей общественного спокойствия.