Mit dem bayerischen Herzog konkurrierten alle anderen Herzöge. Es war wie ein Ausscheidungskampf unter ihnen, zwischen Herzog Heinrich IV. von Bayern (995-1002), Herzog Hermann II. von Schwaben (997-1003), Herzog Dietrich von Ober-Lothringen (978-1027/32), Herzog Bernhard I. von Sachsen (973-1011) und dem SALIER Otto von Worms (+ 1004), der Herzog der Franken genannt wurde und zeitweilig auch Herzog von Kärnten (985-989 und 1002-1004) war. Dazu kam der Markgraf Ekkehard von Meißen (985-1002) und schließlich ist noch der lothringische Pfalzgraf Erenfried (Ezzo) (996-1034) zu nennen. Er, der mit Mathilde, der Schwester Kaiser OTTOS III. verheiratet war, hatte im Raum um Aachen und Köln eine Macht- und Rangstellung ausgebildet, die der eines Herzogs entsprach. Vielleicht muß man auch noch den sächsischen Grafen Bruno hinzurechnen.
Die Mehrheit der Fürsten im Reich, angeführt vom Kölner Erzbischof Heribert, erstrebten eine gemeinsame Königswahl durch die Großen des Reiches, wie es bei Thietmar heißt. Und viele von ihnen schienen den Herzog Hermann II. von Schwaben zu bevorzugen, wie die Quellen immer wieder erkennen lassen. Ihn hätten sie geschätzt, weil er die Eigenschaftder Milde besessen habe - ganz im Gegensatz zu HEINRICH II., so wird man ergänzen müssen.
Aber noch gab Ekkehard nicht auf. Seine Hoffnung setzte er in ein Treffen mit Herzog Hermann II. von Schwaben, den vor allem die westlichen Fürsten unterstützten, und anderen Großen des Reiches in Duisburg.
Geradezu verzweifelt hatte sein hartnäckigster Gegenspieler um die Königswürde, Herzog Hermann II. von Schwaben, versucht, ihm den Weg zum Krönungsort zu versperren. Ohne Erfolg, denn Heinrich wandte eine List an, tat so, als würde er umkehren, drehte dann erneut um und setzte bei Worms, wo sein Verbündeter Bischof Burchard saß, in Eile über den Rhein. Es war ein Überrumpelungsmanöver, und es führte zu Ziel.
Wer konnte auch hoffen, gegen den Gesalbten des Herrn erfolgreich Widerstand zu leisten? Auch Herzog Hermann II. von Schwaben, der anfangs die Großen des Reiches, die KONRADINER, die SALIER und die EZZONEN, auf seiner Seite wußte, stand plötzlich allein. Er war der letzte, "der die Ratschläge der Verständigen nicht nutzen wollte" und dagegen den Rat (unbedachter) junger Männer befolgt habe, so daß es im Juni zu einigen Geplänkel mit ihm kam. Dabei wurde die Bischofsstadt Straßburg von den Schwaben verwüstet und geplündert, weil der dortige Bischof Werner sich gegen seinen eigenen Herzog gestellt hatte.
Am 1. Oktober 1002 endlich unterwarf sich auch Herzog Hermann II. von Schwaben in Bruchsal dem neuen König. Dies geschah, wie üblich, mit dem ganzen, öffentlich inszenierten und vorher abgesprochenen Unterwerfungsritual, das darauf ausgerichtet war, die neue Rangordnung im Reich demonstrativ und öffnetlich zur Schau zu stellen. "Mit nackten Füßen und mit Hilfe glaubhafter Vermittler erschien er vor dem König, bat um Vergebung für die bösen Taten, bat um Gnade, um durch königliche Gabe seine Güter weiterhin zu besitzen, und beugte, um dies zu erreichen, die Knie bis auf den Boden". Den Schaden, den er dem Bischof Werner von Straßburg (1001-1028) zugefügt hatte, mußte er teuer bezahen. Das Frauenkloster St. Stephan in Straßburg, ein Mittelpunkt herzoglicher Präsenz in der Stadt, ging an den Bischof über. Daraufhin erlangte er die Gnade des Königs, behielt im übrigen seine Macht und Funktion und wurde, wie es heißt, HEINRICHS "Gefolgsmann und Freund": Auch er hatte sich der neuen Machtverteilung gebeugt.
Der Herzog von Schwaben, Hermann II. (997-1003), der den neuen König den härtesten Widerstand entgegengesetzt hatte, gehörte dem mächtigen Haus der KONRADINER an. Sein hoher Rang wird daran ersichtlich, daß er mit einer Frau aus königlichem Hause vermählt war, mit Gerberga (+ 1019), der Tochter König Konrads von Burgund (937-993). Eine seiner Töchter war Mathilde, die Gemahlin des SALIERS Konrad, Herzogs von Kärnten (1004-1011). Eine andere hieß Gisela und wurde die Faru KONRADS II., des ersten salischen Kaisers (1024-1039): Ein Netz vornehmster und einflußreichster Verbindungen zeichnet sich ab. In Schwaben selbst führten freilich der frühe Tod Hermanns II. am 5. April 1003 und der Übergang der Herzogswürde auf dessen minderjährigen Sohn Hermann III. (1003-1012) zu einer deutlichen Krise der Herzogsgewalt.
HEINRICH II. war jetzt unangefochten König, und zwar, wie es in der genannten Urkunde heißt, "im Reich ohne irgendeine Teilung". Gab es in Diedenhofen etwa nochmals Diskussionen darüber, ob nicht doch auch der Herzog von Schwaben eine quasikönigsgleiche Stellung erhalten solle? In den Annalen von Sankt Gallen ist überliefert, der "Herzog von Alemannien und Elsaß", also Hermann II., habe versucht, "das Reich vielleicht zu teilen und anteilig zu beanspruchen".
Auf der Synode von Diedenhofen verwies HEINRICH II. auf die angebliche Nahehe des SALIERS Konrad von Worms, der mit Mathilde, einer Tochter Herzog Hermanns II. von Schwaben, verheiratet war. Konrad war ebenfalls in Diedenhofen anwesend, und das Vorgehen des Königs war ein harter Affront gegen ihn. Die meisten Bischöfe hielten sich noch zurück, ja sie waren geradezu konsterniert von den Attacken des Königs. Nur der Metzer Bischof Adalbero II., so hören wir, habe die Ansicht HEINRICHS II. verteidigt und nachzuweisen versucht, daß Konrad nicht nur in einer Nahehe 4. Grades, sondern sogar 2. Grades verheiratet sei.