Hi,
soviel ich mich erinnere, muss man bei der Kombination von SD-und Dimarzio-PUs den SD anders verdrahten, weil die Spulen anders gewickelt sind. Von daher sollte beim Duncan der grüne Draht an den Schalter und der schwarze an Masse. Hast Du zur Zeit einen extrem dünnen Zwischenpositions-Sound? Dann stimmt die Phasenlage nicht, und das sollte sich durch die Änderung deutlich bessern. Könnte durchaus sein, dass das merkwürdige Verhalten des Tonpotis beim Duncan auch was damit zu tun hat.
Beim Coilsplit ist jetzt allerdings die andere Spule des SD aktiv, da musst Du feststellen, ob es in der Zwischenposition womöglich einen besseren Sound, aber dafür Brummprobleme gibt, die Du vorher nicht hattest. In dem Fall musst Du ganz anders verkabeln, nämlich rot an Masse, grün und schwarz zusammen an den Split-Anschluss und weiß an den PU-Schalteranschluss. Dann hast Du die gleiche Phasenlage des Nutzsignals, aber für die Störsignale eine neue Kombination, nämlich mit einer gegenphasigen Spule bei umgedrehter Polarität.
Da Du eine HSH-Schaltung hast, ist der MittelPU ziemlich sicher rw/rp gefertigt, also mit umgekehrter Wickung und Polarität zu den beim Coilsplit aktiven Spulen der beiden Original-HB. Jetzt wird das Denken für mich echt hart... Jedenfalls ist es denkbar, dass Du mit dem Duncan nur
entweder die Brummreduzierung
oder den Sound ohne Phasenproblem bekommst. Dann bleibt nur noch, den Magneten zu drehen. Hab ich bei der Dimarzio/SD-Kombi auch schon gemacht.
Dazu musst Du das Klebeband vorsichtig abziehen, die unteren Befestigungsschrauben am Pickup leicht losdrehen (aber nicht ganz rausdrehen, sonst fällt das ganze Ding womöglich auseinander) und die Spulen ganz leicht von der Grundplatte lösen. Dann kannst du den Magneten mit einem Holzstab oä in die Richtung rausdrücken, in der nicht die Spulenausgänge im Weg sind. Den Magneten drehst Du dann um 180 Grad die Längsachse. Bei Duncan ist eine Seite normalerweise weiß angepinselt, daran siehst Du die Polung, und die muss jetzt andersherum sein. Magnet wieder einsetzen, Schrauben anziehen. Zu dem Thema googelst du einfach mal "magnet flipping". Mit etwas Feingefühl kein Hexenwerk, aber jede Anwendung von Gewalt kann zum Exitus des PUs führen.
Für die Verdrahtung des Tonpotis gibts übrigens auch verschiedenste Varianten. Ich rede jetzt hier nicht nur vom viel diskutierten 50ies-wiring, das wäre für die Art Gitarre eher ungewöhnlich. Durch den tendenziell schlankeren Ton wohl auch nicht das Richtige für Dich. Ich hatte allerdings eine Strat, die klang elektrisch auch bei voll aufgedrehten Potis immer etwas dünn und tot, obwohl die Saiten akustisch wunderbar zu schwingen schienen. Bis ich den Tonkondensator neu verlötet habe... Keine Teile ausgetauscht, nur anders verdrahtet.
Wenn Du Dir zB die Dimarzio- und die SD-Empfehlungen ansiehst, wirst Du feststellen, dass es auch beim "Modern Wiring" Varianten gibt. Ibanez/Dimarzio lötet den Cap zwischen Masse und Mittelabgriff, SD zwischen Masse und (auf dieser Graphik:
http://www.ibanez.com/supportResources/wiring/2007/RG2570E.pdf) linkem Anschluss des Potis. Welche die "Richtige" ist, kann ich jetzt nicht sagen, aber es ist schon erstaunlich, was das für Auswirkungen hat. Meine Warmoth aus dem Profil hat das Problem ürbigens auch, dass die Lautstärke schon so stark abfällt, wenn man die Tonpotis nur leicht zurücknimmt. Erst Dein Post hat mich übrigens draufgebracht, dass das eigentlich erst so ist, seit ich die Duncans durch einen Dimarzio (sic!) und einen Peavey Wolfgang HB (mit Dimarzio-Polung) ersetzt habe. Werde da jetzt also auch mal umlöten und schauen, ob sichs bessert.
Bei Dir kommt noch dazu, dass wahrscheinlich am Volume-Poti noch ein Treble-Bleed-Cap eingelötet ist. Ich bin da kein Fan, weil es den Ton für meine Ohren doch auch im aufgedrehtem Zustand beeinflusst, irgendwie dünner macht. Etwas besser wird es mMn mit einem parallel oder in Reihe zum Cap eingefügten Widerstand. Guckst Du hier:
https://rowbinet.wordpress.com/2011/10/02/guitar-rewiring-101-treble-bleed-mods/
Zu guter Letzt noch was zu Deiner PU-Auswahl: Stimmt schon, der Duncan TB-4 ist kein solches Output-Monster, wie viele glauben (und weitererzählen). Gegenüber einem V8 oder IBZ-Dimarzio wird er in der Hinsicht wahrscheinlich keinen großen Unterschied bewirken. Ich halte das jetzt auch nicht für zwingend, bei den Gainreserven moderner Amps. Allerdings gibts eben deutlich heißere Eisen. In den teureren RGs wird zT auch der Tone Zone verbaut, und der haut mal richtig was weg. Vor allem hat er viel mehr Bass als der untenrum doch recht schlanke JB. So leids mir tut, den TB-4 halte ich generell nicht unbedingt für den optimalen PU in einer RG. Gerade die Modelle mit FR-Tremolo können meistens eher noch ein bisschen Unterstützung in den Tiefen brauchen, sodass sich da ein The Breed (fette Mitten und Tiefen, aber genug Transparenz), Evolution (etwas härter) oder der erwähnte Tone Zone mMn besser macht.
Gruß, bagotrix