Zu a:
An den DBX 166XL kannst Du (sinvoll) kein Mikrofon anschließen. Das Gerät kommt in den Insert des jeweiligen Kanals. Das beispiel aus der Bedienungsanleitung berücksichtigt den Anschluß von mehreren geerdeten Geräten (z.B. Mischpult und EQ) an den DBX 166.
Da haben wir genau den Punkt: Inserts sind nicht symmetrisch. Und das Auftrennen der Masse macht meiner Meinung nach dann sinn, wenn ich z.B. 5 Kabel zwischen Mischpult und DBX... habe und sich dadurch eine Brummschleife aufspannt.
Zu b:
Es hat nie jemand gesagt, daß die Masse für die übertragung symmetrischer Signale benötigt wird. Aber dadurch, daß die Masse in den Verbindungsleitungen durchgeschleift wird, kann es zu unerwünschten Verbindungen (Brummschleife) innerhalb des Systems kommen. Wird die Masseverbindung an einer Sinvollen stelle aufgetrennt hat es sich ausgebrummt.
Das ist die landläufige Meinung. Wenn man einen Kabelweg in einem Magnetfeld hat, der nicht geschlossen ist (offene Spule, meinetwegen mit nur einer Windung einmal um den FOH ;-)), dann induziert man eine Spannung. Schließt man diese Spule dann kurz, ergibt sich ein Strom, der Kurzschlussstom oder Brummstrom. Also hab ich immer Brumm, entweder als Spannung zwichen den Massen oder als Strom und dadurch erst als Spannungsabfall über den Widerstand aller Masseverbindungen verteilt. Das ist die Wahl die man hat, sonst bleibt nur durch geschickte Kabelverlegung (twisted pair, multicore..) die Schleifenfläche senkrecht zum Magnetfeld zu minimieren.
Hab ich nur symmetrische Verbindungen, sollte ich in der Theorie keinen Brumm haben, weil der sich immer auf beide Signaladern als common mode auswirkt. Differenzverstärker, die den common mode um -100dB dämpfen sind aber teuer, und normale (billige) Widerstände haben 1% Toleranz -> typisch hat man nur -40 dB common mode Unterdrückung, außer man nimmt eine DI Box!.
Hab ich eine asymmetrische Übertragung schlägt die Brummspannung voll durch.
Der Unterschied zwischen aufgetrennter und geschlossener Brummschleife ist nur, das ich einmal die komplette Spannungsdifferenz an einem Punkt habe, nämlich da wo ich auftrenne (und wenn das eine asymmetrische Verbindung ist habe ich ein großes Problem, ist da eine symmetrische Verbindung, habe ich ein kleines Problem und ist da eine DI habe ich kein Problem). Sonst hast du das Problem auf alle Verbindungen in der Brummschleife verteilt (und wenn da eine empfindlichere ist, umso mehr).
Schaffe ich es, die Masseschleife da aufzutrennen, wo ich keine Signale übertrage (Groundlift des Amps -> in dessen Netztrafo, Antennenkabel, RS232-Übertrager...), hab ich auch keine Probleme. Allerdings sollte das jeweils darauf ausgelegt sein (Gerät schutzisoliert...) damit daraus kein Sicherheitsrisiko entsteht.
)
Oder muss ich dann damit rechnen, dass das kabel nichtmehr ausreichend geschirmt ist oder sonstige nebenwirkungen auftreten? 
Durch den Übertrager ist doch Quelle und Sender eh getrennt, aber so wie Du es beschreibst, müßte ja die Masse zum Empfänger gekappt werden für den GroundLift. Das geht doch aber nicht, wo bleibt dann der Strom für die Phantomspeisung 
