Auslagerung der KI-Aspekte außerhalb Musikwissenschaft aus Thema "Gefälschte Musikwissenschaft"

[trichtersoft]

KI generierte Beiträge sind auch in anderen Fachgebieten ein zunehmendes Problem. Bei Veröffentlichungen auf Amazon kommt dazu, dass es kein peer review gibt, was das noch weiter begünstigt.

 

[Tremar]

Sch... ade. Ich sehe das Problem durchaus auch schon eine Weile kommen, war aber naiv genug, zu glauben, dass wir noch etwas Zeit haben...

 

[Gast315604]

Hier im Musiker-Board gibt es diesen Thread "Macht die KI jetzt Blues?", da sind in einigen Posts Links auf Beispiele angegeben dafür, was KI als (in diesen Fällen) musikalische "Werke" generieren kann. Und es gibt einen Verweis auf das Video "How to use SUNO", in dem gezeigt wird, mit welchen geringen Voraussetzungen solche "Werke" erzeugt werden können. Sowas in der oder ähnlicher Form bedudelt mich jetzt schon beim Einkaufen.

Das jetzt sind ja erst die Anfänge. Ich nehme an, dass sich gerade eine riesengroße Welle an durch KI verursachten Problemen aufbaut, auch in Bereichen, an die wir jetzt noch gar nicht denken. Zum Beispiel Medizin, Pädagogik, Philosophie, Politik, Ernährungswissenschaften, Klimaforschung, Militär, ...

Und dann kommt das Argument, ein Messer müsse ja auch nicht als Waffe betrachtet werden. Fakt ist aber, dass ein paar Fanatiker die Atombombe in die Welt gesetzt haben und sie seitdem eigentlich nur Probleme erzeugt hat. Und Fanatiker haben unbemannte, fliegende Tötungsmaschinen in die Welt gesetzt und die erzeugen jetzt auch eine Menge Probleme und in meiner Wahrnehmung im Vergleich dazu quasi keinen zivilen Nutzen. Man könnte jetzt weiter machen mit Neonikotinoiden, militärischer Nutzung des Orbit usw. usf.

Ich befürchte, dass es solche Fanatiker immer geben wird. Und die Mehrheit, die etwas Anderes möchte, bleibt uninformiert oder zu machtlos oder zu träge oder wird manipuliert bis es zu spät ist. Ich sehe im Augenblick keine Anzeichen, warum das im Falle von KI anders verlaufen sollte.

 

[Stratspieler]

...Ich befürchte, dass ... die Mehrheit ... bleibt uninformiert oder zu machtlos oder zu träge oder wird manipuliert bis es zu spät ist. ...

Ich würde deinen Beitrag gerne mit einem "Gefällt mir" bedingsen. Aber eigentlich ist das nichts mehr, was einem gefallen kann im Sinne von "Hach, toll", sondern es ist bitterer Ernst. Ich sehe das genauso wie du und eigentlich, in welcher Form auch immer, muss man dagegen angehen. Bevor es zu spät ist.

Alleine nur schon, wenn ich sehe, wie die sogenannte "KI" von Google bereits auch mich schon zitiert (zum Thema eines alten Röhrenradios), ohne, dass "sie" mich überhaupt gefragt hat...

 

[MS-SPO]

Und dann kommt das Argument, ein Messer müsse ja auch nicht als Waffe betrachtet werden.

Was dabei insbesondere ausgeblendet wird ist: die teilweise haarsträubende Unzuverlässigkeit dieser Technologie.

Und "wir" wiederholen den Navi-Effekt "wenn's KI sagt, schreibt, zeigt, wird's schon stimmen" ... so dass immer mehr Personen und Unternehmen ebenfalls im Wasser landen werden.

Bleiben wir beim Messer: Möchten wir denn von einer Chirurgen-KI mit 80 %-iger Zuverlässigkeit aufgeschnitten und bearbeitet werden? Also ich ... eher nicht ... Na gut, und wenn 20 % Belag beim KI-getrieben Brotschmiermessers auf dem Tisch landen, na ja ... (ach **** ICH muss es ja wegmachen @#!

Ach, hieße "Ki" doch bloss anders, etwa "Kartoffelbrei" oder "PillePalle", dann wären die Assoziationen vielleicht auch ein bischen realistischer ...

 

[suckspeed]

Auch bei Lehrbüchern für Schulen gibt es bereits Fälle, bei denen offensichtlich KI benutzt wurde. Noch kann man nicht sagen, wie umfänglich, aber wenn das so weiter geht, dann kann man die Bildung bald komplett abschreiben. Wenn Übungshefte für Kinder mit Förderungsbedarf falsche Aufgaben und Darstellungen enthalten, muss man sich nicht wundern, wenn das Bildungsniveau in den Keller geht und die Kinder nur noch an sich selbst (ver)zweifeln.
Hier ein Artikel zu dem Thema: https://www.golem.de/news/falsche-aufgaben-und-bilder-lehrbuchverlag-unter-ki-verdacht-2604-207884.html

Man findet ja auch auf YouTube und sonstwo zu allen Themen ganz viel generierten Mist, der teilweise nur endlos widerkäuend den gleichen Inhalt nochmal und nochmal erklärt. Manchmal sind es aber eben auch falsche/halluzinierte Inhalte, die so schnell Überhand nehmen, dass die "echten" Informationen bald wie Nadeln im Heuhaufen verschwinden werden. Tolle Entwicklung...

Es gibt einen Typen, der AI immer wieder einfache Sachen fragt. Z. B. von 1 bis 200 zählen. Oder die Frage: "Warum is ein S im Namen 'ChatGPT'"...

View: https://youtube.com/shorts/ZMP8_jD-y0s?si=bL4HnOowlRB4XEUI
Vermutlich würde genau so ein Unsinn rauskommen, wenn man eine AI fragt, warum ein C# in der C-Dur-Tonleiter steckt...

 

[WorkingMusician]

Auch bei Lehrbüchern für Schulen gibt es bereits Fälle, bei denen offensichtlich KI benutzt wurde. Noch kann man nicht sagen, wie umfänglich, aber wenn das so weiter geht, dann kann man die Bildung bald komplett abschreiben.

Es gab schon vor den GenAI-Welle, gerade im Kontext der "Wir-müssen-alles-digitalisieren"-Welle, Bockmist, so z.B. Unterlagen für den Geounterricht (oder Sachkunde, weiß nicht mehr), in denen Hannover falsch eingetragen war... KI erlaubt halt,den Kram NOCH schneller auf den Markt zu bringen. Damit werden natürlich "alte Tugenden", wie das Faktenwissen, zumindest als "Orientierungswissen", auf einmal wieder wichtiger...

 

[suckspeed]

Probleme mit falschen Buch-Inhalten werden sich aber auch sehr bald erledigt haben, weil die nachwachsende Generation nicht mehr in der Lage sein wird, Bücher zu lesen. Das höchste der Gefühle werden KI-generierte Zusammenfassungen sein - und die werden oft fehlerhaft sein.
Auch bei Studenten ist das heute schon ein Phänomen laut zahlreicher Untersuchungen und Reportagen. Statt sich stundenlang Vorlesen anzutun und sich selbst ein Verständnis zu erarbeiten wird eine Zusammenfassung gelesen und fertig. Ein Buch mit hunderten Seiten? Das wird Kopfschmerzen und mentale Verwirrung verursachen.

Und dann lass mal KI-Abfragen teuer werden. Auf einmal weiß kaum noch jemand was (ist heute bei Nicht-Verfügbarkeit des Internets ja schon schlimm)... Das wird noch lustig werden...

 

[DerThorsten]

Bei Musiktheorie tut sich wenigstens keiner weh, Ohrenschmerzen mal ausgenommen. Ich habe schon falsche Schaltpläne für Röhrenverstärker gesehen, Bücher zur Ernährungsberatung soll es auch schon unmengen geben. Außerdem hat sich heraus gestellt, dass die Fähigkeiten Hautärzten, die KI benutzen, jetzt schon verkümmern.

Das Einzige, was mir als Gegenmittel einfällt ist: Lasst uns mit einer Klampfe ans Lagerfeuer setzen. Oder auf Konzerte gehen. Kauft direkt bei Bands, macht und erschafft Kultur! Auf gehts, Internet aus, rein in die Gesellschaft.

 

[HaraldS]

Bei Musiktheorie tut sich wenigstens keiner weh,

Es geht hier um Musikwissenschaft, nicht Musiktheorie.
Und wenn Kulturwissenschaften verfälscht werden, geht kulturelle Verankerung und Identität verloren. Gerade Deutschland hat sich in der Geschichte immer eher als kulturelle (Musik, Brote, Würste, Bier, Kunstepochen) als als politische Einheit (durch freiwillige oder unfreiwillige politische Aufteilung) verstanden.

Deswegen ist eine Erosion des Kulturverständnisses gerade im Fall von Deutschland keine Kleinigkeit. Musikwissenschaft entscheidet natürlich nicht über die politische Zukunft, aber auch mit darüber, wie wir über Kultur denken.

 

[trichtersoft]

Guter Punkt @DerThorsten
Es gab aber auch schon Fälle, die tatsächlich lebensgefährlich waren:

"Völlig unverantwortlich": KI-generierte Pilzratgeber bei Amazon angeboten

Auf Amazon wurden mehrere englischsprachige Pilzratgeber gesperrt, die offenbar aus einem KI-Textgenerator stammen. Die Tipps waren teilweise lebensgefährlich.

www.heise.de

 

[x-Riff]

Ich bleibe mal im Bereich Wissenschaft:
Die Art, wie KI arbeitet und Ergebnisse produziert und wie sie immer weiter vordringt, ist das eine Problem.
Das andere Problem ist, dass das auf einen Wissenschaftsbereich trifft, der schon seit längerem finanziell auf Kante genäht ist (z.B. Personal im Mittelbau und in der Lehre). Und immer abhängiger von Drittmittelgebern, die oft aus der Wirtschaft stammen und Ergebnisse haben wollen (unter Umständen auch bestimmte Ergebnisse wie beispielsweise im Pharmabereich). Und die Anreizsysteme in der Wissenschaft haben sich geändert: Unis unterliegen Ratings und wer in den Elite-Bereich aufgenommen werden will, muss liefern. Liefern müssen auch die Wissenschaftler*innen - sie müssen regelmäßig Ergebnisse (Studien, Publikationen) produzieren, um überhaupt eine Karrierechance zu haben, Engagement im Lehrbereich zählt für die Reputation weniger.

Die Folgen in der Forschung waren, auch schon vor KI, Studien, die einer Prüfung (die aber immer weniger stattfindet) nicht standgehalten und die auch vor 10 oder 15 Jahren gar nicht veröffentlicht worden wären. Lieber hätte man noch mal selbst gecheckt - oder die publizistischen Fachjournale hätten das getan, die aber auch nicht mehr nachkommen. Auch weil die schiere Anzahl der Publikationen zugenommen hat. Einige Studien flogen auf, mit entsprechendem Ergebnis - das zeigt aber nur die Spitze des Eisbergs.
Die Folgen in der Lehre ergeben sich daraus, dass der Anteil der Studierenden, die nur durchkommen wollen (diesen Anteil hat es immer schon gegeben, er scheint aber zuzunehmen, eher durch die allgemeine Lebenssituation der Studierenden) und dementsprechend nur prüfungsrelevanten Stoff lernen ("Lernbulimie"), sich mit KI-generierten Hausarbeiten durchschlagen und KI-generierte Anteile sind stärker im Vormarsch auch bei Bachelor- und Master- sowie Doktorarbeiten. Die Lehrkräfte kommen dem nicht mehr nach. Auch hier: die aufgeflogenen Einzelfälle zeigen nur die Spitze des Eisbergs, zumal sich auch eine Uni zurückhält, hier zumindest öffentlich wahrnehmbar stark nach vorne zu preschen: ein Schaden der eigenen Reputation wird befürchtet.
Dass aus wissenschaftlicher Sicht das Aufdeckten von unzureichenden Studien, Publikationen und Arbeiten (auch im Lehrbetrieb) ein wesentliches Ziel von Wissenschaft ist, tritt zurück gegen die zunehmend geforderte Reputationsleistung, welche Unis erfüllen sollen und müssen. Faktisch wird die wissenschaftliche Selbstkontrolle seit längerem ausgehöhlt.

Das ist im Bereich der Wissenschaft, Forschung und Lehre auch alles bekannt und wird beklagt. Womit dagegen gehalten wird, ist vergleichsweise unzureichend, harmlos und eher defensiv. Und das, wo die Betreiber von KI selbst ordentlich von Fördermitteln der Forschung profitieren und sich selbst gerne als Speerspitze der Forschung für künftige Generationen und als Quantensprungvorbereiter in der Intelligenzentwicklung betrachten und darstellen.

Es stimmt so einiges nicht.

x-Riff

 

[Bowhunter]

Wenn die natürliche Intelligenz schwindet, muß die künstliche herhalten; die KI ist auf dem Vormarsch.
Wie heißt es so schön: früher stand in der Bedienungsanleitung von Autos, wie man das Ventilspiel einstellt; heute steht drin, daß man die Batterieflüssigkeit nicht trinken sollte. Das spiegelt die Entwicklung der Gesellschaft für die letzten 35-40 Jahre wieder.
Schöne neue Welt!

 

[WorkingMusician]

früher stand in der Bedienungsanleitung von Autos, wie man das Ventilspiel einstellt; heute steht drin, daß man die Batterieflüssigkeit nicht trinken sollte

... und gleichzeitig ist heute die Bedienungsanleitung für ein Haushaltsprodukt dicker als das 3sprachige Werkstatthandbuch für unseren alten 2Takt-Bootsmotor...

Auch in der Wissenschaft (nicht nur Musik-) beobachte ich den Trend zu "mehr Volumen", einfach, weil in manchen Journals "alles und jedes" belegt werden muss. Was grundsätzlich zu begrüßen ist, ist imho bei "Allgemeingut" als "Einordnungswissen" (z.B. Geburtsdatum von Beethoven, ...) nicht wirklich erforderlich. (Bei einer Infragestellung des Geburtsdatums müsste man natürlich hier alles belegen.)

 

[MS-SPO]

Wenn die natürliche Intelligenz schwindet, muß die künstliche herhalten;

Ich halte das ja für Übersetzungsfehler. Richtiger müsste es heißen:

• künstliche Inkompetenz (als Ergebnis)
  

die KI ist auf dem Vormarsch.

Warum?

• weil wir uns alle gerne verzaubern lassen (wir lieben Illusionen)
• weil man damit viel Geld machen kann
• weil Jede/r grundlagenfrei mitphantasieren kann

Ich erwarte leider, dass wir Gesellschaften sehr leidvoll lernen werden, was wir uns da eingebrockt haben.

 

[Gast315604]

Wenn die natürliche Intelligenz schwindet, muß die künstliche herhalten

Ich mag mich täuschen, aber ist es vielleicht genau umgekehrt? Sozusagen der Taschenrechner-Effekt: man kann zwar Kopfrechnen, aber wenn es nicht mehr genutzt wird, verkümmert diese Fähigkeit.

 

[x-Riff]

Ich erwarte leider, dass wir Gesellschaften sehr leidvoll lernen werden, was wir uns da eingebrockt haben.

Manchmal paßt das große Wir, vor allem, wenn es an unerfüllte, grundlegende Sehnsüchte und Träume der Menschen andockt, wie etwa das Versprechen auf ewiges Leben, verlängerte Jugend, ein sorgenfreies Leben oder den Traum, das Weltall zu erobern und eine neue Erde zu finden etc. Ich sehe durchaus auch in KI einige dieser Sehnsüchte: Allmachtsphantasien (Wir erschaffen etwas, das größer ist als wir), eine von menschlichen Makeln oder subjektiven Faktoren unbeeinflusste Intelligenz/Macht, eine Maschine, die uns aller lästigen Arbeit enthebt und gleichzeitig nur rationalen Sachentscheidungen folgt oder ein perpetuum mobile der Intelligenz (ein selbstlernendes, sich selbst reproduzierendes System).

Wer uns das warum eingebrockt hat, hat damit aber wenig zu tun. Es sind die Interessen einiger weniger Superreiche und Konzerne, die nach Macht und Gewinn streben und die erst gar nicht vorhaben, sich an geltendes Recht zu halten (Urheber- und Verwertungsrechte) und die ungehemmt alle Erkenntnisse, Errungenschaften und Produkte zum Nulltarif in sich aufsaugen, um sich letztlich unentbehrlich zu machen. Genau an der Stelle bin ich gegen die Verwendung des großen Wir.

Was stimmt: Es wird zugelassen. Von uns. Aber wir sind nicht die Be- und Antreiber des ganzen Geschehens und es ist auch nicht unser gemeinsames Projekt. Auch das sieht man in dem Wissenschaftsbereich, in dem die KI-Forschung sich angesiedelt hat: sie nimmt gerne öffentliche Förderung in Anspruch, sie beruft sich auf wissenschaftliche Erkenntnisse und Fortschritt, ohne dass sie deren Prinzipien anerkennt und sie läßt sich nicht in die Karten gucken und behauptet, ihr selbst sei das, was KI da macht, wie eine black box. Was für eine Forschung soll das sein, die sich nicht darum bemüht, das aufzudecken, was sie zu untersuchen behauptet?

x-Riff

 

[WorkingMusician]

Auch das sieht man in dem Wissenschaftsbereich, in dem die KI-Forschung sich angesiedelt hat: sie nimmt gerne öffentliche Förderung in Anspruch, sie beruft sich auf wissenschaftliche Erkenntnisse und Fortschritt, ohne dass sie deren Prinzipien anerkennt und sie läßt sich nicht in die Karten gucken und behauptet, ihr selbst sei das, was KI da macht, wie eine black box. Was für eine Forschung soll das sein, die sich nicht darum bemüht, das aufzudecken, was sie zu untersuchen behauptet?

An was denkst du da konkret? Ist mir aus der Forschungs(antrags)praxis gerade nicht so bekannt, es sei denn, es ist empirische Forschung, die "AI" (bzw. deren Ergebnisse) zum Inhalt hat. (Für eine empirische Studie zum Glauben der Nutzer:innen an die Ergebnisse von Google-AI im Browser muss ich nicht wissen, womit die Systeme trainiert worden sind.)

 

[McCoy]

Danke für den Artikel! Ich lasse Chatgpt gleich mal ein musikwissenschaftliches Werk über mich verfassen, damit die Nachwelt nicht vergisst, mit wen sie es wirklich, zu tun hat(te). Den Titel habe ich schon: „Zwischen Improvisation und Intellekt: Zur musikalischen Genialität des Jazzpianisten und Komponisten [McCoy] im Spannungsfeld moderner Jazzästhetik“

Aber jetzt mal im Ernst: Nach der Lektüre des Aufsatzes von Klaus Martin Kopitz bekommt man ja schon den Eindruck, dass ein solches, von einer KI-generiertes musikwissenschaftliches Werk relativ leicht zu erkennen ist. Allerdings ist damit zu rechnen, dass das bei weiterer Fortentwicklung der künstlichen Intelligenz so nicht bleiben wird. Es ist also zu erwarten, dass KI-generierte Literatur den menschengemachten Schriften immer ähnlicher wird. Es wäre dann vielleicht sinnvoll, dass die Menschen darüber nachdenken, wie ein fälschungssicheres System entwickelt werden kann, das von Menschen geschriebene Werke als solche kennzeichnet. Das ist langfristig vielleicht sinnvoller, als KI-generierte Schriften zu kennzeichnen.

In meinem Kopf spielen sich gerade die schlimmsten Stanislaw-Lem'schen Fantasien ab: Wenn künstliche Intelligenz rein aus der digitalen Fantasie entwachsene Schriften als historische bzw. wissenschaftliche Wahrheit deklariert, dann wird eine tatsächliche historische bzw. wissenschaftliche Erkenntnis immer unmöglicher. Es wird dann dazu kommen, dass die künstliche Intelligenz ihre eigenen früheren "wissenschaftlichen" Elaborate als Quelle neuer "wissenschaftlicher" Werke heranzieht. Damit entsteht eine Art Kettenreaktion: KI-generierte "Erkenntnis" wird zur Begründung neuer KI-generierter "Erkenntnis", und für den Menschen wird es immer schwieriger, die wahre Erkenntnis von der KI-generierten Erkenntnis zu unterscheiden. Im Beispiel der Geschichtswissenschaft endstünde dadurch eine historische Menschheitserzählung, die als Wahrheit dargestellt wird, die aber tatsächlich nie stattgefunden hat. Spätere Generationen, die keine Erinnerung an das Geschehene haben, können dann nicht mehr unterscheiden zwischen historisch tatsächlich gegebenen und von der KI erfundenen Ereignissen. In despotisch regierten Staaten wird ähnliches ja bereits durch staatlich indoktrinierten Geschichtsunterricht in den Schulen durchgeführt. Dabei darf man nicht vergessen, dass die Geschichte immer nur das ist, was in den Köpfen der gerade Lebenden als solche gegenwärtig abgespeichert ist.

Eine solche Kettenreaktion KI-generierter "Erkenntnisse" führt am Ende zu einer Art geistiger Kernschmelze: Es entstehen im Sekundentakt explosionsartig unzählige weitere "wissenschaftliche Wahrheiten", die die als solche bisher anerkannten Wahrheiten komplett ersetzen. Der Mensch hat dann irgendwann keine Möglichkeit mehr, die eine Wahrheit von der anderen zu unterscheiden. Wahrheit - bzw. Wissenschaft an sich - wird dadurch ad absurdum geführt. Unter diesen Gesichtspunkten halte ich eine fälschungssichere Kennzeichnung – vielleicht ähnlich der heute bei digitalen Bankgeschäften üblichen zwei-Faktor-Authentifizierung – echter menschlicher Werke - insbesondere in der Wissenschaft – für keine schlechte Idee: Menschen müssten fälschungssicher bezeugen können, welche Inhalte von Menschen gemacht sind.

Viele Grüße,
McCoy

 

[noslash]

Das jetzt sind ja erst die Anfänge. Ich nehme an, dass sich gerade eine riesengroße Welle an durch KI verursachten Problemen aufbaut, auch in Bereichen, an die wir jetzt noch gar nicht denken. Zum Beispiel Medizin, Pädagogik, Philosophie, Politik, Ernährungswissenschaften, Klimaforschung, Militär, ...

Der "Vorteil" ist, dass wir zumindest schon Handhabe dagegen haben... Wenn irgendwo eine Brücke wegen fehlerhafter Statik einstürzt wird auch das Statikbüro verurteilt und nicht das Softwareunternehmen mit deren Software die Brücke gerechnet worden ist. ... --> Es wird also Gerichtsurteile brauchen bis der Umgang mit KI sich bessert.... --> macht die Geschichte mit der KI aber nicht unbedingt besser...