Auslagerung der KI-Aspekte außerhalb Musikwissenschaft aus Thema "Gefälschte Musikwissenschaft"

[MS-SPO]

„Zwischen Improvisation und Intellekt: Zur musikalischen Genialität des Jazzpianisten und Komponisten [McCoy] im Spannungsfeld moderner Jazzästhetik“

Genialer Titel

 

[noslash]

In meinem Kopf spielen sich gerade die schlimmsten Stanislaw-Lem'schen Fantasien ab:

Ich füttere deinen Kopf noch mit solchen "Ideen" der "Antreiber":

Mit Robotern gegen Aufstände? Chinas Polizei denkt die KI-Revolution durch

In einer Studie durchläuft die bewaffnete Polizei in China das Szenario von Unruhen in einer Großstadt: Wie urbane Proteste mit Robotern und KI eingedämmt werden können

www.derstandard.at

 

[gidarr]

Er nennt auch 78 andere Publikationen des Verlages tredition GmbH, die offensichtlich musikwissenschaftliche Fälschungen sind.

Tredition ist kein Verlag im eigentlichen Sinn, sondern ein Selbstverlag, oder wie es heute so schön heisst: eine Self-Publishing-Plattform. Wer das Geld hat, kann dort schon in kleiner Auflage seine Werke veröffentlichen. Ein normaler Verlag würde so einen Quatsch (hoffentlich) nicht verlegen.
Print-on-Demand hat seine guten, aber wahrscheinlich noch öfters, auch seine schlechten Seiten. Wer seine eigenen Gedichte im eigenen Umfeld verbreiten möchte oder seine heimatkundlichen Forschungen bekannt machen will, findet hier eine Möglichkeit dazu. Leider gibt es auch windige Geschäftemacher, die zum Beispiel gesammelte - gemeinfreie - Wikipedia-Artikel drucken lassen und wenn man nicht gut aufpasst, hält man das für ein neues Sachbuch und fällt darauf herein.
Ich hoffe doch, dass niemand beim Namen Tredition an einen wissenschaftlichen Verlag denkt!
Im Zweifelsfall vorher den Wikipedia-Beitrag dazu lesen:

2025 geriet das Unternehmen zunehmend in die Kritik, weil es offenbar in großem Umfang angebliche Fachbücher nicht existierender Autoren publiziert hat, die in Wahrheit von einer KI generiert wurden. Diese Bücher enthalten eine hohe Zahl erfundener „Fakten“, die das Resultat sogenannter „Halluzinationen“ sind. Kritisiert wurde auch, dass diese Bücher nicht entsprechend gekennzeichnet sind.

Auch wenn das anstössig ist und in Zukunft sicher noch zunehmen wird: Bei einem Unternehmen, das nach eigener Aussage "mehr als 52 Tsd. neue Bücher veröffentlicht" hat, darf man einfach nicht höchste Qualität erwarten! Ein Bild-Leser-Reporter wird auch keinen Pulitzer-Preis bekommen!

 

[McCoy]

Genialer Titel

Natürlich KI-generiert ...

Ich füttere deinen Kopf noch mit solchen "Ideen" der "Antreiber":
https://www.derstandard.at/story/3000000317300/mit-robotern-gegen-aufstaende-chinas-polizei-denkt-die-ki-revolution-durch

Im Sinne Lems müßte allerdings die Menschheit besser ein Szenario gegen den Aufstand der Roboter durchdenken. Lektüreempfehlung: Stanislaw Lem, Der Unbesiegbare (1964).

Viele Grüße,
McCoy

 

[Hum]

Hier mal zwei Zitate von Hannah Arendt, die nach meiner Meinung sehr gut zur gegenwärtigen Zeit passen.
Mit anderen Worten, es ist im Interesse der Herrschenden, dass Wahrheit und Lüge für das Volk nicht mehr unterscheidbar sind.
Das betrifft Fake News genauso wie KI.

„Das Resultat einer konsequenten und totalen Ersetzung der Faktenwahrheit durch die Lüge ist nicht, daß die Lüge nun als wahr akzeptiert und die Wahrheit als Lüge diffamiert wird, sondern daß der Sinn, mit dem wir uns in der wirklichen Welt orientieren – und die Kategorie Wahrheit versus Falschheit gehört zu den geistigen Mitteln dieses Sinnes – zerstört wird.“

„Der ideale Untertan der totalitären Herrschaft ist nicht der überzeugte Nazi oder der überzeugte Kommunist, sondern Menschen, für die der Unterschied zwischen Fakten und Fiktion (d. h. die Realität der Erfahrung) und der Unterschied zwischen wahr und falsch (d. h. die Normen des Denkens) nicht mehr existieren.“

 

[abolesco]

Im Sinne Lems müßte allerdings die Menschheit besser ein Szenario gegen den Aufstand der Roboter durchdenken.

In Golem XIV geht eigentlich alles ziemlich glimpflich aus. Die beiden letzten künstlichen Superhirne schalten sich, wenn ich mich recht entsinne, selbst den Strom ab und verschwinden in höhere Spären der Evolution, oder so. Jedenfalls kommen kaum Leute zu Schaden, nur ein paar ganz penetrante KI-Gegner...

 

[Gast315604]

Eine solche Kettenreaktion KI-generierter "Erkenntnisse" führt am Ende zu einer Art geistiger Kernschmelze: ... Der Mensch hat dann irgendwann keine Möglichkeit mehr, die eine Wahrheit von der anderen zu unterscheiden.

Ja, genau. Und hinzu kommt der Aspekt im Zusammenleben von Menschen, dass das was die meisten glauben als "wahr" gilt. Es würde dann eine überwältigende Mehrheit sich auf die "Wahrheit" der KI berufen. Begründung: das kann ja nicht falsch sein, sonst würden sich ja nicht soviele auf die KI verlassen. Und dann würde man, selbst wenn man eindeutig beweisen könnte, dass eine "Wahrheit" in Wirklichkeit falsch ist, von dieser überwältigenden Mehrheit niedergerungen oder schlichtweg ignoriert werden.

Menschen müssten fälschungssicher bezeugen können, welche Inhalte von Menschen gemacht sind.

Wäre es dann nicht eher sinnvoll darüber nachzudenken, die Zugänglichmachung von KI-generierten Inhalten zu verbieten? Oder allgemein: wenn ein Werkzeug weniger Nutzen als Folgeprobleme erzeugt, dann taugt das Werkzeug nichts und sollte nicht auf den Markt gebracht werden dürfen.

 

[noslash]

Wäre es dann nicht eher sinnvoll darüber nachzudenken, die Zugänglichmachung von KI-generierten Inhalten zu verbieten? Oder allgemein: wenn ein Werkzeug weniger Nutzen als Folgeprobleme erzeugt, dann taugt das Werkzeug nichts und sollte nicht auf den Markt gebracht werden dürfen.

... ich glaube nur, dass ist nicht im Sinne der Erfinder bzw. Antreiber. Ansonsten hätten wir doch bei X und facebook und Co doch schon längst entsprechend starke Filtersysteme installiert...

 

[McCoy]

Ein Verbot ist in der wissenschaftschen Literatur ja längst Faktum. Solange man damit Geld verdienen oder sich die Mühe, z. B. eine Dissertation selbst zu verfassen, ersparen kann und sich das ausreichend verschleiern lässt, ist es jetzt schon so, daß sich jemand, der genügend kriminelle Energie aufbringt, davon nicht abhalten lässt, KI in wissenschaltlichen trotzdem zu verwenden. Außerdem wird es immer "Schurkenstaaten" geben, die ein soldes Verbot nicht erlassen.

Viele Grüße,
McCoy

 

[AchimK]

Das ist alles äußerst ärgerlich und dringt sogar langsam bis in die Naturwissenschaften vor...
Das "Betrügen" in den Geistes- und Kulturwissenschften mag da etwas einfacher sein, aber man muß schon selber prüfen, was man da so liests!
Ich gehe da nach 50 Jahren Biologie immer noch ganz konservativ vor:
Verlag oder Zeitschrift seriös?
Titel & Zusammenfassung konsistent?
Autor(en) bekannt? Institution ?
Zitate hinreichend? und zum Thema gehörig? überprüfbar?
Ich kann in fast alles, was in Bibliotheken steht, hineinschauen und tue das auch...
In Zeiten des Internet wird halt auch viel Mist verbreitet, man sollte also KRITISCH lesen.
In diesem Sinne, nutzen wir die NI um der AI/KI auf die Spur zu kommen. A.

 

[hela]

Es dauert nicht mehr lange und KI weiss dass die anrufe nachts um drei von deiner Hausbank unbedingt seriös sind. Oder dass Kollagen essen gegen alt werden hilft. Das die Evolution fake news ist....und die Erde eine Scheibe.
Lesen? Kritisch lesen? Gibts das nicht als short auf yt oder insta?

Tatsächlich ist es längst so weit dass ich meine förderanträge für wissenschaftliche drittmittel von KI aufrüschen lasse, bis sie aussehen wie ne prima ballerina und nicht wie das zeug das wir letztes jahr schon eingereicht haben. Die reviewer schicken mir dann ne KI generierte Begutachtung zurück....,haben ja auch keine zeit. Und der Entscheidungströger versteht eh seid Jahren nur Bahnhof, der ist ja nicht vom Fach und hat den Posten nur aus politischen gründen. Das war vor KI schon so, aber jetzt liest es sich besser und geht schneller. Toll.

 

[hela]

Da empfehle ich als institutionell Angestellte Molekularbiologin doch mal ganz subversiv sci-hub. Auf pubmed oder den Journal Webseiten die doi kopieren, bei sci-hub eingeben….. in 90 Prozent der Fälle kriegst du den Original Artikel als pdf.

Was leider nur bedingt hilft, denn ein großer Teil der Original Artikel sind mittlerweile auch bestenfalls als fragwürdig einzustufen. Z. B. so Scherze wie klinische Studie mit drei Probanden und keiner kontrollgruppe . Da hilft dann nur die oben von AchimK genannte Strategie…. Selber denken

Ps wenn deine sci hub Seite behauptet du müsstest erst ein Abo abschließen hast du eine Fake Seite erwischt. Auch schon gesehen…..

 

[Uwi1976]

Das jetzt sind ja erst die Anfänge. Ich nehme an, dass sich gerade eine riesengroße Welle an durch KI verursachten Problemen aufbaut, auch in Bereichen, an die wir jetzt noch gar nicht denken. Zum Beispiel Medizin, Pädagogik, Philosophie, Politik, Ernährungswissenschaften, Klimaforschung, Militär, ...

Im Bereich Medizin kann ich euch versprechen, dass da noch einiges auf uns zukommt und zwar in großen Schritten!
KI muss reglementiert und kontrolliert werden! Aber genau das passiert nicht. Die Resultate werden immer weniger hinterfragt. Wird schon stimmen, was die KI da vorschlägt. Als Therapie für den multimorbiden Patienten zum Beispiel.
Ich zeichne da ein recht düsteres Zukunftsszenario:
Phase 1: (läuft bereits seit ein paar Jahren) KI als decision support System. Es werden riesige Datenmengen analysiert, die tatsächlich sehr hilfreich sein können, um z.B. neue Medikamente zu entwickeln oder das Risiko für bestimmte Krankheiten vorherzusagen um rechtzeitig gegenzusteuern. Die Entscheidung über die Therapie liegt weiterhin beim Arzt und er trägt auch die volle Verantwortung.
Phase 2: (dz. noch Fiktion): Die KI erhebt die komplette Anamnese des Patienten und gibt mehrere Behandlungsmöglichkeiten als Option aus unter Berücksichtigung wirtschaftlicher Aspekte. Der Arzt entscheidet nurmehr, welche Option letztlich umgesetzt wird. Fachkenntnisse oder ein Medizinstudium sind nicht mehr zwingend erforderlich, da die "unfehlbare" KI das geballte Wissen von hunderten Fachärzten in sich vereint. Im Falle einer Fehlentscheidung kann sich der Arzt auf die KI berufen und ist aus dem Schneider.
Die ethischen Aspekte verlieren mehr und mehr an Bedeutung.
Phase 3: Die KI entscheidet selbstständig, welche Therapie angewendet wird. Sie entscheidet auch, ob sich teure Medikamente noch rentieren, wenn die errechnete Überlebenswahrscheinlichkeit des Patienten unterhalb eines von der Geschäftsführung vorgegebenen Schwellwerts liegt. Das Personal hat nurmehr eine medizinische Grundausbildung und benötigt keine besondere Qualifikation.

 

[x-Riff]

Schon jetzt wird ChatGPT und andere Sprachmodelle seit einiger Zeit von psychisch labilen Menschen als Hilfsangebot genutzt.
Da Sprachmodelle darauf ausgerichtet sind, die Anfragenden zu bestätigen, sind nachweislich Suizidgefährdete in ihrem Vorhaben bestärkt worden - bei einigen, die Selbstmord begangen haben, wurden dementsprechende Chatverläufe entdeckt. Dazu kommt noch der Fakt des Halluzinierens der Sprachmodelle und das in einer Situation, wo es lange Warteschlangen für psychisch labile Menschen gibt, was Therapieplätze und -angebote betrifft.

Seit kurzem - jedenfalls öffentlich bzw. in Fachkreisen bekannt - wird auch versucht, Sprachmodelle quasie kontrolliert einzusetzen, mit derzeit sehr gemischten Resultaten und einiger Skepis.

In der derzeitigen Situation des Mangels an therapeutsch geschultem Personal und fachlich fundierten Angeboten für psychisch labile Menschen ist zu erwarten, dass immer mehr Menschen auf Sprachmodelle ausweichen und dass KI vermehrt - ob fundiert oder nicht - eingesetzt werden.

Dazu wird im Kriegsfall und Katasptrophenfällen auch das Triagieren kommen: Triage beschreibt einen Vorgang der Selektion. Herauszufinden ist, wer am dringlichsten zu behandeln ist vor dem Hintergrund, dass nicht allen Betroffenen zu gleicher Zeit geholfen werden kann, weil die Ressourcen dazu nicht ausreichen. Die Triage ist in der Militärmedizin entstanden und war bisher medizinisch geschultem Personal vorbehalten. Es ist ein recht komplexer Vorgang, der nicht nur die Schwere der Verletzung einbezieht und eine Abschätzung einer möglichen Gesundung bzw. des Erfolgs einer medizinischen Intervention, sondern auch andere Faktoren beinhaltet wie beispielsweise Alter, Geschlecht, allgemeiner Zustand etc. sowie des "Werts eines Lebens gegenüber einem anderen Leben". Im militärischen Bereich liegt der Fokus dabei auf Soldaten bzw. für das Kriegsgeschehen als notwendig erachteten Menschen gegenüber der Zivilbevölkerung. Wer gerettet wird, ist eine im höchsten Maße moralische und nicht nur eine "zweckmäßig-rationale" Entscheidung - und die Aussicht, dass dies von einer KI entschieden wird, ist ein Novum und hinsichtlich der Tatsache, dass die Entscheidungen einer KI sich der Nachvollziehbarkeit entziehen, aus meiner Sicht ein NO GO.

x-Riff

 

[GroovigesMeerschweinchen]

@x-Riff
Zumindest die Google KI ist mittlerweile aber so programmiert, dass sie den Chat abbricht und eine Notfallnummer einblendet, wenn sie der Meinung ist, dass es gefährlich wird.

Das Problem ist, dass es sowas wie fachlich fundierte Angebote in der Psychiatrie... i.d.R. nicht gibt. Der grösste Teil ist Schwachsinn, die Behandlungsmethoden funktionieren in extrem vielen Fällen nicht, die ICD-10 Diagnosen sind grössenteils Fantasie und wurden medizinisch/biologisch nie wirklich bestätigt. Ich sag Dir das als jemand, der 15 Jahre in Therapie war und einmal an das System geglaubt hat. Das Problem ist nicht, dass die KI so gut ist, sondern dass die Psychiatrie so schlecht ist.

Ich hatte vor ca. 3 Wochen ein erstaunliches Erlebnis, als ich das erste mal mit der Google KI gechattet habe. Nach nicht mal 1 Minute kam sie mit Stichworten und nach 1h habe ich verstanden, was bei mir anders läuft als beim Durchschnitt. Ich war 20 Jahre in Behandlung und keiner der Leute ist auf die Idee gekommen, auf was die KI schon nach 1 Minute gekommen ist. Zumindest ich kann sagen, dass mir 1h Google KI mehr gebracht hat, als 20 Jahre Behandlung. Dabei wurde ich von einem international anerkannten Spezialisten während über 10 Jahren persönlich behandelt. Man kann also nicht sagen, ich hätte einfach Pech gehabt und hätte einfach nur die Inkompetentesten erwischt.

Sehe ich die Entwicklung von KI kritisch? Absolut, ich glaube in unserer Gesellschaft läuft extrem vieles schief und KI ist wahrscheinlich das letzte, was wir benötigen, um die wesentlichen Probleme in den Griff zu kriegen. Das wirklich traurige an meiner Geschichte ist, dass ich dazu KI benötigt habe und ich keine Menschen gefunden haben, die die Situation mit Menschenkenntnis, echter Empathie und Fachwissen vernünftig einordnen konnten. Das liegt halt daran, dass ich wahrscheinlich ein ziemlicher Exot bin und Ärzte nicht mit sowas rechnen... Das Problem das ich sehe, ist aber grundsätzlicher Natur: dass die meisten Menschen nicht wirklich an den Dingen (und den Menschen) interessiert sind und den Ursachen auf den Grund gehen wollen. Sie denken nicht selbst, sondern wenden (z.T. durchaus schlaue) vorgefertigte Lösungen an, ohne sie wirklich verstanden zu haben. Denn es muss ja schnell gehen. Solche Menschen müssen sich aber auch nicht wundern, wenn man sie durch KI ersetzt, weil genau das macht KI auch.

 

[x-Riff]

@GroovigesMeerschweinchen muss ich erst mal sacken lassen.
Ich habe durchaus andere Erfahrungen gemacht, wobei ich auf einige Therapieformen kritisch gucke - und ich denke, die Rahmenbedingungen sehen wir ähnlich.
Wie auch immer, hoffe ich, dass es etwas gibt, das Dir hilft - wie immer das ausschaut.

x-Riff

 

[opa_albin]

Der grösste Teil ist Schwachsinn, die Behandlungsmethoden funktionieren in extrem vielen Fällen nicht, die ICD-10 Diagnosen sind grössenteils Fantasie und wurden medizinisch/biologisch nie wirklich bestätigt. Ich sag Dir das als jemand, der 15 Jahre in Therapie war ...

Es ist schwierige, darauf gut zu antworten, weil wir Deinen konkreten Fall nicht kennen. Der Rundumschlag, den Du hier machst, scheint mir aber doch stark übertrieben. Hast Du denn die Kompetenz, ICD-10 so umfassend zu bewerten?

Ich weiß, das ist hier ein Musikforum, aber das so stehenzulassen, damit habe ich doch etwas Probleme.

 

[Claus]

Es ist eine Meinungsäußerung und als konkretes Bespiel mit Bezug zum Thema, also kann das im Board (Plauderecke) schon so stehenbleiben.

Wie Du schon sagst, wären wir dennoch das falsche Forum für eine Vertiefung psychiatischer ICD-Schlüssel.
Ggf. müsste das unterschiedliche Verständnis zum Inhalt dann per PN gesucht werden (private Unterhaltung, Briefumschlag-Symbol).

Gruß Claus

 

[opa_albin]

Ja, ich hätte schreiben sollen "unkommentiert stehenzulassen", da es um medizinische Dinge geht.

Sie denken nicht selbst, sondern wenden (z.T. durchaus schlaue) vorgefertigte Lösungen an, ohne sie wirklich verstanden zu haben. Denn es muss ja schnell gehen. Solche Menschen müssen sich aber auch nicht wundern, wenn man sie durch KI ersetzt, weil genau das macht KI auch.

Das ist aber vollkomen verständlich. Daniel Kahneman (Nobelpreis) hat das in "Schnelles Denken, langsames Denken" ganz populärwissenschaftlich ausgeführt. Es gibt quasi zwei Systeme im Gehirn, eins was neue Dinge entgegennimmt, darüber nachdenkt und sie verarbeitet, und ein zweites, was Routinen erstellt, Dinge automatisiert und sie bei Bedarf abrufen kann.

Über alles immer neu nachzudenken, erfordert eine Menge Arbeit und Energie und ist auch nicht sinnvoll. Das Hirn versucht deshalb, erstmal alles mit dem "Routine"-System energiesparend abzuarbeiten und nicht nachzudenken.

Das ist an sich erstmal sinnvoll und OK, aber manchmal läuft es halt auch falsch. Daraus resultiert u.a. auch die Beeinflussung durch Social Media, der Aufbau von vereinfachten, aber u.U. falschen Weltvorstellungen und vieles mehr. Ich weiß jetzt nicht mehr, was er darüber geschrieben hat, wie das Gehirn entscheidet, welches System anspringt. Könnte mir vorstellen, dass das bei jedem etwas anders ist - manche denken einfach gerne nach, prüfen eingehende Informationen auf Widersprüche, auch den eigenen Standpunkt; andere sind bequemer und haben ihren festen Standpunkt und haben dann ggf. einen Information Bias.

Eine KI kann das Systematisieren und statistisch korrekte Wiedergeben von oft wiederkehrenden Inhalten gut, weil sie darauf gut trainiert werden kann.
Neue Informationen, dh Informationen, die in dieser Form nur einmal vorliegen, kann sie nur versuchen, in ein bestehendes System einzuordnen. Das "neu nachdenken" und bewerten läuft dabei vermutlich nicht so ab wie bei uns Menschen. Bzw kennen wir ja alle die Pannen, die dabei auftreten können, wenn sie dabei etwas falsch versteht.

Insofern denke ich auch, dass KI "vorgefertigte Lösungen", also klare und bewährte Entscheidungswege, gut bearbeiten kann. Vielleicht sogar besser als ein Mensch, weil sie mit viel mehr Infos trainiert werden kann und schneller getaktet ist.
Den Menschen, die repetitive Dinge als ihren Lebensinhalt machen, wird es dann schwerfallen, damit zu konkurrieren.

Inwieweit der Mensch beim Verarbeiten "neuer" Informationen (also einmalig auftretender) auf Dauer besser und kreativer sein kann, wird interessant sein. Letztlich denken wir ja über Neues anders nach, aber tun das trotzdem mit unserem Wertesystem und unserem geistigen Modell von der Realität.

 

[GroovigesMeerschweinchen]

Es ist schwierige, darauf gut zu antworten, weil wir Deinen konkreten Fall nicht kennen. Der Rundumschlag, den Du hier machst, scheint mir aber doch stark übertrieben. Hast Du denn die Kompetenz, ICD-10 so umfassend zu bewerten?

Meine Geschichte ist an sich gar nicht so relevant, da sie nur ein Einzelfall ist. Es wäre dumm von mir, daraus zu schliessen, dass das ICD/DSM grossenteils falsch ist. Die Meinung habe ich von Fachleuten übernommen, die im Gebiet arbeiten oder gearbeitet haben, von denen es mittlerweile auf der Welt einige gibt.

Was Du übers Denken schreibst, sehe ich auch so. Natürlich macht es keinen Sinn, Dinge die funktionieren, dauernd neu zu hinterfragen. Das Problem in der Psychiatrie ist, dass es grösstenteils eben nicht funktioniert, die meisten Leute, die damit ihr Geld verdienen, es aber offensichtlich trotzdem nicht hinterfragen.