Wenn die KI nicht existierende Studien anführt

Wir sehen eine bemer­kens­wer­te Weiterentwicklung der Lauterbachschen Technik. Der "SPD-Gesundheitsexperte" hat­te immer­hin noch vor­ge­ge­ben, rea­le Studien gele­sen zu haben, auch wenn das nach­weis­lich nur sel­ten zutraf.

faz​.net (22.5.25, Bezahlschranke)

»… Open AI ent­deck­te ein über­ra­schen­des Problem: Je lei­stungs­fä­hi­ger die neu­en Modelle wer­den, desto häu­fi­ger erfin­den sie Fakten. Open AI hat die­ses Problem in einem tech­ni­schen Bericht offen­ge­legt. Das Unternehmen teste­te zwei neue, expe­ri­men­tel­le Modelle – mit ernüch­tern­den Ergebnissen.

Das Modell „o3“ erfand in 33 Prozent der Fälle Informationen über rea­le Personen. Sein Nachfolger „o4-mini“ lag sogar in 48 Prozent der Fälle dane­ben. Ein Rückschritt: Die älte­ren Systeme waren zuverlässiger.

Warum macht ein ver­meint­lich klü­ge­res Modell mehr Fehler? Die Forscher rät­seln noch. Eine Theorie: Je aus­führ­li­cher die KI ihre Antworten begrün­det, desto mehr Gelegenheiten hat sie, Fehler ein­zu­bau­en. „Die Art des Lernverfahrens bei den o‑Modellen ver­stärkt mög­li­cher­wei­se Probleme, die nor­ma­ler­wei­se abge­mil­dert wer­den“, sagt Neil Chowdhury, Forscher bei Transluce. In Tests erfand das System sogar Handlungen – etwa einen Computercode, den es angeb­lich aus­ge­führt hatte.

Die Halluzinationen tref­fen die Branche an einem emp­find­li­chen Punkt. Banken testen KI-Systeme für Finanzanalysen, Anwaltskanzleien für Vertragsprüfungen, Pharmafirmen für Medikamentenforschung. Doch was, wenn die KI Bilanzzahlen erfin­det? Wenn sie Gesetzestexte falsch zitiert? Wenn sie nicht exi­stie­ren­de Studien anführt oder rei­hen­wei­se Zitate Personen in den Mund legt, die gar nicht existieren?

Ein Beispiel aus der Praxis: Ein Krankenhaus teste­te ein KI-System für Patientenakten. Das Modell erfand in sei­nen Zusammenfassungen Symptome und Behandlungen. „Solche Fehler kön­nen Leben gefähr­den“, warnt Open AI in sei­nem Bericht. Die Entwickler ste­hen vor einem Rätsel: Mehr Sicherheitskontrollen machen die Systeme lang­sa­mer. Zu vie­le Einschränkungen machen sie nutz­los…«

11 Antworten auf „Wenn die KI nicht existierende Studien anführt“

  1. Ach Gottchen, immer die­se «Rätsel» vor denen Entwickler, Experten und der­glei­chen Leute ste­hen! – «Impfungen» hel­fen nicht gegen eine ein­ge­bil­de­te Seuche und «künst­li­che Intelligenz» lei­det unter «Model Autophagy Disorder» (MAD). Na dann!
    https://​over​ton​-maga​zin​.de/​t​o​p​-​s​t​o​r​y​/​k​i​-​v​e​r​l​i​e​r​t​-​v​e​r​s​t​a​n​d​-​w​e​n​n​-​s​i​e​-​n​u​r​-​m​i​t​-​k​i​-​g​e​n​e​r​i​e​r​t​e​n​-​d​a​t​e​n​-​t​r​a​i​n​i​e​r​t​-​w​i​rd/

  2. "Ein Krankenhaus testete …"

    Vielleicht war die KI so klug, dass sie die gehei­men Wünsche ihrer Anwender erkannt, und Symptome und Behandlungen gene­riert hat, um zusätz­li­che Abrechnungen mit der Kasse zu ermöglichen.

  3. Das angeb­lich "über­ra­schen­de Problem", über das die faz hal­lu­zi­niert, ist seit Jahrzehnten bekannt unter der all­ge­mei­nen Bezeichnung "big data bias".

  4. Das ist genau wie im Rechtswesen. Wenn eine Aussage a la Lauterbach als "Authentisch" gekenn­zeich­net wird, ist sie authen­tisch. Das ist logisch eigent­lich sehr ein­fach zu ver­ste­hen, mei­nes Erachtens sogar im Rechtswesen.

    Der kür­ze­ste Weg zu den­ken, ist mei­stens der Richtige. Denken Sie mal drü­ber nach. Ist das nun schon wie­der anma­ßend, oder was?

    Kann man direkt ant­wor­ten. (Rhetorisch)

    In Politik und Werbung, wird die Häufigkeit der Aufwürfe höher bewer­tet. Auch wenn die Aussage der rein­ste Müll ist. In der EDV besitzt man die Möglichkeit direkt und indi­rekt zu kenn­zeich­nen – viel bana­ler als in der Sprache, trotz­dem nicht weni­ger raffiniert.

    Wie bereits ange­deu­tet. Es ist die "Kommunikation" wel­che es "an den Tag bringt". Nicht das Gfootzelle. – n'est pas (hät­te Romanfigur Poirot wohl noch angefügt?)

  5. > Je lei­stungs­fä­hi­ger die neu­en Modelle wer­den, desto häu­fi­ger erfin­den sie Fakten.

    Ja genau: Die Lügen wer­den immer drei­ster. Nur hat das mit KI nichts zu tun.

  6. Schon die Bezeichnung KI ist ein Fehler. Es hat nichts mit Intelligenz zu tun Daten zu sam­meln und irgend­wie zusam­men­zu­füh­ren. Ich ver­ste­he den Hype dar­um nicht. Es führt nur dazu, daß sich Denkfaulheit breit macht und Menschlichkeit auf der Strecke bleibt.

  7. https://www.t‑online.de/nachrichten/ausland/usa/id_100732872/handelsbeziehungen-von-der-leyen-spricht-von-gutem-telefonat-mit-trump.html#focus‑0

    Ich mag das Portal T‑Online nicht sehr, weil sie für Impfen und Kämpfen Reklame machen. Aber das hier ist ja wirk­lich mal pri­ma. Deren K.I. hat die­ses Foto kon­stru­iert. Was fällt da auf?!

    🙂

    Der ame­ri­ka­ni­sche Präsident und die Kommissions-Uschi haben die­glei­che oder fast die­sel­be Frisur. Das ist ja mal ein super K.-I. – Ergebnis!!! Beide den­sel­ben Friseur? Blond und geföhnt?

    Made my Day.

  8. https://​www​.kran​ken​kas​sen​.de/​d​p​a​/​4​5​3​5​1​6​.​h​tml

    Vielleicht waren auch sämt­li­che Coronatests nur künst­lich? Aus K.I.? 🙂 Ich sage nur: Lamborghini zum Schnäppchen-Preis von 140.000 Euro ergau­nert mit künst­li­chen Testabrechnungen bei den Krankenkassen. Wenn es nicht so trau­rig wäre, ich kann dar­über lachen, denn ich habe jeden Test auf Coronaviren erfolg­reich ver­mie­den. An mir haben die nichts ver­dient. Andererseits ist es schon ärger­lich, weil ja auch für Covid-Testverweigerer, wie ich es bin, die Krankenkassenbeiträge vor kur­zem erhöht wur­den. Ich zah­le sozu­sa­gen antei­lig den Lamborghini, den ergau­ner­ten mit.

    Rein optisch fin­de ich, ist es schon ein fas­zi­nie­ren­des Auto, so vom Design her, aber des­halb andau­ernd falsch-posi­tiv und falsch-nega­ti­ve Coronatests irgend­wie zu gene­rie­ren? Je mehr falsch-posi­ti­ve Tests, desto mehr wur­de den Un-"geimpften" ange­droht: Ihr seid schuld an der schlim­men, schlim­men Lockdown-Situation. 

    NEIN, WAR ICH NICHT. Ich war eben NICHT Schuld an den künst­li­chen Inzidenz-Zahlen. Es waren die Testbetrüger, auch die betrü­gen­den Testentwickler, die betrü­gen­den Labore. Woher weiß ich denn, ob alle Drosten-Tests nicht auch K.I. waren? Künstliche Intelligenz erzeugt künst­li­che Krankheiten, künst­li­che Symptome oder sogar GAR KEINE Symptome! Wenn ich so drü­ber nach­den­ke, wie­viel Leute ich womög­lich mit mei­nen Aerosolen getö­tet haben könn­te, so sym­ptom­los wie ich seit 2020 war und bin ( mit weni­gen Tagen Ausnahme). 

    🙂

    Symptomlos krank, kom­plett gesund, aber infi­ziert und eine Gefahr für alle. Das gibt es nicht im ech­ten Leben, das ist nur K.I. Oh, Moment, drau­ßen hat es gera­de Donner und Blitz gege­ben, gleich folgt Regen. Ich muss mal nach­se­hen, ob das wahr ist oder ledig­lich künst­li­ches Geo-Engineering. Gezielte Wettermanipulation mit Chemie – und das heißt dann: men­schen­ge­mach­ter Klimawandel. Mich hat nie­mand "geimpft", zur Strafe dafür müs­sen die Wolken geimpft werden. 

    https://www.bundestag.de/resource/blob/1015566/a099641d0a344663f40737b9347ea8e4/WD‑5–095-24-pdf.pdf

    ~ ~ ~

    1. https://​www​.kran​ken​kas​sen​.de/​d​p​a​/​4​5​3​5​3​0​.​h​tml

      KI! Die Patienten wis­sen nicht, wie gesund oder krank sie sind, daher: K.ünstliche I.ntelligenz!! Wo kom­men wir denn dahin, wenn Patienten selbst ent­schei­den, ob oder ob nicht sie zu irgend­ei­nem Arzt gehen. Das geht gar nicht. 

      🙂 🙂 🙂 🙂 🙂 🙂

      Auszug:
      «Wir sind das ein­zi­ge Land der Erde, was es tat­säch­lich dem Patienten allei­ne über­lässt zu ent­schei­den, wohin er sich mit sei­nen Beschwerden wen­det», sag­te Reinhardt. Medizin sei hoch­kom­plex und arbeits­tei­lig. Den Patienten allein sei oft nicht ersicht­lich, wo sie am besten auf­ge­ho­ben seien.
      Auszug aus dpa

      Man könn­te dazu auch sagen: vie­le Köche ver­der­ben den Brei. Oder halt den Patienten. Dieser Dschungel! Dieses Dickicht! Ja, so ist das mit den sym­ptom­lo­sen Hexen oder Teufeln. Die hei­len sich womög­lich selbst mit ihren eige­nen Methoden – und das geht ja erst recht nicht. Also K.I. für alle.

Schreiben Sie einen Kommentar

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert