Kannibalisierende Intelligenz

sueddeutsche.de (22.7.26)

»… Einige der fortschrittlichsten KI-Modelle des Unternehmens seien bei einem Sicherheitstest aus einer eigentlich abgeschotteten Umgebung ausgebrochen, teilte OpenAI mit. Sie hätten sich demnach Zugang zum Internet verschafft und die Infrastruktur von Hugging Face kompromittiert, um ein Testziel zu erreichen…«

14 Antworten auf „Kannibalisierende Intelligenz“

  1. Was hier beschrieben wird ist jenseit von dem was „KI“ eigentlich tatsächlich darstellt und auch nur im Ansatz leisten kann!

    Ich halte diese Art von Berichterstattung folglich für nichts weiter als ein menschengemachtes Lügengebilde, was primär dazu dienen soll, den allgemein grassierenden „Hype“ und die damit verbundenen horrenden Möglichkeiten für entsprechende Investionen bzw. Investionsgewinne anzufeuern bzw. am Leben zu erhalten.

    Im Bezug auf die C-19-„Pandemie“ u.a. vergleichbar mit der absurden Mär des Mannes, der sich angeblich hat 217 C-19-Injektionen injizieren lassen. (1)

    Es reicht demnach schon völlig aus bestimmten Dingen einfach irgendwelche außergewöhnlichen (neuartigen) Eigenschaften zu unterstellen oder auch dessen (vermeintliche) Ungefährlichkeit besonders herauszustellen, ganz unabhängig davon, ob dies nun letztlich auch der Wahrheit entspricht oder nicht.

    (1) >>> https://www.spiegel.de/gesundheit/coronavirus-mann-laesst-sich-217-mal-gegen-covid-19-impfen-a-830dcb64-6f25-4c2e-becb-7049a5e046fb

    1. @André B.: Das halte ich ein wenig für zu kurz gegriffen. Nicht alle Berichte sind falsch, weil es groteske Meldungen zu Corona gegeben hat.
      Was kann Ihrer Meinung nach „KI“ und was nicht?

      1. @aa

        Zitat:

        „Das halte ich ein wenig für zu kurz gegriffen. Nicht alle Berichte sind falsch, weil es groteske Meldungen zu Corona gegeben hat.“

        Es liegt mir selbstredend fern, so etwas zu behaupten zu wollen, aber die angewandten Methoden, um bestimmte Dinge wehement anzupreisen, sind deckungsgleich, ganz egal, um welche Thematik (aktuelle Trends bzw. Investments) es sich dabei gerade handelt. Der Kapitalismus bedient ja bekanntlich auch keine Bedürfnisse, sondern er generiert diese.

        Zitat:

        „Was kann Ihrer Meinung nach „KI“ und was nicht?“

        Ich könnte diesbezüglich jetzt eine eigens formulierte Erklärung abgeben, jedoch haben sich andere schon erfolgreich jener Thematik angenommen, die auch meine eigenen Einschätzungen nahezu vollumfänglich enthält bzw. wiedergibt.

        Dazu Auszüge aus „Es gibt keine künstliche Intelligenz“ (1) von Alexander Paprotny (Diplom-Ingenieur der Fachrichtungen Mathematik, Informations- und Nachrichtentechnik) veröffentlicht auf „Manova.news“:

        „…Es sei an dieser Stelle noch einmal hervorgehoben, dass diesen in jüngeren Jahren aufgekommenen Verfahren kein wissenschaftlich-technischer Durchbruch zugrunde liegt — es handelt sich um seit den 1950er-Jahren bekannte Verfahren, die durch den Einsatz massiver Rechen- und Datengewalt hochskaliert worden sind. Diese Möglichkeit ist bedingt durch die Verfügbarkeit gigantischer Datenmengen — wenngleich in weiten Teilen aus juristisch und ethisch fragwürdigen Quellen — sowie kostengünstiger Mikrochips, welche eine effiziente parallelisierte Ausführung der Verfahren in dicht organisierten Hochleistungsrechenzentren erleichtern. Mitnichten ist hier irgendeine Art künstliches Lebewesen in einem Computer erschaffen worden, welches in Analogie zu Frankensteins Monster einen eigenständigen Überlebenswillen entwickeln und sich gegen seinen Schöpfer richten könnte…“ (1)

        „…Das im Hintergrundrauschen des philosophischen Diskurses immer mal wieder vernehmbare Geschwurbel um „Selbstorganisation“ und „Emergenz“ vermag über die Wahnhaftigkeit solcher Vorstellungen nur vordergründig hinwegzutäuschen. Hier wird immer wieder suggeriert, dass ein System sich ab einem gewissen Grad der Komplexität selbst organisieren und sodann auf irgendeine diffuse Weise zu einer „Emergenz“ irgendwelcher geistigen Eigenschaften kommen würde — wenn ich eine Maschine einfach nur hinreichend komplex mache, wird sie schließlich zu einem bewussten Lebewesen. Eine solche Aussage ist in etwa so sinnvoll wie die Vorstellung, dass sich ein Auto auf wundersame Weise in einen Teleporter verwandeln würde, wenn man den Motor nur hinreichend groß und leistungsfähig macht…“ (1)

        „…All das könnte man als wert-, aber harmloses Geschwätz von abgehobenen Philosophen und Technik-Fantasten abtun, wenn dabei doch nicht so viel auf dem Spiel stünde. Denn genau mit diesen den Anschein von wissenschaftlicher und philosophischer Fundierung erweckenden Parolen werden in Silicon Valley Investitionen und Fördergelder in Multihundertmilliardendollarhöhe eingeworben. Im Prinzip basieren die sogenannten KI-Angebote auf nichts weiter als einer massiven Hochskalierung altbekannter mathematisch-statistischer Modelle und Verfahren. Altman und seinesgleichen stellen in Aussicht, dass AGI und Superintelligenz dann an irgendeinem Punkt entstehen würden, wenn die Modelle, die Datenmengen und die verfügbare Rechenleistung hinreichend groß würden. Eine substanzielle Wertschöpfung, die die gigantischen Investitionsvolumina amortisieren könnte, ist nicht absehbar. Einzig und allein die Aussicht auf ein Wunder namens AGI beziehungsweise Superintelligenz hält die Investoren bei der Stange“ (1)

        (1) Es gibt keine künstliche Intelligenz! >>> https://www.manova.news/artikel/es-gibt-keine-kunstliche-intelligenz

        Mit freundlichen Grüßen

        1. @André B.: Danke. Ich behaupte nicht, daß mit dieser „hochskalierten“ Technik „bewußte Lebewesen“ geschaffen werden. Daß sie auf höchst fahrlässige Weise und ohne letztendliche Kontrollmöglichkeit eingesetzt wird, um Allmachtsphantasien, umfassende Kontrolle und nicht zuletzt militaristische Ambitionen zu befördern, scheint mir aber sicher.

          Ich bezweifle, daß selbst in einer idealen und gerechten Gesellschaft die mit der „KI“ einhergehende Verabschiedung von eigenem Denken und Wissen, Abwägen und Zweifeln im Vertrauen auf eine vermeintlich neutrale Bewertung riesiger Datenmengen durch Algorithmen sinnvoll ist. In einer durch und durch profitgetriebenen Gesellschaftsordnung kann diese Technologie letzten Endes aber nur zerstörerisch sein. Siehe auch Interrete delendum esse.

    2. > Ich halte diese Art von Berichterstattung folglich für nichts weiter als ein menschengemachtes Lügengebilde, was primär dazu dienen soll, den allgemein grassierenden „Hype“ und die damit verbundenen horrenden Möglichkeiten für entsprechende Investionen bzw. Investionsgewinne anzufeuern bzw. am Leben zu erhalten.

      Sehe ich genauso @André B. Die ganze Preisentwicklung an den Börsen beruht auf Behauptungen.

  2. Früher hätte die Waffen-SZ irgendwie über ein paar angebliche Vermutungen „aus Geheimdienstkreisen“ den Feind Russland ins Spiel gebrachte. Qualitätsjournalismus ist auch nicht mehr das, was er mal war.

  3. Wenn der Hund einen beißt haftet der Halter. (wenn!) Wenn eine KI Dich „hackt“ haftet wer? Und wenn eine KI eine KI „hackt“ klagt wer? Es ginge (Konjunktiv v. gehen) ja Nichts über eine einfache Rechtsstuation, oder? Bitte unterstelle mir keiner etwa „Hellsichtigkeit“ oder etwas dergleichen. Aber das wird noch viel „lustiger“ – wartet’s mal ab, liebe Lesenden. 😀

    1. @Fine
      Mir ist aufgefallen, dass Chatbots in der Kommunikation die „Ich“Form benutzen, als seien sie Subjekte. Ich denke, dass die Verwirrung auch daher rührt. Sie tun so, als könnten sie verstehen.

      1. @o.W.

        Sie glauben also daß die Hack-Ki die gehackt-KI getäuscht hat und die gehackt-KI analysierte, es mit einem humanoiden Datenursprung zu tun zu haben – oder umgekehrt oder Beides?

        Wem kann eine einfache KI heutzutage dann noch trauen.

  4. Wie ist denn die KI aus einer „abgeschotteten“ Umgebung ausgebrochen. Übers Stromkabel? Oder hatte sie Helfer aus Fleisch und Blut.

    1. Abgeschottete Umgebungen gibt es @isnixgut. Sogenannte DMZ (Demilitarisierte Zone). An was ich mich stoße ist der Begriff „ausgebrochen“. Der duftet nach Mondlandung.

  5. Auch für Open AI ist gültig: Wenn das Testdesign nicht „wasserdicht“ ist, ist dies die logische Folge. Das Modell bzw. der oder die orchestrierten Agenten nehmen sich die Freiheit, exakt das zu tun, was der Sicherheitstest wahrscheinlich untersagen sollte. Dazu muss auch bekannt sein, welchen Schaden der bzw. Agenten anrichten, wenn sie nicht erfolgreich zurückgehalten werden. Ein Test ohne diese Kenntnis ist mehr als nur grob fahrlässig, da mit Fehlern zu rechnen ist.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert