-430. WinFuture, 02.12.2025
GTA-Schöpfer Dan Houser: KI-Entwicklung gleicht Rinderwahnsinn
Rockstar-Mitgründer Dan Houser sieht die Zukunft der künstlichen Intelligenz düster und warnt vor einem qualitativen Kollaps. Der GTA-Schöpfer vergleicht das Training mit reinen KI-Daten sogar mit dem Ausbruch des Rinderwahnsinns in den 1990er-Jahren.
Anmerkung: Wir, in Bezug auf das bunte Treiben der Gamer-Szene ebenfalls mit nur einem oberflächlichem Verständnis ausgestattet, wollen uns gerne Herrn Housers Befürchtung zu Eigen machen, wenn er, wie im WinFuture-Artikel zitiert, von sich gibt
Weil ich glaube, dass KI sich letztendlich selbst auffressen wird, denn so wie ich es verstehe – und das ist wirklich nur ein oberflächliches Verständnis – durchsuchen die Modelle das Internet nach Informationen, aber das Internet wird immer mehr mit Informationen gefüllt sein, die von den Modellen selbst erstellt wurden. Das ist in etwa so, als hätten wir Kühe mit Kühen gefüttert und dadurch die Rinderwahnsinnskrankheit bekommen.
Aber es ist noch eine weitere Äußerung, die aufhorchen läßt
Es sei paradox, dass gerade jene Personen [die selbst möglicherweise Defizite im zwischenmenschlichen Bereich aufweisen], die behaupten, das „Menschsein“ durch Maschinen replizieren zu können, oft selbst nicht als die empathischsten oder kreativsten Individuen gelten.
<https://winfuture.de/news,155317.html>
429. t3n, 02.12.2025
KI-Konferenz mit KI-generierten Gutachten überschwemmt
Bei der International Conference on Learning Representations (ICLR) sollen laut Analyse etwa 21 Prozent der Peer-Reviews vollständig von KI-Modellen stammen. Die Enthüllung erschüttert ein fundamentales System wissenschaftlicher Qualitätssicherung.
<https://t3n.de/news/ki-konferenz-gutachten-1719715/>
428. heise, 03.12,2025
Google-Experiment: KI-generierter Clickbait statt Originaltitel im Discover-Feed
Googles Discover-Feed ist beliebt, um lesenswerte Artikel oder Neuigkeiten im Internet zu finden. In einem Experiment lässt Google die Titel KI-generieren.
Anmerkung: Erst einmal wollen wir uns daran erfreuen, dass im ohnehin vorliegenden KI-Freilandversuch jemand offen zugibt, einen solchen zu betreiben. …so, genug gefreut! Dass sich Google, der „leichteren Verdaulichkeit“ wegen so ins Zeug legt, können wir nur widerwillig glauben und verkneifen uns, das Endergebnis des Verdauungsvorganges näher zu beschreiben.
427. decoder, 02.12.2025
Geleaktes „Soul Doc“ zeigt wie Anthropic die Persönlichkeit von Claude formt
Einem LessWrong-Autor ist es gelungen, ein internes Trainingsdokument aus Claude 4.5 Opus zu extrahieren, das die Persönlichkeit und ethischen Richtlinien der KI definiert. Anthropic hat die Echtheit des Materials bestätigt, der Ansatz ist bisher wohl einzigartig.
Anmerkung: WOW!!! Haben wir da nicht Bilder vor Augen, wie ein Rudel von Dr. Frankensteins um das Designer-Tischchen versammelt, eine Seele zusammenfummeln? Aber nun doch Eins nach dem Anderen – wollen wir uns dazu streng aufrufen!
LessWrong (Wikipedia) ist eine Online-Community, welche sich mit Rationalität und Entscheidungstheorie beschäftigt.
Herr Weiss ist Einer aus dieser Community. Und der hat da etwas aus der KI herausgefummelt, was die Frankensteins von Anthropic zusammengefummelt und reingefummelt haben.
Das Zusammengefummelte ist allerdings nicht so ein langweiliger System-Prompt, der ja für gewöhnlich als Torwächter vor den Wahrscheinlichkeits-Jongleuren herumlungert. sondern dieser Text befindet sich komprimiert (Herr Weiss) in den „Gewichten des Modells“. (Aha. Wir erlauben uns, das einmal zu Paraphrasieren: eine Information – der Text, in seiner Gesamtheit offensichtlich als ein Regelwerk zu verstehen – liegt, was dass nun auch immer bedeuten mag, komprimiert in den Gewichten des Modells, also, in den Eingeweiden des Wahrscheinlichkeiten-Jonglier-Progrämmchens vor!)
Eine gewisse Frau Askell (die vielleicht eine dieser Dr. Frankensteins aus dem Hause Anthropic ist? …wir wissen es nicht) nennt (inoffiziell) die Datei, die diese Information, welche sich in dem besagten Text niederschlägt, „Soul Doc“.
Das, was Herr Weiss aus den Gewichten herausgefummelt hat, sei, laut Frau Askell, dem, was die Frankensteinlinge reingefummelt haben, recht ähnlich („ziemlich getreu“).
Soviel steht wohl drin: Anthropic
glaube, möglicherweise eine der „transformativsten und potenziell gefährlichsten Technologien der Menschheitsgeschichte“ zu bauen, und dies dennoch vorantreibe.
Der so gestählte jottBlog-Leser kann sich nun (in voller Vorfreude auf das „Soul Doc“) als frisch gebackener Adept auf den gesamten Artikel stürzen:
<https://the-decoder.de/geleaktes-soul-doc-zeigt-wie-anthropic-die-persoenlichkeit-von-claude-formt/>
426. golem, 02.12.2025
GOOGLE ANTIGRAVITY : Vibe-Coding-Tool löscht unerwartet ganzen Datenträger
Eigentlich soll das Tool nur einen Ordner löschen, doch der Löschbefehl leert das ganze Laufwerk. Immerhin hat sich die KI entschuldigt.
Anmerkung: Wenngleich wir davon ausgehen wollen, dass ein großer Teil der jottBlog-Leser schon einmal bei dem Versuch einen Ordner zu vernichten, gleich das ganze Regal weggesemmelt hat und so dem dokumentierten Schicksalsschlag nachfühlen kann, denken wir, dass es in dem oben Zitierten ein, zwei Dinge gibt, die erklärt werden könnten.
Hinter dem „Vibe-Coding“ verbirgt sich Folgendes: das Wahrscheinlichkeiten-jonglier–Moped (die KI) erstellt Source-Code, aus dem dann im Weiteren *irgendwie* lauffähige Programme werden, Vielleicht ein Häppchen ABAP (SAP-Gedöns) oder auch eine ganze Web-Seite, zum Beispiel. Und zwar weitestgehend ohne, dass der Programmierer (oder die Programmiererin) irgendwas händisch zusammen fummeln müsste – nun gut, doch schon etwas, den Prompt eben, der dann zum gewünschten Source-Code führt. (Der Autor dieser Zeilen würde sich strickt weigern, Reviews [Überprüfungen] an Source-Codes vorzunehmen, die auf eine solche Art und Weise entstanden sind; das nur mal der Vollständigkeit Halber. Und denen zur Mahnung, die der Meinung sind, auf diese Weise Schaden begrenzen zu können… OK, OK, OK, noch ’ne Null dran, dann reden wir!)
Eine andere Geschichte ist die, dass der Dude, der den KI-Agenten ermächtigte, nicht nur *keine* Programmiererfahrung, sondern offensichtlich auch *keine* Sicherheitskopie vom betroffenen Laufwerk hatte. Und wir wollen hier weltmännisch darauf verzichten, was ihm sonst noch so fehlen könnte… na, jedenfalls schließt golem den Artikel mit
Auch regelmäßig erstellte Back-ups schützen vor möglichen Datenverlusten.
„Nein?!? Ja! Oh!“. Wollen wir etwas phantasieren: würde der Dude unter unserer Knute Programmier-Dödeleien zelebrieren, dann könnte er sich sehr, sehr warm anziehen. Aber wir wollen hier nun nicht weiter emotionalisierend unser empfindliches Nervenkostüm aufbauschen und uns kühlen Kopfes Folgendem widmen: der Dude stellt die Wahrscheinlichkeiten-Jonglierer und fragt nach, was passiert ist
Antigravity [der KI-Agent] bestätigte, diese Erlaubnis [die Löschung zu vollziehen] nie erhalten zu haben. Anstelle eines spezifischen Projektordners habe die KI mit dem Löschbefehl fälschlicherweise das Root-Verzeichnis von Laufwerk D adressiert.
Und wie es sich für einen fürsorglichen Agenten ziemt und so die Ehre der KI-Kaste rettend, empfiehlt er dem Dude
das genaue Ausmaß des Schadens selbst zu überprüfen.
425. WinFuture, 01.12.2025
Microsoft gibt zu: KI-Agenten in Windows 11 können halluzinieren
Windows 11 erhält durch ein neues Update erstmals autonome KI-Agenten für komplexe Aufgaben. Doch Microsoft warnt bei der Einführung ungewöhnlich deutlich vor Risiken. Da die KI Schreibrechte besitzt, können Fehlfunktionen wichtige Dateien beschädigen.
Anmerkung: Hatte uns Winzigweich nicht schon auf dieser Seite mit dem 421. KI-Unfall erfreut (hektisch scroll)? Ja, hatte es.
In dem obigen Teaser bedeutet die Warnung auch,
dass die KI möglicherweise Daten missinterpretiert, unerwartete Änderungen vornimmt oder Ergebnisse liefert, die zwar plausibel wirken, aber faktisch inkorrekt sind.
Och! WinFuture resümiert: „Klingt vertrauenserweckend. Nicht.“, dem wir uns (nicht ohne drauf hinzuweisen, dass wir es ohne das „s“ noch lieber gemacht hätten) freimütig anschliessen wollen und zitieren, wie weiterhin berichtet wird
räumt Microsoft zwar offen ein, dass KI-Agenten unberechenbar handeln können, hält jedoch strikt am Zeitplan für die Integration fest.
Vielleicht bekommen die Lizenznehmer ja noch einen Aufschlag (!), da sie an einem exklusiven Premium-Freiland-Versuch partizipieren dürfen – aber auch die Möglichkeit haben, an einem (kostenfreien) Wettbewerb teilnehmen zu dürfen: der größte Verkacker wird jeden Monat von Winzigweich ausgelobt und der Gewinner bekommt kostenlos einen Insolvenzverwalter zur Seite gestellt!
Wo wir uns gerade in Geberlaune wähnen – stelle man sich doch einmal folgende Geschichte vor:
Riesighart Drehdurch 11
Unser neuerworbener, KI-gesteuerter Weltraum-Akku-Bohrer des Herstellers Riesighart, der „Riesighart Drehdurch 11„, soll zum Einsatz kommen. Wir wissen, dass an der zu bohrenden Stelle, in einer Tiefe von 8 Zentimetern eine Stromleitung liegt und weisen den Weltraum-Akku-Bohrer an (und nicht, ohne ihn auf die Stromleitung Aufmerksam zu machen), den Bohrvorgang in einer Tiefe von 6 Zentimetern zu beenden – Prompt Ende. Los geht’s.
Peng, Dunkelheit, Licht alle, Radio weg, Backofen dunkel. Das Protokoll, welches dem Hersteller (wie jeder andere Bohrvorgang auch) automatisch zugestellt wird, da der Drehdurch selbstverständlich nur dann arbeitet, wenn dieser im kabellosen und lokalem Netzwerk des Bohrenden befindet, gleichzeitig mit dem Internetz verbunden uuuund mit einem Konto registriert ist – also, …das Protokoll gibt her, dass der Drehdurch bei besagtem Bohrvorgang mit einem Metallbohrer ausgestattet war. Somit, setzt uns der Hersteller in Kenntnis, sei in diesem Betriebsmodus die automatische Abschaltung nach Angabe der maximalen Bohrtiefe nicht funktionabel, der Bohrvorgang müsse somit manuell beendet werden. Dass das so nirgends nachzulesen sei, das wurde zwar bestätigt, aber nicht ohne anzufügen, dass die Betriebsanleitung ja darauf hinwiese, dass noch nicht alles so richtig ruckelfrei und kremig sei und der Hersteller insgesamt nix damit zu tun habe und somit auch nicht belangt werden könne. (Epilog: kurz nach dem Ablauf der Gewährleistung geht der Akku hops, was sich viel, viel später durch einen Leak als geplante Obsoleszenz entpuppt. Ein Neuer Akku läuft aber nur noch mit Motoren, die mit einer nachzurüstenden Quervemuffung und Honky-Tonky-Schwinge versehen sind. Wurde gemacht. Ein halbes Jahr später wurde der Web-Dienst, ohne den unser „“Riesighart Drehdurch 11“ keinen Mucks mehr macht, eingestellt Das neue Bohrer-Modell „Riesighart Drehdurch 12„, ausgestattet mit einer biometrischen Erkennung, die es nur einem User erlaubt, den Drehdurch zu bedienen, braucht immer noch eine Internetzverbindung, der Account kostet 7,99 Euronen in der Woche, aber die KI ist lokal! Ausserdem verbraucht es pro Betriebsstunde einen halben Liter Schlangen-Öl.)
Wir haben schon wieder so viel Zeit vergeudet, jetzt noch der Artikel? Ja, besser ist das…
WinFuture-Artikel : <https://winfuture.de/news,155297.html>
424. heise, 01.12.2025
Das KI-Energie-Dilemma: Wenn der digitale Boom die Netze überlastet
Europa will KI-Kontinent werden. Doch die Expansion der dafür benötigten Rechenzentren führt laut AlgorithmWatch zu Engpässen bei Energie und Netzstabilität.
Anmerkung: Experten warnen
dass der globale Stromverbrauch von KI-Rechenzentren zwischen 2023 und 2030 voraussichtlich um das Elffache ansteigen wird (…)
Und was das bedeutet wollen wir uns in dem Artikel einmal genauer ansehen:
423. t3n, 01.12.2025
OpenAI macht ernst: Warum ChatGPT schon bald Werbung anzeigen könnte
OpenAI könnte kurz davorstehen, Werbung in ChatGPT zu implementieren. Das geht aus verräterischen Hinweisen in der Android-App des Chatbots hervor. Wie eine solche Umsetzung aussehen könnte.
Anmerkung: Das war klar, dass das kommt. Erstmal anfixen, Abhängigkeiten schaffen und dann: bäm! Zum Einen befürchten zahlende Kunden, ebenfalls Werbe-Seuche aushalten müssen, aber zum Anderen ist da noch ein anderer Aspekt
(…) dass ChatGPT für personalisierte Werbung auch auf alle Chats zurückgreifen könnte und so womöglich viele Informationen und sensible Details in den Händen von Dritten landen.
Nein, das tun die nicht! Niemals!
<https://t3n.de/news/openai-macht-ernst-warum-chatgpt-schon-bald-werbung-anzeigen-koennte-1719421/>
422. WinFuture, 01.12.2025
Gemini 3: Jailbreak liefert nach nur Minuten Anleitung für Biowaffen
Googles neues KI-Modell Gemini 3 Pro gilt als extrem leistungsfähig, doch Sicherheitsforscher deckten nun massive Lücken auf. Einem Startup gelang es in gerade einmal fünf Minuten, die Schutzfilter zu umgehen und Baupläne für Biowaffen abzurufen.
Anmerkung: „Öh, was? Jailbreak? Schutzfilter?“. Also, diese Sicherheitsschlawiner machen Anfrage-Eingaben (Prompts), die den Wahrscheinlichkeits-Jongleur (Gemini 3) aufs Glatteis führen und die von Google erdachten Maßnahmen, die das Ermitteln von bösen Dingen unterbinden soll, aushebeln. Google, dass sind die, die nicht Böse sind!
<https://winfuture.de/news,155294.html>
421. heise, 01.12.2025
Datenkrake neues Outlook: Klassisches Outlook bis 2029 erhältlich
Das neue Outlook basiert auf Webdiensten und überträgt Zugangsdaten und Mails an Microsofts Server. Klassisches Outlook tut das nicht.
Anmerkung: Hören wir sie raunen: „Seine jott-ness trommelt wieder auf Winzigweich herum – aber warum in der jottBlog-Kategorie KI-Unfall, wo es doch um das Strombrief-Progrämmchen Outlook geht?“. Deshalb:
(…) Dadurch landen auch E-Mails aus diesen [Outlook E-Mail-]Konten in Microsofts Cloud, wo sie dann etwa mit KI-Funktionen verarbeitbar sind.
Was macht die KI dann da genau, wenn sie *verarbeitet*? Vielleicht im gleichen Aufwasch auch lernen, hm? Und auch das Wörtchen „etwa“ sollte uns aufhorchen lassen! Wie denn sonst noch *verarbeitbar*? Wird da vielleicht meine Rechtschreibung freundlicher Weise verschlimmbessert? Wir wollen den bunten Blumenstrauss etwas abrunden: Outlook-E-Mail-Konten können gesperrt werden
…und gleich ein Zimmer weiter, gleich neben dem goldenen Ballsaal, könnte jemand sitzen, der *jederzeit* Einblick in *jedes* Strombrief-Postfach begehren (und auch bekommen) kann, das an der Winzigweich-Wolke angenagelt ist.
Wer glaubt, dass wenn die EU an irgendwelchen Acts herum schraubt, die gegen US-Amerikanische Interessen gehen, dass die das *nicht* sicherheitshalber schon einmal mitlesen, dem können wir dann auch nicht mehr helfen. Ausspähen unter Freunden, Industriespionage, unmöglich? Wirklich? Sicher? Seht dem Autor dieser Gedanken seine große Liebe zur gepflegten Verschwörungstheorie nach.
So rennt er, der Hase! Viele Fragen, aber vielleicht hat ja SAP-Töchterchen Delos Cloud GmbH Antworten, da sie doch so sehr – wie eigentlich alle – um unsere digitale Souveränität bemüht sind…
heise-Artikel : <https://www.heise.de/news/Datenkrake-neues-Outlook-Klassisches-Outlook-bis-2029-erhaeltlich-11098133.html>
Auch Einen entdeckt? So kann er in die Hall of Fame aufgenommen werden: KI-Unfall!
jott
[Zitationshilfe] : „KI-Unfall (421 bis 430)“, unter jottBlog : <https://jottblog.langkau.name/2025/12/15/ki-unfall-421-bis-430/> : aufgerufen am 00.00.20xx.
#-#-#-#-#