120. heise, 29.08.2025
Ransomware und Angriff auf NX: Kriminelle führen KI-gestützte Attacken durch
Nicht nur in der Theorie, sondern auch in praktischen Angriffen tauchten Hinweise auf KI-Nutzung durch Cybergauner auf.
<https://www.heise.de/news/Ransomware-und-Angriff-auf-NX-Kriminelle-fuehren-KI-gestuetzte-Attacken-durch-10625377.html>
-119. heise, 29.08.2025
Microsoft kündigt erste eigene KI-Modelle an
Microsoft hat eigene KI-Modelle veröffentlicht, mit denen der Konzern sich unabhängiger von OpenAI mache könnte.
Anmerkung: es ist eine gewisse Polemik zu entschuldigen, aber wir alle wissen, was passiert, wenn Winzigweich loslegt! Dieser Artikel ist auch für diejenigen unter uns interessant, die sehen wollen, wie sich OpenAI und Winzigweich separieren – und aus welchen Gründen.
<https://www.heise.de/news/Microsoft-kuendigt-erste-eigene-KI-Modelle-an-10625389.html>
-118. heise, 29.08.2025
Vivaldi will keine KI-Agenten im Browser
Wer KI-Agenten im Browser nutzt, lasse Big Tech entscheiden, was man sieht, sagt Vivaldi. Man sei nur noch ein passiver Zuschauer.
Anmerkung: ist kein KI-Unfall. Deswegen spendiert jottBlog bei solchen Fällen auch ein Minus-Zeichen im Index. Warum trotzdem listen? Weil in diesem Artikel das ein und andere versteckt ist, zum Beispiel das Zugeben von Schadwirkung, wie zum Beispiel OpenAIs CEO Sam Altman feststellt
man solle den ChatGPT Agent nur bedingt nutzen – denn er mache Fehler, für die es bislang auch keine Lösung gäbe
<https://www.heise.de/news/Vivaldi-will-keine-KI-Agenten-im-Browser-10625277.html>
117. t3n, 29.08.2025
Kann KI das Metaverse retten? Meta setzt auf sprechende Avatare in Horizon Worlds
Bisher glichen Besuche in virtuellen Welten oft einem Spaziergang durch eine leere Filmkulisse. Meta will das nun ändern – mit Gesprächspartnern, die nicht aus einem Skript lesen, sondern zuhören und reagieren.
Anmerkung: Warum es dieser Artikel in die Kategorie „KI-Unfall“ geschafft hat?
„Metaverse“ : Vermutlich zucke(r)n jetzt viele Leser mit den Schultern. Also, immerhin hat Herr Zuckerberg vor ein paar Jahren mit dieser tollen Idee, ein digitales Parallel-Universum haben zu wollen (Horizon Worlds), gleich auch seinen Laden in „Meta“ umbenannt und begann an einer VR-Brille herumzufummeln. Seine tolle Idee fanden aber nicht alle (auch nicht seine eigenen Mitarbeiter) so richtig toll, weswegen das nun kein Schwein mehr interessiert. (Die Älteren unter uns erinnern sich noch an das Metaversum Second Life? Damals wurde ich gefragt, ob man da als Unternehmen vertreten sein sollte; andere waren es schon, IBM, zum Beispiel, hatte einen *Meetingroom*, kein Quatsch! Und die Währung „Linden-Dollar“ (29.08.2025, 1 LD = 0.0031 USD) tauchte in den Feuilletons auf.) Jetzt das Metaverse? Teurer Unfall!
„KI“ : Nun gedenkt Meta im Metaverse „Horizon Worlds“ Non-Player Characters (NPCs, so nennt man alle Freggels in Computerspielen, die nicht von einem User gesteuert sind), diese leblosen Script-Zombies mit KI aufzubrezeln. Und hier ist der Unfall: schon die blöde Konsole lässt viele User abdriften (siehe: KI-Unfall 109), was meinen wir wohl, was passiert, wenn der ohnehin etwas schiefe Kompass von Jan-Malte Maximilian auf die leicht gekleidete und sehr, sehr einfühlsame Brünette trifft, von der er sich mal so richtig verstanden fühlt, und die in der Lage sein sollen
dynamische und „lebensechte” Gespräche mit menschlichen Spieler:innen zu führen
…was wird passieren, hm? (#Re-vorab)
Wie wäre es denn mit Folgendem: wir lesen
Entwickler:innen können diese neuen NPCs bald (über den Worlds Desktop Editor) erstellen und detailliert anpassen.
…na prima, dann mal los und alle an die Tastatur! Hütte voll, toll! Lauter KI-NPCs können sich dann gegenseitig mit dynamischem und lebensechtem Gequassel über den Tag retten!
Metaverse plus KI? Wollen wir darin einen weiteren Lieferanten für unsere beliebte jottBlog-Kategorie sehen, das wäre dann zumindest schon mal wenigstens ein Mehrwert…
Unvorhersehbare KI-generierte Dialoge bergen ein Potenzial für problematische oder unerwünschte Interaktionen, dessen Handhabung eine anspruchsvolle Aufgabe darstellt.
<https://t3n.de/news/meta-horizon-worlds-ki-npcs-1704688/>
116. netzpolitik, 28.08.2025
Datenweitergabe an die Polizei : Eure Chats mit ChatGPT sind nicht privat
Menschen vertrauen ChatGPT intimste Informationen an. Der Hersteller scannt die Chats, lässt sie von Moderator*innen lesen und gibt sie in bestimmten Fällen sogar an die Polizei weiter. Das hat das KI-Unternehmen Open AI als Sicherheitsmaßnahme nach einem Suizid eines Nutzers verkündet.
Anmerkung: Genau unser Humor:
In Fällen, in denen die Moderator*innen Dritte in Gefahr sehen, könnten die Chats auch an die Polizei weitergegeben werden, schreibt OpenAI. In Fällen von Selbstgefährdung würde die Polizei allerdings außen vor gelassen, aus Respekt vor der Privatsphäre der Betroffenen. Grund sei die „einzigartig private Natur“ der Interaktionen mit ChatGPT.
…bitte nicht mit diesem Zitat befriedigt sein, denn der netzpolitik-Artikel hat noch mehr im Köcher:
<https://netzpolitik.org/2025/datenweitergabe-an-die-polizei-eure-chats-mit-chatgpt-sind-nicht-privat/>
115. decoder, 28.08.2025
Anthropic kooperiert mit OpenAI, warnt vor Cybercrime und schmiedet Allianz mit Washington
Die KI-Rivalen OpenAI und Anthropic haben in einer erstmaligen Zusammenarbeit die Sicherheitslücken der jeweils anderen Modelle aufgedeckt. Gleichzeitig zeigen neue Berichte, wie KI bereits für Cyberkriminalität missbraucht wird, und Anthropic schmiedet eine enge Allianz mit dem US-Sicherheitsapparat.
Anmerkung: „the decoder“ wird uns sicherlich nicht böse sein, dass ein oder andere Zitat zu machen, erlauben wir uns doch durch eigene Gedanken einen Mehrwert zu erzielen:
„Zusammenarbeit“ : Oha! Da ist schon der erste Klopfer!
Die Übung sollte laut den Unternehmen dazu dienen, „blinde Flecken“ in den eigenen Sicherheitstests aufzudecken (…)
…blinde Flecken, kannze nix machen! Letztlich verbirgt sich hinter dieser fast schon entwaffnenden Offenheit eine formidable Kapitulation, denn man weiß schlicht nicht, was man tun soll, man versteht nicht, wie man diese blinden Flecken wegbekommen kann (außer, dass man mit irgendwelchen System-prompts daran herumprobieren könnte), weil man diese nicht selber sehen kann! (Was dann gemacht wird: wir haben einen Flecken an der Wand, wissen zwar nicht, wie der hinkam, kennen die Ursache nicht, keine Ahnung, aber kleistern einfach neue Farbe drüber, damit’s wieder schick aussieht – also, irgendwie „gegen-trainieren“…)
„Zusammenarbeit [OpenAI und Anthropic] bei Sicherheitsfragen“ : Süß, oder? (Bei der nächst besten Shareholder-Sitzung wären wir gerne mal Mäuschen!)
„Bericht über den bereits stattfindenden, schweren Missbrauch seiner [Anthropic] KI-Modelle durch Kriminelle“ : OK, wir verstehen, alle die Mahnungen der vergangenen Jahre, als das KI-Gedöns noch im nerdigen Halbdunkel herumlungerte, sind vergessen? Alle die Vorbehalte? Und jetzt inszeniert sich die Branche (mit Anthropic als Stellvertreter) als Opfer (=Missbrauch)?!? Huiuiuiui!
„Gründung eines hochkarätigen Beirats zur Beratung in Fragen der nationalen Sicherheit“ : Aha, jetzt wird’s langsam richtig spannend! Und zwar für ALLE außerhalb U.S. Amerika!
„Beide Unternehmen [OpenAI und Anthropic] betonen, dass es sich um künstliche Stresstests handelt, die nicht das Verhalten der Modelle im realen Einsatz widerspiegeln.“ : Aha, dann sind die Ergebnisse ja voll so Aussagekräftig und können im Beirat zur Beratung in Fragen der nationalen Sicherheit so richtig durchgenudelt werden!
„(…) die eigene [Anthropic] Test-Infrastruktur die OpenAI-Modelle bei Aufgaben mit Werkzeugnutzung benachteiligt haben könnte“ : In diesem, mit einem Hauch von Ehrenrührigkeit umgebenen Satz, sollte uns ein Wörtchen stören: „könnte„. Das ist, wie wir alle wissen, der Konjunktiv von „können“. Mit dem Konjunktiv – wir alle haben ausgiebig damit Erfahrungen sammeln dürfen – ist das immer so eine Sache… halt, stop!!! Abkürzung: sie wissen es nicht! Oder, schlimmer noch: sie wollen es verschleiern, weil sie wissen, wie die Test-Infrastruktur es getan hat! Ach, egal, was regen wir uns auf…
Anthropic kommt in ihrem Bericht zu dem Schluß, „dass agentische KI die Hürden für komplexe Cyberkriminalität senkt und von Kriminellen bereits in alle Phasen ihrer Operationen integriert wird.“ : Schau an, dann scheint das Moped ja was zu können! Wir wollen aber aus diesen Satz eine Sache hervorheben: „agentische KI„. Genau das Produktmerkmal ist in den vergangenen Wochen von allen Herstellern durch’s Dorf getrieben worden – Portionieren von Problemchen und irgendwie Sequentiell abarbeiten, am besten ohne Mist zu machen. Nun gut, da geht halt mal hier oder da was in die Hose (jottBlog-KI-Unfall soll ja auch nicht leben wie ein Hund!), aber die Bösen werden uns schon nicht böse sein und im Großen und Ganzen rennt doch der Hase!
Abschluss: Wir warten jetzt noch darauf, dass die KI-Branche sich mit tränennassen Augen hinstellt: „Ist halt ein Werkzeug, mit ’nem Schraubenzieher kann man auch jemanden umbringen!“.
Der decoder-Artikel kann noch mehr, bitte lesen!
<https://the-decoder.de/anthropic-kooperiert-mit-openai-warnt-vor-cybercrime-und-schmiedet-allianz-mit-washington/>
114. golem, 28.08.2025
ENTWICKLER GEFÄHRDET : NPM-Paket mit 5 Millionen Downloads pro Woche kompromittiert
Angreifer haben Malware in ein verbreitetes Build-System namens Nx eingeschleust. Anmeldedaten zahlreicher Entwickler sollen bereits geleakt sein.
Anmerkung:“NPM“ ist Programmierer-Gedöns, mit dem „Code-Pakete“ verwaltet werden können, „Nx“ ist ein Bestandteil. „Malware“: „Mal(us)“ = schlecht, böse; „ware“: das Ende von software (Weichware (-; ) – also, böses Programm und lecker auf deiner Festplatte!
Aber warum „KI-Unfall“?
Der eingeschleuste Schadcode scannt den Angaben zufolge unter Einsatz bekannter KI-Tools (Claude, Gemini und Amazon Q) das Dateisystem infizierter Systeme, sammelt dort Anmeldeinformationen (…)
<https://www.golem.de/news/entwickler-gefaehrdet-npm-paket-mit-5-millionen-downloads-pro-woche-kompromittiert-2508-199591.html>
113. t3n, 28.08.2025
KI-Privatschule für Kinder: So funktioniert ein Konzept ohne Lehrer
In den USA baut eine KI-Privatschule für Kinder ihr Netzwerk aus. Dort gibt es keine Lehrer:innen und eine spezielle Unterrichtskonzeption. Kritik daran gibt es allerdings auch schon.
Anmerkung: So rennt der Hase, liebe Liebende! Treue jottBlog-Leser fühlen sich nicht ganz zu unrecht an den (etwas pompös geratenen) „KI-Unfall (100)“ (Bildungsforscherin Lazarides), dessen Artikel, auf den der Unfall sich bezieht, ganz old-school-mäßig darauf abzielt, den Lehrern durch KI nooooch besser, schneller und überhaupt auf das einzelne Kind (ja, genau um die geht es letztlich) angepaßtes Lehrmaterial zusammen zu fummeln. Unsere amerikanischen Freunde sind uns da – wie so oft – einen Schritt voraus (keine Angst, wir werden folgen: #Re-vorab), wie wir in diesem hübschen Artikel lesen können, und sie überspringen einfach mal diese lästige und immer auf Fortbildung lauernde Kostenstelle „Lehrer“.
Alpha Schools (KI-Hersteller) wirbt damit
(…) dass sie die Kinder nur zwei Stunden pro Tag in klassischen Schulfächern wie Mathematik unterrichtet. Den Rest des Schultages können die Kinder „Lebenskompetenzen“ entwickeln
…tja, das ist vermutlich das Potenzial, das Frau Prien vorschwebt?
Prien will Einsatz Künstlicher Intelligenz an Schulen fördern
Karin Prien sieht großes Potenzial in der Verwendung von KI an Schulen. Die Bundesbildungsministerin fordert neue Aufgabenformate für den Einsatz der Technik.
(Die Zeit, 20.08.2025 <https://www.zeit.de/gesellschaft/schule/2025-08/bildungsministerin-karin-prien-einsatz-ki-schulen>, abgerufen 28.08.2025)
…wir schlagen vor – und bezahlen diese Reise gerne mit unseren Steuergeldern – dass Frau Prien doch bitte einen kleinen Abstecher nach Amerika macht!
Und dann noch: die KI ist in diesem Fall echt nah dran! Sie kann hier besonders gut lernen, was denn der kleine homo sapiens so für Wehwechen hat, welche Bedürfnisse wie befriedigt werden müssen, damit überhaupt eine Wissensvermittlung möglich ist – ob man’s glaubt oder nicht: so ist das! (Wir wollen uns erlauben, auf einen KI-Unfall hinweisen zu dürfen, der damit in Zusammenhang gebracht werden könnte: 74., „Die Matrix“)
Herr Proffitt (!) (Vizepräsident der North Carolina Association of Educators) erlaubt sich das zarte Pflänzchen „Resthoffnung“ zu begießen, in dem er die Vermittlung des Miteinanders und auf Gefühle anderer eingehen zu können KI nicht zuspricht:
(dass) Maschinen diese Bedürfnisse unserer Kinder erfüllen können, ist absurd
<https://t3n.de/news/ki-privatschule-fuer-kinder-ohne-lehrer-1704594/>
112. t3n, 27.08.2025
Margaux Blanchard: US-Medien fallen auf KI-generierte Artikel von Freelancerin herein
Mehrere US-Medien haben offenbar Artikel einer Freelancerin namens Margaux Blanchard veröffentlicht, die komplett per KI erstellt worden sein sollen. Die Artikel sind mittlerweile entfernt. Aber eine Frage bleibt: Wie konnte das passieren?
<https://t3n.de/news/margaux-blanchard-ki-artikel-1704543/>
111. heise, 27.08.2025
Bedrohungsbericht: Wie Cyberkriminelle Claude von Anthropic missbrauchen
In einem Bericht dokumentiert Anthropic anhand verschiedener Beispiele, wie Cyberkriminelle KI-Modelle für ihre Zwecke einsetzen. Doch gibt es Abhilfe?
Anmerkung: Das ist ein Artikel mit besonderer Strahlkraft und dieses Zitat daraus möge dazu anregen, diesen in Gänze zu lesen
Im Ergebnis sei festzustellen, dass Einzelpersonen mittels KI inzwischen dazu in der Lage sein [!], Schäden zu verursachen, für die es sonst großer Teams bedurfte.
<https://www.heise.de/news/Bedrohungsbericht-Wie-Cyberkriminelle-Claude-von-Anthropic-missbrauchen-10623436.html>
Auch Einen entdeckt? So kann er in die Hall of Fame aufgenommen werden: KI-Unfall!
KI-Unfall (101 bis 110), KI-Unfall (121 bis 130)
jott
[Zitationshilfe] : „KI-Unfall (111 bis 120)“, unter jottBlog : <https://jottblog.langkau.name/2025/08/29/ki-unfall-111-bis-120/> : aufgerufen am 00.00.20xx.
#-#-#-#-#