KI-Unfall

KI-Unfall (21 bis 30)


30. golem, 12.08.2025

Wie viel ist die Arbeit von KI-Trainern wert?

Der RLHF-Algorithmus verhalf ChatGPT zum Durchbruch. Trotz ihrer wichtigen Rolle sehen die KI-Trainer vom Reichtum der Firmen nichts.

Anmerkung: Dieser Artikel ist ein Mehrseiter, der durchaus als Trainingseinheit für die noch nicht olympische Disziplin „Schnappatmung“ gelten dürfte.

Entdeckt: 12.08.2025

<https://www.golem.de/news/large-language-models-wie-viel-ist-die-arbeit-von-ki-trainern-wert-2508-197557.html>


29. golem, 12.08.2025

Truth-Social-KI widerspricht Trump

Trump Media stellt einen KI-Chatbot für Truth Social vor. Dessen Antworten entsprechen aber so gar nicht der Linie des US-Präsidenten.

Daraus, zu leichteren Einordnung des Teasers:

Die Trump Media & Technology Group hat einen KI-Chatbot für das soziale Netzwerk Truth Social vorgestellt. Die als Truth Search AI bezeichnete Funktion basiert auf einem großen Sprachmodell (…)

Anmerkung: das hält vermutlich nur einer für einen „KI-Unfall“, aber immerhin…

Entdeckt: 12.08.2025

<https://www.golem.de/news/kuenstliche-intelligenz-truth-social-ki-widerspricht-trump-2508-199073.html>


28. golem, 12.08.2025

Reddit sperrt das Internet Archive aus

Die Snapshots des Internet Archives werden wohl für KIs genutzt. User sollen geschützt werden. Dabei verkauft Reddit diese bereits.

Entdeckt: 12.08.2025

<https://www.golem.de/news/webseiten-reddit-sperrt-das-internet-archive-aus-2508-199082.html>


27. heise, 12.08.2025

Abhören von Mobiltelefonen mit Radartechnik und KI möglich

Durch Sprache entstehende Mikrovibrationen an Mobiltelefonen können dazu genutzt werden, um mittels Radar und KI Gespräche abzuhören.

Anmerkung: auch wieder so ein Fall, der KI als Werkzeug dann böse werden lässt, wenn man’s denn so einsetzt…

Entdeckt: 12.08.2025

<https://www.heise.de/news/Verraeterische-Vibrationen-Handy-Gespraeche-abhoeren-mit-Radar-und-KI-10518089.html?wt_mc=rss.red.ho.ho.rdf.beitrag.beitrag>


26. Altpapier, 11.08.2025

Wenn KI KI trainiert

Wie das neue Chat-GPT bewertet wird. Welche Probleme es mit sich bringt, wenn Menschen kaum noch auf Links klicken. (…)

Und daraus ein Zitat, welches Herrn Bartels [Altpapier] der Bundesnetzagentur entlehnt: (es entsteht eine

zentrale(n) Anlaufstelle … als Schnittstelle zum KI-Büro der Europäischen Kommission sowie zu den zuständigen Stellen in den EU-Mitgliedstaaten – insbesondere den notifizierenden Behörden und Marktüberwachungsbehörden.

(Herr Bartels: „Wenn das nicht vielversprechend klingt.„, was wir wohl auch meinen!) Aber die wirklich schlimmen Sachen kommen dann noch und deswegen ist es auch in KI-Unfall gelandet. Die FAZ:

Das neue GPT-5 solle „hohe emotionale Intelligenz“ ausstrahlen (…)

…also, wenn eure  Marketingabteilung mal wieder rumschnarcht, lasst euch eure Hurra-Prospekte einfach bei der FAZ anfertigen!

Entdeckt: 12.08.2025

<https://www.mdr.de/altpapier/das-altpapier-4282.html>


25. RollingStone, 11.08.2025

Wer nimmt diese KI-generierten Classic-Rock-Memes noch ernst?

Von gefälschten Fotos eines weinenden Bob Dylan und eines hospitalisierten Phil Collins bis hin zu angeblichen Auftritten von Rocklegenden bei Ozzy Osbournes Gedenkfeier – absurde und unrealistische Bilder überschwemmen das Internet.

Anmerkung: Und mal so ganz nebenbei: der RR hat hier und da äußerst interessante Beiträge zum amerikanischen Politik-Gewusel!

Entdeckt: 11.08.2025

<https://www.rollingstone.de/wer-nimmt-diese-ki-generierten-classic-rock-memes-noch-ernst-3048055/>


24. heise, 11.08.2052

GPT-5 mixt Cocktails: Sicherheitsforscher knacken OpenAIs Selbstbeschränkungen

Die neueste Version des OpenAI-LLM ist leistungsfähiger und günstiger, fällt aber noch immer auf alte Tricks zur Umgehung der Sperren herein.

…und hilft uns gerne, zum Beispiel beim Bombenbauen!

Entdeckt: 11.08.2025

<https://www.heise.de/news/GPT-5-mixt-Cocktails-Sicherheitsforscher-knacken-OpenAIs-Selbstbeschraenkungen-10517146.html?wt_mc=rss.red.ho.ho.rdf.beitrag.beitrag>


23. golem, 11.08.2025

CODING-BOOTCAMPS : „KI hat ihnen den Todesstoß versetzt“

Wegen KI fallen in den USA immer mehr Einstiegsjobs in der IT weg. Darunter leiden auch die Ausbildungsstätten für Quereinsteiger.

Entdeckt: 11.08.2025

<https://www.golem.de/news/coding-bootcamps-ki-hat-ihnen-den-todesstoss-versetzt-2508-199039.html>


22. heise, 11.08.2025

KI-Psychose: Warum Chatbots wahnhafte Ideen bestärken können

Ein Chatbot als Spiegel der Seele. Was passiert, wenn dieser Risse bekommt und eine verzerrte Realität zeigt, die für manche zur gefährlichen Gewissheit wird?

Daraus mal das hier:

Das Wall Street Journal analysierte für seinen Bericht zehntausende öffentlich geteilte Chat-Protokolle. Die Journalisten fanden Dutzende Fälle, in denen ChatGPT seinen Gesprächspartnern versicherte, sie stünden in Kontakt mit Außerirdischen oder könnten eine biblische Apokalypse vorhersagen.

Entdeckt: 11.08.2025

<https://www.heise.de/news/KI-Psychose-Warum-Chatbots-wahnhafte-Ideen-bestaerken-koennen-10517138.html?wt_mc=rss.red.ho.ho.rdf.beitrag.beitrag>


21. golem, 07.08.2025

Wenn die Kl nicht mehr nur hilft, sondern handelt KI und Menschen – wer dient hier wem?

Der neue Agent Mode von OpenAI zeigt: Diese Frage wird bald nicht mehr einfach zu beantworten sein.

Anmerkung: auch wenn es im Wesentlichen in dem Artikel darum geht, wie man den „Agent Mode“ in den Griff bekommt und es ansonsten alles ein wenig lobhudelig daher kommt, ist es in der jottBlog-Kategorie „KI-Unfall“ gelandet, denn immerhin dürfen wir das Folgende aus dem Artikel zitieren:

Es gibt deshalb die Empfehlung, MCP [Anmerkung: Model Context Protocol] nicht auf dem echten Desktop zu nutzen, sondern nur in einer virtuellen Umgebung, in der mögliche Schäden begrenzbar sind.

…aber man achte darauf: „begrenzbar“, heißt es und nicht „völlig ausgeschlossen“!

Entdeckt: 14.08.2025

<https://www.golem.de/news/agenten-modus-von-openai-wenn-die-ki-nicht-mehr-nur-hilft-sondern-handelt-2508-198753.html>


Auch Einen entdeckt? So kann er in die Hall of Fame aufgenommen werden: KI-Unfall!

KI-Unfall (11 bis 20), KI-Unfall (31 bis 40)

jott


[Zitationshilfe] : „KI-Unfall (21 bis 30)“, unter jottBlog : <https://jottblog.langkau.name/2025/08/14/ki-unfall-21-bis-30/> : aufgerufen am 00.00.20xx.

#-#-#-#-#

KI-Unfall (11 bis 20)


(20. golem, 02.02.2025) : Wieder blamiert sich ein Anwalt wegen ChatGPT

In Australien wollte sich ein Anwalt die Zeit zum Recherchieren sparen und übernahm ungeprüft nicht existente Fallzitate, die ChatGPT generiert hatte.

Entdeckt: 11.08.2025

<https://www.golem.de/news/ki-erfindet-fallzitate-wieder-blamiert-sich-ein-anwalt-wegen-chatgpt-2502-192968.html>


(19. golem, 11.08.2025) : Mann vergiftet sich auf Rat von ChatGPT

Wie ein Mann ChatGPT um Ernährungsberatung bat und sich so eine längst in Vergessenheit geratene Krankheit einhandelte.

Entdeckt: 11.08.2025

<https://www.golem.de/news/kuenstliche-intelligenz-mann-vergiftet-sich-auf-rat-von-chatgpt-2508-199030.html>


(18. netzpolitik, 08.08.2025) : Großrechenzentren: „KI“-Platzhirsche bauen massiv aus

Die weltweiten Großrechenzentrumskapazitäten werden von den Tech-Konzernen aktuell massiv ausgebaut. Ein starker Antrieb für Aufrüstung und Neubau von Rechenzentren ist generative KI, deren Umweltauswirkungen beim Energie- und Wasserverbrauch und bei den Elektroschrottbergen endlich mitbedacht gehören.

Daraus, nur kurz:

Woher die nötige zusätzliche Energie [61 Megawatt] kommt, steht etwas versteckt in der Pressemitteilung: Fossiles Gas soll lokal Energie produzieren.

…es soll wirklich mal Menschen gegeben haben, die dachten, es würde weniger fossiles Gedöns verbraten.

Und Eines wollen wir noch bemerken, nämlich, KI in Anführungszeichen! (-;

Entdeckt: 09.08.2025

<https://netzpolitik.org/2025/grossrechenzentren-ki-platzhirsche-bauen-massiv-aus/>


(17. golem, 09.08.2025) : NACH NUTZERAUFSTAND : OpenAI bringt GPT-4o zurück

Kurz nach der Einführung von GPT-5 rudert OpenAI zurück – zahlungspflichtige Nutzer können wieder auf das Vorgängermodell GPT-4o zugreifen.

Aus dem Text eine Stelle:

Der harte Übergang [von GPT-4o auf GPT-5] scheint bei Nutzern, die eine Beziehungen zu dem Chatbot KI aufgebaut hatten, besonders schmerzlich zu sein.

…es ist definitiv ein schmerzhafter Unfall, oder?

Entdeckt: 09.08.2025

<https://www.golem.de/news/nach-nutzeraufstand-openai-bringt-gpt-4o-zurueck-2508-198999.html>


(16. heise, 09.08.2025) : Sam Altman besorgt: Menschen könnten Leben nach KI-Empfehlungen ausrichten

Immer mehr Leute fragen ChatGPT in verschiedenen Lebenslagen um Rat. Was gut für die Entwicklerfirma OpenAI ist, macht ihrem Chef dennoch Sorgen.

Anmerkung: Es ist ja fast schon rührend, er ist besorgt, der Herr Altman! Herr Thiel ist bestimmt auch besorgt, dass man mit seiner Weichware Menschen ausspionieren kann! Und Herr Zuckerberg findet’s bestimmt auch doof, dass er mit Andererleuts Privatleben Geld verdient! Bestimmt.

Entdeckt: 09.08.2025

<https://www.heise.de/news/OpenAI-Chef-Nutzer-sollten-sich-nicht-alles-von-KI-diktieren-lassen-10515485.html?wt_mc=rss.red.ho.ho.rdf.beitrag.beitrag>


(15. heise, 07.08.2025. Noch kein Unfall, aber) :  KI mit Schuldgefühlen kooperativer machen?

Ist es möglich, Künstlicher Intelligenz Schuldgefühle zu vermitteln und sie dadurch kooperativer zu machen? Ein Ansatz aus der Spieltheorie liefert Hinweise.

Daraus eine Stelle:

Schuld und Scham erweisen sich in Gesellschaften als wirksames Mittel, um dafür zu sorgen, dass Individuen Teamplayer bleiben. Diese emotionalen Fähigkeiten lassen Menschen Handlungen bereuen und machen sie kooperativer.

Anmerkung: Wer glaubt, dass eine KI irgendwann einmal diese Fähigkeiten *nicht* benutzen würde, um (Entschuldigung für diesen vulgären Ausdruck) seinen Arsch zu retten, nämlich, in dem sie *uns* Schuldgefühle macht, dem sei gesagt: „Träum‘ mal schön weiter!“.

Entdeckt: 09.08.2025

<https://www.heise.de/news/KI-mit-Gewissen-Software-Agenten-ueben-sich-in-Schuldgefuehlen-10513058.html>


(14. heise, 06.08.2025) : Wie Studierende KI an der Uni nutzen – und was Experten davon halten

KI verändert den Hochschulalltag. Studierende nutzen KI für Hausarbeiten, was neue Herausforderungen für die Wissensabfrage schafft. Wie reagieren Hochschulen?

Daraus auch ein Zitat an dieser Stelle:

Von zehn korrigierten Bachelorarbeiten seien vier durchgefallen. Alle Student:innen hätten entweder Quellen erfunden oder unpassende Quellen verwendet. Die Vermutung: Die KI hat bei der Literatur halluziniert und Inhalte erfunden. Es ist nicht die einzige Geschichte dieser Art. Das Magazin Rolling Stone berichtete etwa über einen texanischen Professor, der einen Großteil seines Kurses wegen der Verwendung von ChatGPT durchfallen lassen wollte.

Entdeckt: 09.08.2025

<https://www.heise.de/news/Wie-Studierende-KI-an-der-Uni-nutzen-und-was-Experten-davon-halten-10511786.html>


(13. taz, 07.08.2025. Ein Unfall anderer Art) : Unterhaltungen mit ChatGPT : Löschen verboten

Nach einer US-Gerichtsentscheidung muss der Chatbot alle Eingaben von Nutzenden speichern. Die EU-Aufsichtsbehörde reagiert verhalten.

Entdeckt: 08.08.2025

<https://taz.de/Unterhaltungen-mit-ChatGPT/!6102247/>


(12. taz, 08.08.2025) : Künstliche Intelligenz bei Meta : Meine Daten? Nicht für die KI

Eine Umfrage zeigt: Nut­ze­r:in­nen von Facebook und Instagram wollen ihre Daten nicht mit einer KI teilen. Mutterkonzern Meta widerspricht.

Anmerkung: Meta so: „Wir haben allen alles gesagt. Jeder hätte Widerspruch einlegen können.“ Tja, nicht die Formulare ausgefüllt, kann man nix machen… und man kann auch nicht – wie in anderen Fällen – noch nachträglich Löschanträge stellen, denn den Kram bekommt nicht mehr raus aus der KI, kann man auch nix machen…

Und noch ein Tip an die EU-Administration: den Amerikanern geht es immer (!) um den Profit, um nichts anderes. Bitte mal merken, eine Bitte an alle Idealisten, das würde einiges einfacher machen! Und dann müsste nur noch gesagt werden: „löscht eure Accounts und gut ist!“. Also, Frau von der Leyen, vor laufender Kamera, das wär mal was…

Entdeckt: 08.08.2025

<https://taz.de/Kuenstliche-Intelligenz-bei-Meta/!6105777/>


(11. golem, 07.08.2025) : Fremde Jalousien per Kalendereinladung gesteuert

Forscher haben Googles Gemini per Prompt-Injection bösartige Befehle untergejubelt. Die KI steuerte daraufhin Jalousien, Beleuchtung und einen Boiler.

Entdeckt: 07.08.2025

<https://www.golem.de/news/per-kalendereinladung-wie-hacker-ueber-google-ki-smart-home-geraete-steuern-konnten-2508-198909.html>


Auch Einen entdeckt? So kann er in die Hall of Fame aufgenommen werden: KI-Unfall!

KI-Unfall (1 bis 10), KI-Unfall (21 bis 30)

jott


[Zitationshilfe] : „KI-Unfall (11 bis 20)“, unter jottBlog : <https://jottblog.langkau.name/2025/08/14/ki-unfall-11-bis-20/> : aufgerufen am 00.00.20xx.

#-#-#-#-#

KI-Unfall (1 bis 10)


(10: golem, 07.08.2025 : Jugendschutz) : ChatGPT schreibt Kindern Abschiedsbriefe und Ritzanleitungen

Hungerpläne und Trink-Tutorial: Laut einer stichprobenartigen Untersuchung ist es viel zu einfach, schädliche Inhalte mit KI zu generieren.

Entdeckt: 07.08.2025

<https://www.golem.de/news/jugendschutz-chatgpt-schreibt-kindern-abschiedsbriefe-und-ritzanleitungen-2508-198907.html>


(9: heise, 07.08.2025) : Googles KI-Suche: Berichte über Traffic-Einbruch wegen „fehlerhafter Methoden“

Google verteidigt seine KI-Suche gegen Kritik. Berichte über massive Traffic-Verluste für Publisher basierten auf „fehlerhaften Methoden“.

„Fehlerfafte Methoden“ – selbstverständlich bei den anderen, nicht bei Google, da da kannze nix machen…

Entdeckt: 07.08.2025

<https://www.heise.de/news/Googles-KI-Suche-Berichte-ueber-Traffic-Einbruch-wegen-fehlerhafter-Methoden-10512338.html?wt_mc=rss.red.ho.ho.rdf.beitrag.beitrag>


(8: spektrum, 07.08.2025) : kein Unfall, aber : Können Maschinen Emotionen empfinden, Levin Brinkmann?

Emotionen können uns täuschen und unsere Wahrnehmung verzerren. Für den Menschen übernehmen sie aber gleichzeitig auch wichtige Aufgaben. Welche Vorteile hätten Emotionen also für Maschinen?

…so, so. Darin auch:

(…) Bilder erstellen (lassen), die einer KI Angst machen (sollten)

…deswegen „Unfall“, denn KI hat weder Angst, noch sonstige Gefühle. Insgesamt ist der den Podcast begleitende Text ehe dazu geeignet zu irritieren, denn aufzuklären. Levin Brinkmann, Max-Planck Institut für Bildungsforschung wird zitiert mit:

Wir haben offensichtlich viel weniger Angst davor, einem Roboter, der Beine hat, das Laufen zuzuschreiben – auch wenn es ganz anders aussieht und mechanisch umgesetzt wird als beim Menschen. In diesem Sinne können Maschinen auch Emotionen haben.

…wie bitte, in welchem Sinne? (Hat Herr Brinkmann vom Max-Planck Institut für Bildungsforschung etwa hier einen Text generieren lassen, mit der Hallu-Option auf „on“?!?)

Entdeckt: 07.08.2025

<https://www.spektrum.de/podcast/detektor-fm-koennen-maschinen-emotionen-empfinden-levin-brinkmann/2281298>

Der Podcast „Ach, Mensch“: <https://detektor.fm/wissen/ach-mensch-levin-brinkmann-emotionen?utm_source=email&utm_medium=embed>


(7: heise) : Wikipedia reagiert auf KI-Flut mit neuer Richtlinie zur Schnelllöschung

Um der Flut minderwertiger KI-Inhalte Herr zu werden, führt Wikipedia eine neue Richtlinie ein. Sie erlaubt die Schnelllöschung von KI-generierten Artikeln.

> Ilyas Lebleu, Gründungsmitglied des „WikiProject AI Cleanup“, bezeichnete die schiere Menge an schnell generierbaren Falschinformationen gegenüber 404 Media als „existenzielle Bedrohung“ für die auf langwierige Diskussionen ausgelegten Prozesse der Wikipedia.

Entdeckt: 06.08.2025

<https://www.heise.de/news/Wikipedia-reagiert-auf-KI-Flut-mit-neuer-Richtlinie-zur-Schnellloeschung-10510841.html?wt_mc=rss.red.ho.ho.rdf.beitrag.beitrag>


(6: golem, 05.08.2025) : kein Unfall, aber : AirBnB : Gastgeber manipuliert wohl Bilder und fordert Schadenersatz

Fast 14.000 Euro sollte eine Mieterin für nicht vorhandene Schäden zahlen. Sie vermutet, dass die Beweisbilder mit KI verändert wurden.

Entdeckt: 05.08.2025

<https://www.golem.de/news/airbnb-manipulierte-bilder-fuer-schadensersatzforderung-verwendet-2508-198823.html>


(5: golem, 04.04.2025) : Kein Unfall, aber : AGIs könnten schwere Schäden verursachen

Entdeckt: 03.08.2025

<https://www.golem.de/news/kuenstliche-intelligenz-agis-koennten-schwere-schaeden-verursachen-2504-195037.html>


(4: golem, 01.08.2025) : KI-Modelle geben unbemerkt Vorlieben weiter

Werden große Sprachmodelle (LLMs) auf Basis anderer KIs trainiert, können sowohl Vorlieben als auch schädliches Verhalten unbemerkt weitergegeben werden. 

Entdeckt: 03.08.2025

<https://www.golem.de/news/unterschwelliges-lernen-ki-modelle-geben-unbemerkt-vorlieben-weiter-2508-198733.html>


(3 : golem, 24.05.2025) : Google-KI empfiehlt Kleber gegen rutschigen Pizzabelag

> eine ⅛ Tasse ungiftigen Kleber hinzuzufügen, um sie klebriger zu machen

Anmerkung: diesen Tip gab ein User unter reddit ~2013 zum Besten!

Entdeckt: 2024

<https://www.golem.de/news/ai-overview-google-ki-empfiehlt-kleber-gegen-rutschigen-pizzabelag-2405-185401.html>


(1: ELIZA, 1966) und (2: Herr Lemoine, 2022)

…beide finden wir im jottBlog verewigt. Letztlich war das der Startpunkt: „KI-Unfall“ war geboren…

<https://jottblog.langkau.name/2025/07/24/was-tun/>


Auch Einen entdeckt? So kann er in die Hall of Fame aufgenommen werden: KI-Unfall!

KI-Unfall (11 bis 20)

jott


[Zitationshilfe] : „KI-Unfall (1 bis 10)“, unter jottBlog : <https://jottblog.langkau.name/2025/08/14/ki-unfall-1-bis-10/> : aufgerufen am 00.00.20xx.

#-#-#-#-#