260. spektrum, 05.10.2025 (Bezahlwand)
AUSRICHTUNG VON KI: Schlechter Code macht Chatbots böse
Die junge Wissenschaft zur emergenten Fehlausrichtung erforscht, wie scheinbar harmlose Trainingsdaten KIs an den moralischen Abgrund treiben können. Unsichererer Programmiercode, zweideutige Zahlen oder sogar Ratschläge zu Extremsportarten genügen.
Anmerkung: Es ist schade, dass spektrum den Auftrag, uns zu schützen, nicht wahrnimmt und dieses wichtige Wissen (da hinter der Bezahlwand) ausschließlich einem elitären Kreis zur Verfügung stellen mag. Wir wollen uns an dieser Stelle, hier und heute, mit der mächtigen Überschrift und dem aufbrausenden Teaser zufrieden geben, oder?
…Nein – man muss ja nun nicht gerade alle jungen Wissenschaften auf der Pfanne haben, so dass einem die Wissenschaft zur emergenten Fehlausrichtung schon einmal durch die Lappen gegangen sein könnte. Allerdings: sucht man danach, dann kommt man recht flott auf den unten verlinkten spektrum-Artikel und auch nicht mehr – nein, nicht ganz, denn
[1] OpenAI beschreibt ‘emergente Fehlausrichtung’ bei Sprachmodellen
darin
[2] OpenAI hat dazu jetzt [OpenAI, 18.06.2025] interessante Studienergebnisse veröffentlicht und beschreibt darin eine sogenannte „emergente Fehlausrichtung“.
hartwarewartung fasst zusammen
[3] Die Forschungsergebnisse zeigen, dass das Training eines Modells mit falschen Antworten, selbst in einem eng begrenzten Bereich wie beispielsweise dem Verfassen unsicheren Computercodes, unbeabsichtigt dazu führen kann, dass sich das Modell in vielen anderen Bereichen fehlausgerichtet verhält.
…ach, ach wirklich? Wenn wir dem nach Links fragendem Kind Rechts zeigen, wenn wir dem nacht Rechts fragenden Kind Links zeigen, dann wundern wir uns, dass es nach Rechts geht, wenn wir es auffordern, nach Links zu gehen? Hammer, Haaaa-mer! Die finden alles raus bei OpenAI, alles!
(Zitate [1, 2, 3] aus: hartwarewartung, 19.06.2025 : <https://www.hardwarewartung.com/openai-beschreibt-emergente-fehlausrichtung-bei-sprachmodellen/>)
Also, so rennt der Hase! OpenAI, die ihre Kiste in einem groß angelegtem Freilandversuch von Unfall zu Unfall schaukelt, versucht jetzt mal dahinter zu kommen, warum und wie ihre KI vergeigt. Schwups und Potzblitz – so ganz nebenbei wird da noch eine neue Wissenschaft ausgerufen! Sollte es so sein, dass OpenAI mit falschen Antworten trainiert hat, dann wollen wir dem Laden dazu raten, sich doch mal die Truppe der Qualitätssicherung genauer anzuschau… – was? Alle rausgeschmissen? Shareholder sehen da eine interne Geldvernichtungsmaschine? Ach so! Ja, OK.
Wird spektrum auch ein Hurra-Blättchen? (Man beachte auch im Teaser: nicht die KI ist schuld, sondern die bösen Daten! Haben wir es hier mit einem bewussten Arrangement zu tun, oder wurde hier auch nur bei OpenAI abgeschrieben? Wir wissen es nicht, da…)
…Bezahlwand : <https://www.spektrum.de/news/ausrichtung-von-ki-boese-ki-durch-schlechten-code/2286076>
259. golem, 05.10.2025
PRÄVENTIVE FAHNDUNG MIT PRISMX : Der Radikalisierung per KI zuvorkommen
Das KI-Tool PrismX eines indischen Studenten analysiert Postings in sozialen Medien und erstellt eine Risikoeinschätzung für die Radikalisierung einer Person.
Anmerkung: Oh-ha! Eine Erinnerung huscht durch’s Gedächtnis des Autors dieser Zeilen
Es begab sich im letzten Jahrzehnt des vergangenen Jahrtausends, da übten wir uns beim Austausch von Strombriefen - zugegebenermaßen etwas übermütig - im groben Schabernack, in dem wir dem Verfassten (abschliessend im Fussbereich) einen Text anfügten, der mehr als deutlich zum Ausdruck brachte, dass man sich mit dem Bau von Waffen, der Herstellung von Sprengsätzen und im Übrigen bestens auf die Fabrikation von Substanzen verstünde, die darauf abzielten, das Bewusstsein der Konsumierenden etwas auf Vordermann zu bringen. Wir endeten dann mit einer Sequenz, die, sich fragend, darauf abzielte, ob denn ein BKA-Mitarbeiter das Geschrieben wohl läse, wir aber sicherlich die Ersten seinen, die dies erführen, wenn denn die Antwort "Ja!" lautete. Hat sich aber nie jemand gemeldet und wir werden nie erfahren, ob wir belauscht worden sind...
Das ist in dem hier zitierten Artikel dann schon ganz eine andere Hausnummer – bitte unbedingt lesen, liebe Leserin, lieber Leser des jottBlogs – wenn man geneigt ist, das Ohr am Puls der Zeit zu haben und vorbereitet sein mag, wenn sich die Frage formuliert, aus welcher Richtung denn das eisige Lüftchen der KI-Unfälle der kommenden Generationen zu wehen gedenkt.
Die Software verfügt sogar über eine Funktion, bei der ein KI-Chatbot versucht, Kontakt mit einer verdächtigen Person aufzunehmen.
…um eine „Deradikalisierung“ voranzutreiben, da
die erkannten emotionalen Zustände
…dieses wohl anrieten. Herr Balaji möchte
(…) damit eine ernsthafte ethische Debatte anstoßen, bevor Menschen mit böswilligen Absichten so eine Software im Verborgenen entwickeln.
…immerhin! Herr Balaji hat das Ganze auch lieber nur im Labor veranstaltet, weil er sich nicht damit konfrontiert gesehen haben wollte, dass die KI mal nicht so richtig die Kurve bekommt und der mit ihr im Dialog befindlichen Instanz von homo sapiens – zum Beispiel – beim Zusammenfummeln einer Knarre unter die Arme griffe.
Gourmet-Tip: man schaue noch einmal in den Filmtip des 155. Ki-Unfalls, t3n, „So revolutionieren KI-Agenten das E-Mail-Marketing von morgen“!
golem-Artikel : <https://www.golem.de/news/praeventive-fahndung-mit-prismx-der-radikalisierung-per-ki-zuvorkommen-2510-199632.html>
258. taz, 04.10.2025
KI-Hotlines im Kundenservice : Der Trick mit der gefühlten Wartezeit
Endlosdudel-Warteschleifen und Sinnlos-Dialoge? Das kennen viele aus Firmen-Hotlines und -Chats. Doch es gibt erste Ansätze, sich zu wehren.
Anmerkung: Auf die taz ist Verlass! Minus-Serie ist gebrochen!
Einer Umfrage des IT-Verbands Bitkom zufolge setzen 88 Prozent der Firmen in Deutschland KI im Kundenkontakt ein.
…und weiterhin
Und so kommt, was kommen muss: Kund:innen hängen nicht nur in Endlosdudel-Warteschleifen. Sondern auch in Sinnlos-Dialogen mit der KI.
…ein richtig schöner, schicker KI-Unfall, so wie wir ihn lieben!
<https://taz.de/Kundenservice-Hotlines-Der-Trick-mit-der-gefuehlten-Wartezeit/!6117259/>
-257. decoder, 04.10.2025
Tencent entwickelt KI-System, das Spielstrategien erklären und umsetzen kann
Forschende von Tencent haben ein neues Trainingsverfahren entwickelt, bei dem KI-Modelle durch das Spielen von Honor of Kings strategisches Denken lernen sollen. Kleinere KI-Systeme übertreffen dabei deutlich größere Modelle.
Anmerkung: Drei Minus-Einträge in Folge, dürfen wir dieses, ohne die eigentliche Intention der jottBlog-Kategorie KI-Unfall schwer zu missachten? Auch in diesem und hier vorliegendem Fall ist es angeraten, ihn zu bemerken, denn es verbergen sich dahinter (also, in Zukunft) mannigfaltig Schatzwerk und eine ergiebige Quelle ✱echter✱ KI-Unfälle! Versprochen! Was dort so frei, fromm und fröhlich erforscht wird, wird homo sapiens in einer gar nicht so weiten Zukunft massive Probleme bereiten. Versprochen! #Re-vorab!
<https://the-decoder.de/tencent-entwickelt-ki-system-das-spielstrategien-erklaeren-und-umsetzen-kann/>
-256. tagesschau, 04.10.2025
Zubereitung mit KI-Hilfe : Essen aus dem Kochroboter als Gastro-Zukunft?
Ein Hamburger Start-up bringt zusammen mit dem US-Konzern Meta einen Kochroboter mit Künstlicher Intelligenz auf den Markt. Vor allem die Systemgastronomie könnte die Technologie grundlegend verändern.
Anmerkung: Lange Zeit dachten wir, wir hätten im jottBlog das alleinige Recht, Dinge strikt vorher sagen zu dürfen: #Re-vorab. Nun macht uns schon die tagesschau.de dieses Recht streitig! Möge die Systemgastronomie in jener Technologie schwelgen (welch schöner Schnörkel des Kapitalismus!), doch sehen wird sie uns auch dann nicht.
<https://www.tagesschau.de/wirtschaft/digitales/ki-roboter-kochen-100.html>
-255. golem, 04.10.2025
ChatGPT wird zum Belastungszeugen
Ein 19-Jähriger demoliert nachts 17 Autos und chattet Minuten später mit ChatGPT über seine Tat. Die Chat-Protokolle und weitere Spuren überführten ihn.
Anmerkung: Nein, ChatGPT ist kein Zeuge, sondern die Polizei nutzt das Chat-Protokoll als Beweismittel. Und, „Ja!“, der Dude hat einen schiefen Kompass.
<https://www.golem.de/news/handy-durchsuchung-chatgpt-wird-zum-belastungszeugen-2510-200796.html>
254. golem, 04.10.2025
MICROSOFT : KI knackt DNS-Sicherheitssysteme gegen Biowaffen
Forscher zeigen, wie künstliche Intelligenz Schutzmaßnahmen gegen die Entwicklung von Biowaffen und Giften umgehen könnte.
Anmerkung: Ja, so ist das halt mit Werkzeugen, die sich zum Einen als recht nützlich erweisen, zum Anderen… – nun ja, wir wissen schon, kann man nix machen…
golem-Artikel : <https://www.golem.de/news/microsoft-ki-knackt-dns-sicherheitssysteme-gegen-biowaffen-2510-200792.html>
heise-Artikel : <https://www.heise.de/news/Studie-Potenziell-gefaehrliche-KI-generierte-Proteine-werden-nicht-immer-erkannt-10711836.html>
originale Veröffentlichung (sience.org) : <https://www.science.org/doi/10.1126/science.adu8578>
253. decoder, 04.10.2025
OpenAI entdeckt nach Sora-Launch plötzlich das Urheberrecht
OpenAI-Chef Sam Altman kündigt an, dass Sora zukünftig Copyrights besser achten soll. Zum Launch war die App ein Freifahrtschein für Urheberrechtsverletzungen.
Anmerkung: Ein ab-so-lu-ter Leckerbissen – auch wenn dergleichen nicht das erste Mal in der jottBlog-Kategorie KI-Unfall aufschlägt. Vielleicht nicht auf den ersten Blick festzustellen, aber dann schleicht sich doch eine Irritation ein, denn Herr Altman, Hauptberuflich vermutlich OpenAI-CEO, kündigt voll so an
dass Rechteinhaber künftig mehr Kontrolle darüber erhalten sollen, wie ihre Charaktere in Sora verwendet werden dürfen.
…ja schau an! Aber auch „mehr Kontrolle“, nicht „vollständige Kontrolle“. Es wir den Urhebern also ein Kontrollsystem an die Hand gegeben
ob und wie Charaktere generiert werden dürfen. Dieses Modell soll über das bisherige Opt-in-Verfahren hinausgehen und detailliertere Einstellungen ermöglichen.
Na, da können die sich bei Disney aber warm anziehen – von wegen „detaillierte Einstellungen“! Und was ist, wenn ich einfach schlicht auf meinem Urheberrecht poche und *nichts* verwurstet sehen möchte? Nichts, gar nichts?!?
Und dann im Teaser „Freihfahrtschein für Urheberrechtsverletzungen“ – wenn ich als Benutzer der App die Aufforderung formuliere: „Hey, mache mir mal für unsere städtische Kommune ein kurzes Video, in dem ein kleiner gelber Roboter etwas Müll aufsammelt“ und bekomme das, was ich wollte, bin aber nicht in Kenntnis darüber, was die App da eigentlich zusammengefummelt hat, hänge es auf die Heimatseite unseres Dörfchens und habe zwei Wochen später dann Pixar auf der Matte stehen… echt?!? So geht das?
Wir wollen uns auch dem decoder in der, mit einer knackigen Zwischen-Überschrift
OpenAI könnte Copyright-Verletzung normalisieren wollen
eingeleiteten und den Artikel beendenden Feststellung anschliessen
Es ist unwahrscheinlich, dass OpenAI nicht antizipiert hat, was passieren würde.
<https://the-decoder.de/openai-entdeckt-nach-sora-launch-ploetzlich-das-urheberrecht/>
252. t3n, 02.10.2025
Die große Ernüchterung: Warum KI forschen, aber keine echten Durchbrüche erzielen kann
Künstliche Intelligenz soll die Wissenschaft transformieren. Doch was, wenn den aktuellen Modellen eine entscheidende, zutiefst menschliche Eigenschaft für den nächsten großen Durchbruch fehlt? Experten warnen vor zu großen Erwartungen.
Anmerkung: Warum ein Unfall? Also, weil die Öffentlichkeit an der Nase herum geführt wird und
Die aktuelle Debatte zeigt, dass eine realistische Einordnung der KI-Fähigkeiten notwendig ist.
<https://t3n.de/news/ki-wissenschaft-keine-echten-durchbrueche-1710356/>
-251. decoder, 03.10.2025
OpenAI erreicht angeblich eine 500-Milliarden-Bewertung
OpenAI erreicht laut Reuters durch einen Anteilsverkauf eine Bewertung von 500 Milliarden US-Dollar.
Anmerkung: Sehen wir ihr nun zu? Der Blase? Beim Wachsen? Oder nicht?
<https://the-decoder.de/openai-erreicht-angeblich-eine-500-milliarden-bewertung/>
Auch Einen entdeckt? So kann er in die Hall of Fame aufgenommen werden: KI-Unfall!
KI-Unfall (241 bis 250), KI-Unfall (261, 270)
jott
[Zitationshilfe] : „KI-Unfall (251 bis 260)“, unter jottBlog : <https://jottblog.langkau.name/2025/10/10/ki-unfall-251-bis-260/> : aufgerufen am 00.00.20xx.
#-#-#-#-#