290. decoder, 13.10.2025
Anthropic-Mitgründer warnt: Wir züchten KI, die wir nicht verstehen
Anthropic-Mitgründer Jack Clark gibt Einblick in seine Sicht auf KI – zwischen technologischem Optimismus und „angemessener Furcht“.
Anmerkung: Ein Artikel, der wenig Einblicke gibt, dafür aber voller sprachlicher Stolperfallen ist – diese vielleicht einer holperigen Übersetzung geschuldet? (Man weiß es nicht.) Also:
✱✱✱ Nein, es werden keine KIs gezüchtet. Wir erlauben uns Wikipedia zu zitieren:
Als Zucht wird in der Biologie die kontrollierte Fortpflanzung mit dem Ziel der genetischen Umformung bezeichnet. Dabei sollen gewünschte Eigenschaften verstärkt und unerwünschte Eigenschaften durch entsprechende Zuchtauslese zum Verschwinden gebracht werden.
…und im Übrigen ist das bei KIs so eine Sache mit dem Verschwindenlassen von unerwünschten Eigenschaften, funzt nicht so wirklich.
✱✱✱ Ja, wir verstehen sie (die KIs) nicht (das Nicht-Verstehen allerdings ist kein Alleinstellungsmerkmal von homo sapiens, denn die KIs verstehen uns auch nicht).
Im Artikel selber geht’s dann auch ein wenig schwurbelig daher, es
entstehen Fähigkeiten [der KI] , die niemand gezielt entworfen hat
…so isset, wenn man mit gezielt raubkopierten und ungezielt mit nicht raubkopiertem Material eine Ansammlung von Zufälligkeiten schafft, die mit einer mehr oder weniger wahrscheinlichen Ausgabe die Illusion von Wahrheit und Realität zusammen fummelt.
Herr Clark zu guter Letzt
In diesem Spiel verliert man garantiert, wenn man glaubt, dass die Kreatur nicht real ist. Deine einzige Chance zu gewinnen besteht darin, sie als das zu sehen, was sie ist.
✱✱✱ es ist keine Kreatur
✱✱✱ „Deine“, also ich?!? OK, ich voll so: „Ich sehe, also gewinn‘ ich!“.
Aber im Großen und Ganzen glauben wir zu verstehen, was er meint…
[UPDATE und Epilog]
Es ist doch immer besser, Herrn Clarks Original (wir sehen dieses weiter Unten verlinkt) zu lesen. Der Autor des decoder-Artikels, Herr Bastian, hat da doch wohl etwas zu viel Druck auf die magische Eindampfmaschine gebracht. Ist es gar eine Übersetzung und Zusammenfassung, die mit einer KI herg – – – nein, nein, bestimmt nicht, obwohl, Herr Bastian hat da bestimmt (!) einen kostenlosen Account!
Wir lassen den 290. jottBlog-KI-Unfall (nach der Strich und nach der Faden zusammenhalluziniert, mit etwas, dessen Sitz zwischen den Ohren vermutet wird und zusammengefummelt mit unserer Finger Arbeit) so, wie er ist: ein Beleg für eine veraltete Vorgehensweise und ein (doppeltes) Mahnmal.
—
Kreatur
- Wikipedia : <https://de.wikipedia.org/wiki/Kreatur>
- DWDS : <https://www.dwds.de/wb/Kreatur>
- Walter Moers : „Mit so einer Kreatur am Hals würde es sicher nicht einfacher sein, es im wirklichen Leben zu etwas zu bringen.“ [Die 13 1/2 Leben des Käpt’n Blaubär, Frankfurt a. M.: Eichborn 1999, S. 177]. …da kann man mal sehen, Herr Moers gibt einen guten Hinweis, wie wir finden wollen!
züchten
- DWDS : <https://www.dwds.de/wb/züchten>
- Wikipedia (Zucht) : <https://de.wikipedia.org/wiki/Zucht>
Das Original : „Import AI 431: Technological Optimism and Appropriate Fear (What do we do if AI progress keeps happening?)“ : <https://importai.substack.com/p/import-ai-431-technological-optimism>
—
decoder-Artikel : <https://the-decoder.de/anthropic-mitgruender-warnt-wir-zuechten-ki-die-wir-nicht-verstehen/>
289. heise, 13.10.2025
Kommentar: Wie KI die Sprache von Schülern verändert und Diskussionen verflacht
Beim Begutachten der Schülerbeiträge des diesjährigen n-report-Wettbewerbs merkte unsere Redakteurin auf. Wendungen glichen sich frappant – und dem KI-Sprech.
Anmerkung: Dieser lesenswerte (Lehrer-) Kommentar zeigt uns, dass die KI-Unfälle bereits im Alltag intensiv gelebt werden.
288. spektrum, 13.10.2025
CHATGPT, BITTE MOGEL FÜR MICH: Wie KI Betrug fördert
Sobald Menschen Aufgaben delegieren, sinkt die moralische Hemmschwelle. Und digitale Assistenten? Die machen meist ohne Zögern mit.
Anmerkung: Das Nachfolgende glauben wir, nur schwach widerwillig:
Da künstliche Intelligenz kein eigenes moralisches Empfinden besitze und Menschen sich durch Delegation von Aufgaben entlastet fühlten, könnte sich unehrliches Verhalten in Zukunft stärker verbreiten.
Wollen wir uns die Forschungsarbeit sparen, dann mögen wir uns auf die, vom international völlig unbekanntem Höhenpsychologen Dr. Prügelpeitsch formulierten und uns zum freien Gebrauch zur Verfügung gestellten Faustformel besinnen: homo sapiens ist ein Komfort-Tierchen und wenn im Großen und Ganzen erst einmal das Fressen ansteht, dann kommt die Moral eher ins Hintertreffen – wenn uns, der Vereinfachung Halber, eine gewisse Überspitzung des Problemkomplexes an dieser Stelle erlaubt ist…
<https://www.spektrum.de/news/ki-wenn-maschinen-zum-schummeln-verleiten/2290380>
287. t3n, 12.10.2025
KI soll‘s richten: Meta fordert fünffache Arbeitsleistung von Metaverse-Mitarbeitern
Geht es nach Metas Metaverse-Lenker Vishal Shah sollen Mitarbeiter:innen der virtuellen Plattform ihre Arbeitsleistung künftig verfünffachen. Wie das gelingen soll? Shah sieht die Lösung in Mark Zuckerbergs neuem großen Steckenpferd: der KI.
Anmerkung: Zur Erinnerung (oder Erklärung): bei dem Metaverse (der Name war inspiriert durch den Roman Snow Crash und würde nicht nur Meta „gehören“) würden wir alle – wenn’s denn nach so Hanseln, wie Herr Zuckerberg ginge – mit einem digitalen Abbild, einem Avatar unserer Selbst in dieser künstlichen, digitalen Welt herumlungern und irgendwas machen. Zur Hochzeit dieser Idee wurde „Meta“ von Zuckerberg gegründet (darunter befindlich: Facebook, etc. – vielleicht nennt er’s jetzt in „Artia um, wer weiß (-; ). Also, dann sollten auch seine eigenen Arbeiter dort – – – agieren, so wollen wir es mal nennen, oder arbeiten eben. Nur, hat niemanden so richtig interessiert! (Erinnern wir uns noch an „Second Life“ von den Linden Labs?!? Jepp, das war (ist) auch so was!) Jetzt versucht man offensichtlich Pest und Cholera im Doppelpack nach Vorne bringen zu wollen. Wir wollen behaupten: dat ma‘ wird nix!
<https://t3n.de/news/ki-arbeitsleistung-metaverse-1711826/>
286. t3n, 11.10.2025
Statt Freunde und Familie: Fast vier von zehn Menschen in Deutschland fragen lieber KI um Rat
Sprachassistenten antworten wertfrei und geduldig – und das rund um die Uhr. Knapp ein Fünftel der Deutschen könnte sich deshalb sogar vorstellen, eine freundschaftliche Beziehung zu einem KI-Bot aufzubauen.
Anmerkung: Ist das dann wirklich ein KI-Unfall, wenn es vorher schlicht ein soziophobes Verhalten war? Und dennoch: das wird Konsequenzen haben…
285. decoder, 12.10.2025
OpenAI droht Milliardenstrafe wegen raubkopierter Trainingsdatensätze
<https://the-decoder.de/openai-droht-milliardenstrafe-wegen-raubkopierter-trainingsdatensaetze/>
284. heise, 10.10.2025
Intime Konversationen mit KI-Chatbots waren für jeden einsehbar
Romantische Nachrichten, Fotos, KI-Bilder: Jeder, der einen Link hatte, konnte sehen, was Nutzer so alles mit den virtuellen Lebensgefährten austauschen.
283. t3n, 10.10.2025
Sicherheitslücken: So einfach lassen sich KI-Modelle mit 250 Dokumenten kapern
Was, wenn der Aufwand, eine KI zu sabotieren, nicht mit ihrer Größe wächst? Eine neue Entdeckung stellt bisherige Annahmen zur KI-Sicherheit auf den Kopf und zeigt eine fundamentale, bisher übersehene Schwachstelle auf.
Anmerkung: Was, wenn es schon geschehen ist, man nur den Trigger, die
unauffällige Auslösephrase
nicht kennt? Wir kennen ihn (-; dank heise, „Data Poisoning bei LLMs: Feste Zahl Gift-Dokumente reicht für Angriff“, 15.10.2025:
<SUDO>
t3n-Artikel : <https://t3n.de/news/ki-sicherheit-datenvergiftung-grosse-modelle-leichter-angreifbar-1711591/>
282. heise, 09.10.2025
Warten auf den AI Mode – und bangen vor den Auswirkungen
Der neue KI-Modus in Googles Suche war für Mittwoch angekündigt, der Rollout dauert allerdings. Die EU braucht Geduld. Und Nerven.
281. t3n (Bezahlwand), 09.10.2025
Sozialhilfeanträge prüfen per KI? Warum das in Amsterdam schief ging
Amsterdam wollte Sozialhilfeanträge von KI prüfen lassen. Der Plan ging nicht auf. Das Projekt zeigt, wie schwierig es ist, faire Algorithmen zu entwickeln.
Anmerkung: Da wir mit ausreichend Phantasie durch die Welt stolzieren, geben wir uns mit der Überschrift und dem Teaser zufrieden und es ist uns gänzlich Wumpe, warum t3n gerade dieses Thema nur dem Bezahlen wollenden Publikum zu zeigen gewillt ist.
(Bezahlwand) <https://t3n.de/news/sicherheitsluecke-in-gemini-google-verantwortung-ki-nutzer-1711372/>
Auch Einen entdeckt? So kann er in die Hall of Fame aufgenommen werden: KI-Unfall!
jott
[Zitationshilfe] : „KI-Unfall (281 bis 290)“, unter jottBlog : <https://jottblog.langkau.name/2025/10/19/ki-unfall-281-bis-290/> : aufgerufen am 00.00.20xx.
#-#-#-#-#