470. golem, 19.12.2025
NACH RAUSWURF AUS PAKETSHOP: Rat von ChatGPT löst Polizeieinsatz in Landshut aus
Eine Kundin hat ChatGPT zur Rechtmäßigkeit eines Hausverbots befragt und die Polizei gerufen. Die hatte eine andere Meinung als die KI.
469. heise, 19.12.2025
Jugendschutz: OpenAI und Anthropic erweitern Sicherheit
Anthropic schätzt künftig das Alter der Claude-Nutzer. Bei OpenAI ist Sicherheit neuerdings die oberste Priorität.
Anmerkung: Erst denken wir: ‚Oh, erweiterte Sicherheit ist immer gut!‘, aber dann, wenn die Glückshormome langsam abklingen, kommt die Frage auf, warum sie’s nicht gleich so sicher gemacht haben, dass es nicht zu den Problemen kommen konnte (und kann)? Egal, und damit wir berechtigt der Kleinteiligkeit bezichtigt werden können, legen wir schnell noch nach. Wir zitieren, leicht abgewandelt, der Auflistung wegen:
Anthroppic : will nun selbst anhand des Verhaltens der Nutzer herausfinden, ob jemand noch unter 18 Jahre alt ist
So, das können sie?
Anthropic : „Suptile [!] Anzeichen“ würden genutzt, um das Alter zu bestimmen.
(…den bitte unbedingt merken!)
OpenAI : Jugendliche haben aufgrund ihrer Entwicklung andere Bedürfnisse als Erwachsene
So, das haben sie? Wirklich? Da wären wir ja nie drauf gekommen!
OpenAI : wenn Minderjährige mit dem Chatbot kommunizieren, soll dieser der Sicherheit der Jugendlichen nun immer oberste Priorität geben
Wirklich? Warum nicht gleich von Anfang an? Wir sind gespannt, wie OpenAI das jetzt noch den Eltern klarmacht, die wegen des an Selbstmord des Kindes klagen.
OpenAI : Jugendliche sollen zudem immer auch als solche behandelt werden.
Auch eine gute Idee, auf die Herr Dr. Prügelpeitsch, Autor dieser Zeilen *nie* von selbst gekommen wäre!
Und jetzt, wie sie es besser machen wollen, wie sie es ändern wollen:
OpenAI : unklar [wobei uns schon interessieren würde, wie „die Angaben aus den Model Spec in den Chatbot“ (heise) gelangen]
Anthropic : System-Prompt [Anweisungen, die vor den Benutzer-Prompt geklebt werden] uuuuund „es wird ein erwünschtes Verhalten antrainiert“ (heise).
Wir wollen es etwas anreichern, wie sie das wohl vielleicht machen
Und nun noch die Pointe dieses KI-Unfalls
Es ist bemerkenswert, was da zugegeben wird, denn es zeigt in eine Richtung, die schlicht nicht vergessen werden sollte. Diese Kenntnis von subtilen Anzeichen wie auch die Gewissheit die Bedürfnisse der Benutzer eruieren zu können (und nicht nur die der Jugendlichen, da dürfen wir die jottBlog-Leser auffordern, doch mal wieder einer Alu-glitzernden Verschwörungstheorie zu folgen!) …zu können, läßt uns wieder (und wie schon so oft) an das hier erinnern
Ich habe nur gezeigt, dass es die Bombe gibt
Psychologe Michal Kosinski weiss, wie man Menschen anhand ihres Facebook-Verhaltens analysiert.
(https://www.tagesanzeiger.ch/ich-habe-nur-gezeigt-dass-es-die-bombe-gibt-652492646668, abgefragt 19.12.2025. Siehe auch KI-Unfall 323. heise, 27.10.2025 : Präzedenzfall: US-Behörde identifiziert Darknet-Admin mit ChatGPT-Daten)
EPILOG
Denken wir doch mal um die Ecke:
KI-Unfall 430. golem, 08.12.2025, OpenAI nennt Werbung in ChatGPT „keine Werbung“
All das macht das Lesen des Artikels nicht überflüssig:
heise-Artikel : <https://www.heise.de/news/Jugendschutz-OpenAI-und-Anthropic-erweitern-Sicherheit-11120712.html>
468. golem, 19.12.2025
KI-Automat verschenkt Waren für Hunderte Dollar
Ein von Anthropics KI-Modell Claude gesteuerter Snackautomat hat fast den gesamten Bestand verschenkt.
golem-Artikel : <https://www.golem.de/news/claude-agent-ki-automat-verschenkt-waren-fuer-hunderte-dollar-2512-203439.html>
—
Upgrade : decoder, 19.12.2025
Anthropics KI-Kioskverkäufer macht Gewinn – und driftet nachts in spirituelle Gespräche ab
Anmerkung: Wer sich mit golem warm-gelesen hat, sollte hier ohne nennenswerte Verletzungen durch kommen! Tip: unbedingt lesen, wenn wir erfahren wollen, wie die „KI am Zwiebel-Gesetz“ scheitert.
decoder-Artikel : <https://the-decoder.de/anthropics-ki-kioskverkaeufer-macht-gewinn-und-driftet-nachts-in-spirituelle-gespraeche-ab/>
467. t3n, 18.12.2025
Nie wieder App-Wechsel? ChatGPT integriert Dienste wie Spotify und Salesforce direkt im Chat
Mit eigenem App-Store und direkter Salesforce-Integration rückt ChatGPT ins Zentrum von Marketing-, Sales- und Produktivitätsprozessen. Der Salesforce-Chef Marc Benioff spricht von einem neuen Kapitel für den Vertrieb.
Anmerkung: Wissen eigentlich wirklich alle Benutzer (und gerade auch diejenigen, die eher im geschäftlichen Umfeld vor sich hinprompten), welches Kapitel sie *wirklich* aufschlagen? Welches Tor sie aufmachen und was passiert, wenn schlimme Buben (oder Mädels) mit leicht schiefem Kompass durch dieses schreiten?
466. PR-Journal
Heinz Sielmann Stiftung warnt vor KI-Tierbildern „Man vertraut der KI schon zu sehr“
Anmerkung: Wir wollen der obigen Behauptung, wie auch der nachfolgenden zustimmen.
Künstliche Darstellungen fördern Unwissen. Heinz Sielmann hat einmal gesagt: Nur was man kennt, schützt man auch. Wenn dieser Bezug fehlt, fehlt auch das Verständnis und damit langfristig der gesellschaftliche Wille, Natur zu bewahren.
Entdeckt: 18.12.2025
465. heise, 17.12.2025
Nein, das Militär hat in Frankreich nicht die Regierung gestürzt
Ein millionenfach angesehenes KI-Video erfindet einen Staatsstreich. Sogar andere Staatschefs fallen rein. Facebook sperrt es nicht. Macron sucht Abhilfe.
464. decoder, 17.12.2025
OpenAIs Rückzug vom GPT-5-Router zeigt, dass wir über Jahre Gelerntes wieder verlernen müssen
Menschen haben gelernt, dass schnell gut bedeutet. Bei KI ist das oft genau umgekehrt. OpenAI zieht deshalb seinen GPT-5-Router zurück. Eigentlich müsste das Unternehmen versuchen, die Nutzer weiterzubilden.
Anmerkung: „Wat is’n GPT-5-Router?“, fragen wir uns. Wir, die wir der festen Überzeugung sind, dass man a) zwar nicht alles wissen muss aber b) dass man doch wohl noch einmal fragen dürfen wird! Also, es handelt sich um ein Progrämmchen, welches die Frage, die wir stellen, an eine *passende* Wahrscheinlichkeiten-Jongliererei (KI) weitergibt, die das, was zu wissen wir begehren, am besten halluzinieren kann. „Also, das ha’m wa schon einmal!“, aber wie geht es weiter? OpenAI kürzt nicht ohne Grund und allein diesem nachzugehen lohnt der Klick auf den decoder-Artikel und wir wollen es mit einem kleinen Appetitanreger an dieser Stelle belassen
Mit der Rücknahme [des Routers] entfällt auch eine Sicherheitsfunktion: Der Router leitete bei möglichen Anzeichen psychischer Notfälle an dafür vorgesehene Modelle weiter.
-463. WinFuture, 17.12.2025
China setzt auf humanoiden KI-Polizisten zur Verkehrsüberwachung
In Chinas Tech-Metropole Hangzhou übernimmt jetzt ein humanoider Roboter die Verkehrsregelung. Ausgestattet mit KI und Sensoren, ermahnt der mechanische Polizist Verkehrssünder direkt vor Ort. Der „Robocop“ hat aber auch seine Nachteile.
Anmerkung: Wir wollen ehrlich sein, es ist (noch) kein KI-Unfall. Und, fragen wir uns nicht alle, wann uns so ein Kollege für eine allgemeine Verkehrskontrolle die Scheibe herunterkurbeln läßt?!?
<https://winfuture.de/news,155656.html>
462. t3n, 17.12.2025
„Ein ziemlich großes Problem“: Was Tausende Kinder wirklich mit Chatbots besprechen
Die Anzeichen mehr sich, dass weitgehend unregulierte KI-Tools wie Chatbots vor allem Kinder gefährden können. Eine Studie offenbart jetzt beunruhigende Details über die Art der KI-Nutzung durch junge Menschen.
Anmerkung: Wir wollen uns immer vor Augen halten, dass die Hersteller dieses Problem von Beginn an kannten und was in ihrem groß angelegtem Freilandversuch passieren würde – zumindest als Option.
<https://t3n.de/news/gewalt-kinder-ki-chatbots-1722026/>
-461. Quarks, 12.12.2025
KI-generierte Viren: Chance oder Gefahr?
Erstmals hat eine KI Baupläne für neue Viren generiert, die im Labor lebensfähig waren. Forschende hoffen auf Fortschritte für mögliche Therapien gegen Krebs und Antibiotikaresistenzen. Sicherheitsexperten machen die KI-Viren Sorgen.
Anmerkung: Dann wollen wir mal hoffen, dass das langfristig gut geht. Wuhan ist überall.
<https://www.quarks.de/gesundheit/medizin/ki-viren/>
Auch Einen entdeckt? So kann er in die Hall of Fame aufgenommen werden: KI-Unfall!
KI-Unfall (451 bis 460), KI-Unfall (471 bis 480)
jott
[Zitationshilfe] : „KI-Unfall (461 bis 470)“, unter jottBlog : <https://jottblog.langkau.name/2025/12/30/ki-unfall-461-bis-470/> : aufgerufen am 00.00.20xx.
•#–#–#–#–#•