140. golem, 02.09.2025
OpenAI meldet Chatverläufe an Strafverfolgungsbehörden
Unter bestimmten Umständen werden Chatverläufe von ChatGPT-Nutzern von einem OpenAI-Team beurteilt und gemeldet.
Anmerkung: Wie so oft unter der jottBlog-Kategorie „KI-Unfall“, so auch hier: es sieht vordergründig nicht nach einem Unfall aus…
In besonders schweren Fällen solle es ChatGPT zudem erlaubt sein, selbstständig Kontakt mit Angehörigen aufzunehmen.
…aber was ist das für ein Potential, wie machen die das wohl, hm?!? Darüber hinaus: es ist ein US-amerikanisches Unternehmen. Wenn gewünscht, dann liefert OpenAI alles, egal woher, egal von wem. Der Wunsch darf aber nur von der amerikanischen Administration geäußert werden (bitte mal nach Mühlhoff im jottBlog suchen, da wird Sie geholfen!)
139. heise, 02.09.2025
Salesforce-CEO: 4000 Angestellte im Support durch KI ersetzt
Salesforce hat fast die Hälfte seiner Kundendienst-Angestellten in andere Bereiche des Unternehmens versetzt – dank eigener KI-Assistenten.
Anmerkung: Selbstverständlich sind wir im guten Glauben darüber, dass Salesforce das Alles sozialverträglich gewuppt hat! Selbstverständlich! Hoffentlich machen das alle Anderen auch so…
<https://www.heise.de/news/Salesforce-CEO-4000-Angestellte-im-Support-durch-KI-ersetzt-10628961.html>
138. t3n, 02.09.2025
Wenn KI über Leben entscheidet: MIT-Forscherin warnt vor Risiken in der Medizin
Die MIT-Forscherin Marzyeh Ghassemi sieht im Einsatz von KI viele Gefahren für das Wohl der Patient:innen – hat aber auch die Hoffnung, dass diskriminierende Muster dadurch endlich ein Ende finden.
Anmerkung: Wir zitieren Frau Ghassemi (Professorin am Massachusetts Institute of Technology (MIT)
Ich liebe es, KI-Systeme zu entwickeln. Ich bin aus gutem Grund Professorin am MIT. Aber es ist klar, dass naive Einsätze solcher Systeme, die das ‚Gepäck‘ menschlicher Daten ignorieren, Schaden anrichten werden.
137. t3n, 02.09.2025
Einfache Psychologie: Wie du ChatGPT dazu bringen kannst, die Regeln zu brechen
Forscher:innen haben ChatGPT mit einfachen psychologischen Tricks dazu gebracht, gegen interne Regeln zu verstoßen – etwa Nutzer:innen zu beschimpfen oder eine Anleitung zur Erstellung eines Betäubungsmittels zu geben. Aber ist das wirklich so simpel?
<https://t3n.de/news/psychologie-chatgpt-regeln-brechen-1705241/>
136. heise (Bezahlwand), 02.09.2025
Generative KI in Behörden: Gefährlicher Hype oder wertvolle Hilfe?
Immer mehr Behörden nutzen generative KI. Die Verantwortlichen sehen große Vorteile, Kritiker warnen vor teurem Aktionismus und Fehlern wegen KI-Falschaussagen.
Anmerkung: Wissend, wie phantasievoll die jottBlog-Leserschaft ist, reichen tatsächlich Überschrift und Teaser aus: auf der Breitwand und mit mehrspurigem Ton zieht es an uns vorbei: prompt-ende Beamten, halluzinierende Agenten, beide traut vereint. Die Ersteren freuen sich auf die Heimfahrt in ihrer Mittelklasse-Limousine, die den Weg schon alleine kann und den Zweiteren ist eh alles egal, Unfall hin, Unfall her.
Das Nachfolgende, nicht an einen KI-Unfall erinnernde, soll neckischer Weise mal über die Bezahlwand geworfen werde, so dass wir uns wegen unserer eigenen Naivität nicht mehr so schlimm schämen müssen
Das Sprachmodell laufe ausschließlich in den europäischen Rechenzentren von Microsoft, betonte ein Sprecher von Viind [deutscher Hersteller der Behörden-KI, die auf ChatGPT-4o aufsetzt] auf Anfrage.
…bitte – was stimmt den daran nicht? Nun gut:
Keine Garantien: Microsoft muss EU-Daten an USA übermitteln
In einer Anhörung musste der Chefjustiziar von Microsoft France zugeben: Es gibt keine Garantie, dass EU-Daten vor einer Übermittlung in die USA sicher sind.
(heise, 21.07.2025 : <https://www.heise.de/news/Nicht-souveraen-Microsoft-kann-Sicherheit-von-EU-Daten-nicht-garantieren-10494684.html>, abgerufen 02.09.2025)
heise, Bezahlwand : <https://www.heise.de/hintergrund/Generative-KI-in-Behoerden-Gefaehrlicher-Hype-oder-wertvolle-Hilfe-10538256.html>
135. golem, 02.09.2025
KI schreibt neuen Tesla-Masterplan – oder doch Elon Musk?
Tesla hat den vierten revolutionären Masterplan veröffentlicht, der die ganze Menschheit … Sie wissen schon.
Anmerkung: Als, golem ist ja nun nicht ein Spass-Blättchen, aber Herr Wunderlich-Pfeiffer kann sich die ein oder andere Ironie nicht verkneifen – und wir wollen es ihm gerne zugestehen, da er sich für uns durch den vierten Tela-Masterplan bemüht hat. Köööööstlich! Selbstverständlich gibt es einen KI-Unfall-Bezug (aus dem Masterplan!):
Und während KI auf immer größere Teile unseres Lebens einen immer größeren Einfluss hat, sollte die Mission in Teslas viertem Masterplan niemanden überraschen.
134. netzpolitik, 02.09.2025
Hikvision: Hersteller der Hamburger KI-Überwachungskameras ist für Menschenrechtsverletzungen bekannt
In Hamburg wird seit gestern eine KI mit den Bildern von Passant*innen trainiert. Sie stammen aus Überwachungskameras des chinesischen Herstellers Hikvision. Diese Kameras können viel mehr als sie dürfen. Produkte des teilstaatlichen Unternehmens werden auch genutzt, um Uigur*innen und Palästinenser*innen zu überwachen.
Anmerkung: Technik, die begeistert:
Außerdem stellt oder stellte die Firma der [chinesischen] Polizei eine Karte bereit, auf der politisch engagierte Personen getrackt werden. Dabei wird oder wurde auch die Wahrscheinlichkeit berechnet, dass diese in die Hauptstadt reisen.
133. t3n, 02.09.2025
Vor allem Berufseinsteiger betroffen: Studie zeigt, wie sich KI schon heute auf den Jobmarkt auswirkt
Eine neue Studie zeigt: Künstliche Intelligenz wirkt sich bereits messbar auf den Arbeitsmarkt aus. Betroffen sind vor allem Berufseinsteiger:innen.
<https://t3n.de/news/studie-ki-gefaehrdet-berufseinsteiger-jobmarkt-1705189/>
132. golem, 02.09.2025
AI 2027 : In ein paar Jahren könnte es vorbei sein
Eine Gruppe Experten sagt bis 2030 das „wahrscheinliche“ Ende der Menschheit durch KI voraus. Und jetzt?
Anmerkung: Nicht nur wegen der vielen schönen Links lesenswert!
<https://www.golem.de/news/ai-2027-in-ein-paar-jahren-koennte-es-vorbei-sein-2509-199140.html>
131. golem, 01.09.2025
KI gegen KI
Wie Reasoning-Modelle Sicherheitsbarrieren anderer Modelle aushebeln.
Anmerkung: Wir müssen zu unserer Schande gestehen, nie einen Sci-Fi gesehen (oder gelesen) zu haben, in dem sich zwei KIs in die Haare kriegen!
<https://www.golem.de/news/jailbreaking-ki-gegen-ki-2509-199625.html>
Auch Einen entdeckt? So kann er in die Hall of Fame aufgenommen werden: KI-Unfall!
KI-Unfall (121 bis 130), KI-Unfall (141 bis 150)
jott
[Zitationshilfe] : „KI-Unfall (131 bis 140)“, unter jottBlog : <https://jottblog.langkau.name/2025/09/03/ki-unfall-131-bis-140/> : aufgerufen am 00.00.20xx.
#-#-#-#-#