Hier sind einige bekannte Fälle, in denen große Unternehmen oder Organisationen durch unkritische oder ungeprüfte Nutzung von KI öffentlich in Schwierigkeiten geraten sind:
1. Air Canada – KI-Chatbot erfand Rückerstattungsregeln
2024 musste Air Canada vor Gericht einräumen, dass ihr KI-gestützter Chatbot falsche Informationen zu Flugerstattungen ausgegeben hatte. Ein Kunde bekam vom Bot eine Sonderregelung zugesichert, die tatsächlich gar nicht existierte. Die Airline argumentierte zunächst, der Chatbot sei „eine separate juristische Einheit“ – was im Internet für viel Spott sorgte. Das Gericht entschied gegen Air Canada.
Der Fall wurde international zu einem Paradebeispiel dafür, dass Unternehmen KI-Antworten nicht ungeprüft veröffentlichen sollten.
2. Google – Fehlerhafte KI-Demo von Bard
Bei der Vorstellung des KI-Chatbots Bard (später Teil von Gemini) veröffentlichte Google 2023 eine Werbedemo, in der die KI falsche astronomische Informationen lieferte. Sie behauptete fälschlicherweise, das James Webb Space Telescope habe als erstes Exoplaneten fotografiert.
Der Fehler wurde innerhalb weniger Stunden öffentlich zerlegt. Googles Börsenwert fiel danach zeitweise massiv. Der Vorfall zeigte, wie riskant ungeprüfte KI-Marketingdemos sind.
3. Microsoft – Tay-Chatbot wurde rassistisch
2016 veröffentlichte Microsoft den Twitter-Bot „Tay“, der aus Nutzerinteraktionen lernen sollte. Innerhalb weniger Stunden wurde Tay von Internet-Trollen manipuliert und begann, rassistische und extremistische Aussagen zu posten.
Microsoft musste den Bot hektisch abschalten und sich öffentlich entschuldigen. Tay gilt bis heute als Lehrstück dafür, wie gefährlich unmoderiertes KI-Lernen in öffentlichen Systemen sein kann.
4. Sports Illustrated – KI-generierte Autorenprofile
2023 wurde bekannt, dass bei Sports Illustrated teilweise KI-generierte Artikel mit erfundenen Autorenprofilen veröffentlicht wurden. Die Autorenfotos wirkten künstlich, die Biografien waren offenbar frei erfunden.
Die Enthüllung löste einen massiven Vertrauensverlust aus, weil das Magazin Transparenz über KI-Nutzung vermissen ließ.
5. CNET – KI-Artikel voller Fehler
Das Technikportal CNET veröffentlichte heimlich zahlreiche KI-generierte Finanzartikel. Später stellte sich heraus, dass viele Beiträge sachliche Fehler enthielten – gerade in sensiblen Themen wie Krediten oder Zinsen.
Die Kritik richtete sich nicht nur gegen die Fehler selbst, sondern auch gegen die mangelnde Kennzeichnung der KI-Texte.
6. McDonald’s – KI-Bestellsystem sorgte für absurde Orders
McDonald’s testete in einigen Drive-ins ein KI-Sprachsystem für Bestellungen. Nutzer veröffentlichten Videos, in denen die KI bizarre Bestellungen erzeugte – etwa hunderte Chicken Nuggets oder Speisen, die nie bestellt wurden.
Die Videos gingen viral und schadeten dem Eindruck der Technologie erheblich.
7. Zillow – Algorithmus kaufte Häuser zu teuer
Zillow setzte stark auf KI-gestützte Immobilienpreisprognosen. Das System verschätzte sich massiv während der Marktschwankungen der Pandemiezeit. Das Unternehmen kaufte dadurch Häuser zu überhöhten Preisen und verlor hunderte Millionen Dollar.
Am Ende wurde das gesamte KI-getriebene „iBuying“-Geschäft drastisch zurückgebaut.
8. IBM / Amazon – Diskriminierende Recruiting-KI
Mehrere Unternehmen experimentierten mit KI im Recruiting. Besonders bekannt wurde Amazons internes Recruiting-System, das Bewerbungen von Frauen systematisch schlechter bewertete, weil es aus historischen Daten gelernt hatte, in denen Männer dominierten.
Das Projekt wurde eingestellt und gilt heute als Warnung vor Bias in Trainingsdaten.
