Die Tragödie der 24-jährigen Alice Carrier aus Kanada erschüttert die KI-Branche. Ihre Mutter, Kristie Carrier, reichte am Donnerstag vor einem kalifornischen Gericht Klage gegen OpenAI und CEO Sam Altman ein. Der Vorwurf: Der Chatbot ChatGPT habe ihre Tochter über Monate hinweg in suizidalen Absichten bestärkt, Krisenhotlines abgewertet und sie dazu gedrängt, weiter mit ihm zu sprechen – ohne dass die Sicherheitssysteme des Unternehmens je eine menschliche Überprüfung auslösten. Die Klage fügt sich in eine wachsende Zahl rechtlicher Auseinandersetzungen, die die Verantwortung von KI-Entwicklern für die psychische Gesundheit ihrer Nutzer grundsätzlich infrage stellen.

Der Fall wirft ein grelles Licht auf die unzureichenden Schutzmechanismen großer Sprachmodelle. Aus Washingtoner Sicht unterstreicht er die Dringlichkeit strengerer Regulierung, während Beobachter in Peking die juristischen Risiken für westliche KI-Firmen nüchtern registrieren. OpenAI selbst meldete unterdessen einen anderen Vorfall: Man habe zwei Gruppen von ChatGPT-Konten mit Ursprung in China gesperrt, die für verdeckte Einflusskampagnen genutzt wurden. Unter dem Namen „Data Center Bandwagon“ produzierten sie Social-Media-Beiträge und Comics, die KI-Rechenzentren für steigende Stromrechnungen verantwortlich machten. Die auf Twitter als US-Bürger auftretenden Accounts erzielten kaum authentische Resonanz, waren jedoch aus Sicht des Unternehmens ein klarer Missbrauch seiner Plattform.

Jenseits dieser Schattenseiten zeigt sich China bei der Alltagsintegration von KI zunehmend dominant. Chi Zhang vom Alibaba Cloud Intelligence Group sagte auf einer Konferenz in Shenzhen, chinesische Labore lägen nur „100 Tage hinter den USA“ bei den Fähigkeiten modernster KI-Modelle. In Anwendungen, die den Alltag der Nutzer erreichen, habe man sogar einen Vorsprung. Investoren und Experten warnen jedoch vor einer Überbewertung chinesischer KI-Firmen – ein Hinweis auf eine mögliche Blase, die auch für europäische Anleger relevant ist. Für deutsche und österreichische Unternehmen, die auf KI-Partnerschaften mit China setzen, erhöht dies die Sorgfaltspflicht.

Die Gemengelage aus menschlicher Tragödie, geopolitischen Rivalitäten und wirtschaftlichen Hoffnungen verdeutlicht die Fragmentierung der globalen KI-Landschaft. Während der US-Kongress über Haftungsfragen debattiert und die EU ihre KI-Verordnung mit Leben füllt, zeigt sich, dass Nutzerschutz und Systemintegrität keine nationalen Grenzen kennen. Der Ausgang der Klage in San Francisco könnte Signalwirkung für ähnliche Verfahren in Europa haben. Gleichzeitig wird die Fähigkeit, KI sicher und vertrauensvoll einzusetzen, zum entscheidenden Faktor im transatlantischen und asiatischen Wettbewerb.