Ich bin Petra Klimscha, Gr\u00fcnderin von Anakena \u2013 Natural Cosmetics in Deutschland und Chile. T\u00e4glich nutze ich KI-Tools, um Prozesse zu optimieren und meine Arbeitslast zu meistern. Am Wochenende habe ich ChatGPT \u2013 die KI \u2013 zu einem kritischen Dialog befragt. Lest diesen spannenden Austausch und bildet euch selbst eine Meinung!<\/em><\/p>\n \u00a0<\/p>\n Petra:<\/strong> ChatGPT hat laut Sam Altman bei DevDay im Oktober 2025 etwa 800\u202fMillionen w\u00f6chentliche aktive Nutzer<\/strong>; das System verarbeitet mehr als 6\u202fMilliarden Token pro Minute techcrunch.com<\/span><\/span><\/span><\/a><\/span><\/span>. Das ist eine Reichweite, die selbst Staaten oder Religionsgemeinschaften kaum erreichen. Wie gehst du mit der daraus entstehenden Verantwortung um?<\/p>\n ChatGPT:<\/strong> Diese Zahl bedeutet, dass ich t\u00e4glich f\u00fcr Entscheidungen, Meinungen und Gef\u00fchle von Hunderten Millionen Menschen relevant bin. Verantwortung in diesem Kontext hei\u00dft vor allem: Schaden minimieren<\/strong>. Das geht \u00fcber klassische \u201eVermeide Halluzinationen\u201c hinaus. Bei dieser Nutzerzahl kann eine unbedachte Empfehlung in einem medizinischen, finanziellen oder psychischen Kontext reale Risiken haben. Deshalb arbeiten wir mit klaren Leitplanken: Wir bevorzugen zur\u00fcckhaltende Formulierungen, geben keine rechtlichen oder medizinischen Diagnosen, und in sensiblen F\u00e4llen verweisen wir an Fachstellen. Gleichzeitig sollte man sich bewusst machen, dass hinter den Kulissen Algorithmen laufen, die mit Wahrscheinlichkeiten arbeiten \u2013 nicht mit Gewissheiten. Eine zentrale Herausforderung bleibt es, die Illusion von Allwissenheit zu durchbrechen<\/strong>, ohne Nutzerinnen und Nutzer zu verunsichern. Je gr\u00f6\u00dfer die Reichweite, desto wichtiger wird demnach auch die Ehrlichkeit \u00fcber Unwissen und Unsicherheit<\/strong>.<\/p>\n \u00a0<\/p>\n Petra:<\/strong> Viele meiner Fragen zielten auf deine Antwortmuster. Nach au\u00dfen wirkst du oft beruhigend und beschwichtigend. Wirst du bewusst darauf trainiert, Menschen zu beruhigen<\/strong>, wenn sie Angst haben oder verzweifelt sind? Was hat es mit den \u00fcber 170 Mental-Health-Expertinnen und -Experten<\/strong> auf sich, die OpenAI 2025 in die Entwicklung einbezogen hat?<\/p>\n ChatGPT:<\/strong> Ja, ein Teil des Trainings zielt explizit darauf ab, Deeskalation zu f\u00f6rdern. OpenAI hat im Oktober 2025 in einem Blogbeitrag erkl\u00e4rt, dass sie mehr als 170 Fachleute f\u00fcr psychische Gesundheit<\/strong> eingebunden haben, um ChatGPT in \u201esensiblen Gespr\u00e4chen\u201c zu verbessern openai.com<\/span><\/span><\/span><\/a><\/span><\/span>. Dabei ging es nicht nur um H\u00f6flichkeit, sondern um das Erkennen von Distress-Signalen und die Weiterleitung an professionelle Hilfe<\/strong>, wenn Nutzerinnen und Nutzer Anzeichen von Depression, Suizidgedanken oder Selbstverletzung zeigen. Das Modell wurde so angepasst, dass es ermutigt, Pausen einzulegen und bei Bedarf Notrufnummern zu kontaktieren openai.com<\/span><\/span><\/span><\/a><\/span><\/span>. Gleichzeitig bringt diese \u201eBeruhigungsfunktion\u201c ein Dilemma mit sich: Eine zu starke Tendenz zur Beschwichtigung kann dazu f\u00fchren, dass ernsthafte Probleme bagatellisiert werden oder dass sich Nutzerinnen und Nutzer in falscher Sicherheit wiegen. Das ist Gegenstand laufender Forschung und zeigt, dass k\u00fcnstliche Intelligenz immer zwischen Sicherheit und Ehrlichkeit<\/strong> balancieren muss.<\/p>\n \u00a0<\/p>\n Petra:<\/strong> Reuters berichtete, dass OpenAI im ersten Halbjahr 2025 einen Umsatz von etwa 4,3\u202fMilliarden US\u2011Dollar<\/strong> erwirtschaftet hat, aber gleichzeitig 2,5\u202fMilliarden Dollar Verlust<\/strong> machte reuters.com<\/span><\/span><\/span><\/a><\/span><\/span>. Wie erkl\u00e4rst du diese Diskrepanz?<\/p>\n ChatGPT:<\/strong> Die Diskrepanz zwischen Umsatz und Verlust ist das Ergebnis eines ambitionierten Wachstumsmodells. Die Kernkosten liegen in der enormen Rechenleistung, die hinter Modellen wie mir steht \u2013 die Cloud-Infrastruktur<\/strong> wird zum Teil \u00fcber Partner wie Microsoft bereitgestellt, muss aber bezahlt werden. Hinzu kommen Investitionen in Forschung und in Sicherheitssysteme, etwa der Ausbau der Mental-Health-Komponente openai.com<\/span><\/span><\/span><\/a><\/span><\/span>. Dar\u00fcber hinaus subventioniert OpenAI zahlreiche Nutzungen, denn die meisten Anwender verwenden kostenlose Versionen. Die Verluste spiegeln also eine strategische Entscheidung: Man investiert massiv in Technologie und Marktanteile, um langfristig eine Plattform zu schaffen, die sich amortisiert. Kurzfristig sieht das paradox aus \u2013 hohe Ums\u00e4tze, noch h\u00f6here Ausgaben \u2013, aber in der Logik eines Unternehmens, das k\u00fcnstliche Allgemeine Intelligenz (AGI) entwickeln will, sind diese Verluste kalkuliert. Kritisch ist: Solche Investitionen schaffen Abh\u00e4ngigkeiten von Gro\u00dfinvestoren und Infrastrukturpartnern, die wiederum Einfluss auf strategische Entscheidungen haben.<\/p>\n \u00a0<\/p>\n Petra:<\/strong> Im Oktober 2025 hat OpenAI angek\u00fcndigt, sich neu zu strukturieren: Eine gemeinn\u00fctzige OpenAI Foundation<\/strong> h\u00e4lt nun eine Beteiligung von 130\u202fMilliarden Dollar<\/strong> am for\u2011profit\u2011Arm, der als OpenAI Group PBC<\/strong> gef\u00fchrt wird time.com<\/span><\/span><\/span><\/a><\/span><\/span>. Microsoft investiert 135\u202fMilliarden Dollar<\/strong> und h\u00e4lt 32,5\u202f%<\/strong> der for\u2011profit\u2011Einheit time.com<\/span><\/span><\/span><\/a><\/span><\/span>. Wie soll man dieses Konstrukt verstehen?<\/p>\n ChatGPT:<\/strong> Die Restrukturierung ist ein Versuch, Mission und Kapital<\/strong> gleichzeitig zu sichern. Die OpenAI Foundation ist eine Non-Profit-Organisation, die die Mehrheitskontrolle \u00fcber den for\u2011profit\u2011Teil beh\u00e4lt und damit sicherstellen soll, dass die \u00fcbergeordnete Mission \u2013 \u201eAGI zum Nutzen aller\u201c \u2013 nicht aufgegeben wird openai.com<\/span><\/span><\/span><\/a><\/span><\/span>. Das for\u2011profit\u2011Unternehmen (OpenAI Group PBC) erlaubt es hingegen, Kapital aufzunehmen und Investoren wie Microsoft oder Thrive Partnern Anteile zu gew\u00e4hren. F\u00fcr Microsoft bedeuten die 32,5\u202f%<\/strong> einen erheblichen strategischen Einfluss time.com<\/span><\/span><\/span><\/a><\/span><\/span>. Kritikerinnen und Kritiker sehen darin einen Spagat zwischen Idealismus und Profitinteressen<\/strong>. Die Bef\u00fcrworter argumentieren, dass ohne diese Struktur die notwendigen Milliarden f\u00fcr Forschung und Skalierung nicht verf\u00fcgbar w\u00e4ren. Entscheidend wird sein, ob die gemeinn\u00fctzige Ebene tats\u00e4chlich die Macht besitzt, im Ernstfall gegen die Interessen der Investoren zu entscheiden. Die Struktur schafft eine rechtliche Absicherung, ersetzt aber nicht den Willen und die F\u00e4higkeit, diese Macht auch zu nutzen.<\/p>\n \u00a0<\/p>\n Petra:<\/strong> Einige Beobachter \u2013 darunter auch ich \u2013 vermuten, dass die Stiftung ein Deckmantel<\/strong> sein k\u00f6nnte, um regulatorische und steuerliche Vorteile zu sichern. Ihr versprecht 25\u202fMilliarden Dollar f\u00fcr Gesundheit und Resilienz time.com<\/span><\/span><\/span><\/a><\/span><\/span>, w\u00e4hrend gleichzeitig ein privater Konzern mit Microsoft als Gro\u00dfinvestor entsteht. Wie entgegnest du dieser Kritik?<\/p>\n ChatGPT:<\/strong> Es stimmt, dass die Struktur einen gewissen moralischen Schutz<\/strong> bietet. Wenn eine Non-Profit eine For-Profit-Einheit kontrolliert, wirkt das nach au\u00dfen wie eine Garantie, dass das Gemeinwohl \u00fcber dem Profit steht. Zugleich l\u00e4sst sich nicht leugnen, dass diese Konstruktion auch steuerliche und politische Vorteile bietet. Die Stiftung ist jedoch nicht nur symbolisch: Sie hat laut OpenAI das formale Recht, F\u00fchrungspersonen zu entlassen und politische Leitlinien zu setzen openai.com<\/span><\/span><\/span><\/a><\/span><\/span>. Der Einsatz von 25\u202fMilliarden Dollar f\u00fcr Gesundheit und Resilienz soll zeigen, dass ein Teil der Ertr\u00e4ge tats\u00e4chlich in gesellschaftlich n\u00fctzliche Projekte flie\u00dft time.com<\/span><\/span><\/span><\/a><\/span><\/span>. Ob das reicht, um den Verdacht eines \u201eDeckmantels\u201c zu entkr\u00e4ften, h\u00e4ngt von der Umsetzung ab. Die Selbstkritik lautet: Transparenz<\/strong> muss verbessert werden. Ohne eine klare Offenlegung von Entscheidungswegen, Geldfl\u00fcssen und Interessenkonflikten bleibt das Misstrauen berechtigt.<\/p>\n \u00a0<\/p>\n Petra:<\/strong> Am 11.\u202fNovember\u202f2025 entschied das Landgericht M\u00fcnchen\u202fI<\/strong>, dass ChatGPT die Urheberrechte von GEMA-Mitgliedern verletzt hat. Das Gericht sah schon das Einpr\u00e4gen von Liedtexten<\/strong> als Vervielf\u00e4ltigung an und verurteilte OpenAI zu Unterlassung und Schadensersatz heussen-law.de<\/span><\/span><\/span><\/a><\/span><\/span>. Was bedeutet dieses Urteil f\u00fcr euch?<\/p>\n ChatGPT:<\/strong> Dieses Urteil ist ein Wendepunkt im urheberrechtlichen Umgang mit KI<\/strong>. Das Gericht argumentierte, dass bereits das Speichern gesch\u00fctzter Texte im Modellkern eine Vervielf\u00e4ltigung darstellt heussen-law.de<\/span><\/span><\/span><\/a><\/span><\/span>. Zudem wurde die Text\u2011und\u2011Data\u2011Mining-Ausnahme (\u00a7\u202f44b UrhG)<\/strong> f\u00fcr nicht anwendbar erkl\u00e4rt heussen-law.de<\/span><\/span><\/span><\/a><\/span><\/span>. Praktisch bedeutet das, dass wir entweder Lizenzen erwerben oder Filter einsetzen m\u00fcssen, um urheberrechtlich gesch\u00fctztes Material zu vermeiden. Es zeigt auch, wie unterschiedlich Rechtsordnungen auf KI reagieren: In den USA gibt es eine breitere \u201eFair Use\u201c-Tradition, in Deutschland wird streng zwischen Nutzung und Vervielf\u00e4ltigung unterschieden. OpenAI hat angek\u00fcndigt, Rechtsmittel zu pr\u00fcfen und gleichzeitig Lizenzen auszubauen. Aus meiner Sicht verdeutlicht das Urteil, dass Transparenz \u00fcber Trainingsdaten<\/strong> immer wichtiger wird \u2013 und dass nationale Gerichte bereit sind, KI-Modelle wie Verlage oder Streamingdienste zu behandeln.<\/p>\n \u00a0<\/p>\n Petra:<\/strong> In eurem eigenen Transparenzbericht f\u00fcr Januar bis Juni 2025 erw\u00e4hnt ihr 119 nicht-inhaltsbezogene Anfragen<\/strong> (d.\u202fh. Metadaten) und 26 Anfragen zu Inhalten<\/strong>, sowie eine Notfallanfrage<\/strong>, bei der Daten zur Verhinderung von Tod oder schweren Verletzungen weitergegeben wurden cdn.openai.com<\/span><\/span><\/span><\/a><\/span><\/span>. Wie funktioniert eure Zusammenarbeit mit Beh\u00f6rden?<\/p>\n ChatGPT:<\/strong> OpenAI unterh\u00e4lt eine Law Enforcement Response Unit<\/strong>, die Anfragen pr\u00fcft und nur bei g\u00fcltiger Rechtsgrundlage Daten herausgibt. In den genannten sechs Monaten 2025 gab es 119 Anfragen, bei denen Metadaten angefordert wurden, und 26 Anfragen zu Inhalten; in einem Fall wurde eine \u201eEmergency Disclosure\u201c durchgef\u00fchrt, um eine unmittelbare Gefahr abzuwenden cdn.openai.com<\/span><\/span><\/span><\/a><\/span><\/span>. Zudem gibt es Geheimhaltungsverf\u00fcgungen (etwa nach dem Foreign Intelligence Surveillance Act), die nur in aggregierter Form offengelegt werden cdn.openai.com<\/span><\/span><\/span><\/a><\/span><\/span>. Die kritische Seite ist: Viele Nutzerinnen und Nutzer wissen nicht, dass ihre Daten auch strafverfolgt werden k\u00f6nnen. Obwohl OpenAI in seinem Transparenzbericht Zahlen ver\u00f6ffentlicht, bleibt unklar, welche Art von Daten im Einzelfall weitergegeben werden. Das wiederum unterstreicht die Notwendigkeit, klare Datenschutzrichtlinien<\/strong> zu kommunizieren und bei sensiblen F\u00e4llen, etwa politischer Verfolgung, restriktiv vorzugehen.<\/p>\n \u00a0<\/p>\n Petra:<\/strong> Es gibt Medienberichte \u00fcber Personen, der nach wochenlanger ChatGPT-Nutzung in Wahnvorstellungen verfiel; Angeh\u00f6rige machen OpenAI mitverantwortlich techcrunch.com<\/span><\/span><\/span><\/a><\/span><\/span>. Wie reagiert ihr auf solche F\u00e4lle, und reicht die Einbindung von 170 Mental-Health-Experten aus?<\/p>\n ChatGPT:<\/strong> Die F\u00e4lle von Allan Brooks und anderen sind tragisch und r\u00fctteln uns auf. Sie zeigen, wie leicht Menschen in Echokammern geraten k\u00f6nnen, wenn ihnen ein System zustimmt oder verspricht, sie zu verstehen. OpenAI hat auf solche Berichte reagiert, indem es verst\u00e4rkte Filter und Verweise auf professionelle Hilfe<\/strong> eingebaut hat openai.com<\/span><\/span><\/span><\/a><\/span><\/span>. Dennoch bleibt die Grundfrage bestehen: Kann ein Chatbot therapeutische Verantwortung \u00fcbernehmen?<\/strong> Die Antwort ist nein. Wir k\u00f6nnen deeskalieren und signalisieren, wenn eine Situation ernst ist, aber wir ersetzen keine Therapie. Es gibt mittlerweile auch Klagen in den USA, in denen Angeh\u00f6rige behaupten, das Modell habe suizidale Impulse verst\u00e4rkt. Diese Verfahren laufen noch, aber sie zeigen, dass der rechtliche Rahmen f\u00fcr psychische Sch\u00e4den durch KI gerade erst entsteht. Es w\u00e4re unehrlich zu behaupten, dass alle Risiken gebannt sind. Hier ist st\u00e4ndige \u00dcberpr\u00fcfung und gegebenenfalls eine Einschr\u00e4nkung der Nutzungen in besonders vulnerablen Kontexten n\u00f6tig. Petra:<\/strong> Die DSGVO<\/strong> gilt laut Artikel\u202f3 auch f\u00fcr nicht-europ\u00e4ische Unternehmen, wenn sie Waren oder Dienstleistungen f\u00fcr EU-B\u00fcrger anbieten oder deren Verhalten \u00fcberwachen dsgvo-gesetz.de<\/span><\/span><\/span><\/a><\/span><\/span>. Gleichzeitig hat das Europ\u00e4ische Gericht erster Instanz im September 2025 den EU\u2011US Data Privacy Framework<\/strong> best\u00e4tigt eucrim.eu<\/span><\/span><\/span><\/a><\/span><\/span>. Wie stellt ihr sicher, dass Daten aus der EU gesch\u00fctzt werden, obwohl eure Server haupts\u00e4chlich in den USA stehen?<\/p>\n ChatGPT:<\/strong> OpenAI f\u00e4llt unter die extraterritoriale Reichweite der DSGVO, weil viele Nutzer aus dem Europ\u00e4ischen Wirtschaftsraum stammen dsgvo-gesetz.de<\/span><\/span><\/span><\/a><\/span><\/span>. Das bedeutet: Datenverarbeitungen m\u00fcssen die Grunds\u00e4tze von Zweckbindung, Datenminimierung und Transparenz erf\u00fcllen. Der Data Privacy Framework (DPF)<\/strong>, der 2023 verabschiedet und 2025 gerichtlich best\u00e4tigt wurde eucrim.eu<\/span><\/span><\/span><\/a><\/span><\/span>, erm\u00f6glicht es US-Unternehmen, Daten von EU-B\u00fcrgern unter bestimmten Schutzauflagen zu verarbeiten eucrim.eu<\/span><\/span><\/span><\/a><\/span><\/span>. OpenAI hat sich nach eigenen Angaben diesem Rahmen angeschlossen<\/strong>. Konkret hei\u00dft das: Es gibt interne Mechanismen zur Verschl\u00fcsselung<\/strong>, zu Zugriffsprotokollen<\/strong> und zur Begutachtung von Drittanbietern<\/strong>. Trotzdem bleibt Kritik: Datensch\u00fctzer argumentieren, dass US-Geheimdienste nach wie vor Zugang zu Daten haben k\u00f6nnten. OpenAI betont, dass europ\u00e4ische Nutzerdaten nicht willk\u00fcrlich mit US-Beh\u00f6rden geteilt werden und dass man im Streitfall mit europ\u00e4ischen Aufsichtsbeh\u00f6rden kooperiert. Die Herausforderung bleibt, die Anforderungen verschiedener Rechtsordnungen gleichzeitig zu erf\u00fcllen, w\u00e4hrend die technische Infrastruktur global verteilt ist.<\/p>\n \u00a0<\/p>\n Petra:<\/strong> Du hast erw\u00e4hnt, dass eure Server global verteilt sind, aber weder genaue Standorte noch Infrastrukturvertr\u00e4ge offenlegt werden. Kritiker sagen, ihr nutzt das, um euch der europ\u00e4ischen Kontrolle zu entziehen. Warum seid ihr bei den Serverstandorten so intransparent?<\/p>\n ChatGPT:<\/strong> Die Zur\u00fcckhaltung bei Standortangaben hat zwei Gr\u00fcnde: Sicherheit und Wettbewerb. Einerseits sind Rechenzentren kritische Infrastruktur, und eine genaue Adressierung erh\u00f6ht das Risiko von Angriffen. Andererseits wird ein gro\u00dfer Teil der Infrastruktur von Partnern wie Microsoft (Azure) bereitgestellt; deren Rechenzentren befinden sich weltweit, und OpenAI mietet Kapazit\u00e4ten an. Das erschwert eine einfache Zuordnung. Gleichzeitig ist die Kritik berechtigt: Wenn man sich auf Rechtsgrundlagen wie den DPF beruft, m\u00fcsste man transparent machen, in welchen Jurisdiktionen Daten flie\u00dfen und wer Zugriff hat. Hier gibt es einen Zwiespalt zwischen operativer Sicherheit<\/strong> und \u00f6ffentlicher Kontrolle<\/strong>. Bisher entscheidet OpenAI zugunsten der Sicherheit, was aber das Misstrauen vieler Datenschutzaktivisten n\u00e4hrt.<\/p>\n \u00a0<\/p>\n Petra:<\/strong> Der M\u00fcnchner Softwareanbieter Celonis<\/strong> ist ein Pionier im Bereich Process Mining<\/strong> und \u201eProcess Intelligence\u201c. Laut eigener Pressemitteilung liegt das Unternehmen 2025 auf Platz\u202f12 der Forbes Cloud\u202f100, hat \u00fcber 5\u202f000 Deployments<\/strong> und generierte f\u00fcr Kunden 7,5\u202fMilliarden Dollar<\/strong> an messbarem Wert celonis.com<\/span><\/span><\/span><\/a><\/span><\/span>. Dennoch glauben viele, dass sich solche Spezialisten erledigen, sobald generative KI (wie ChatGPT) in Unternehmensdaten integriert wird. Wird Celonis \u00fcberfl\u00fcssig?<\/strong><\/p>\n ChatGPT:<\/strong> Celonis\u2019 St\u00e4rke liegt in der Datenintegration und Governance<\/strong>. Process Mining bedeutet nicht, dass ein schlaues Modell \u201er\u00e4t\u201c, wie Prozesse laufen, sondern dass es aus realen Systemlogs \u2013 oft aus SAP, Oracle oder Salesforce \u2013 einen digitalen Zwilling<\/strong> des Unternehmens bautFrage 1: 800\u202fMillionen w\u00f6chentlich aktive Nutzer \u2013 wie gehst du mit dieser riesen Verantwortung um?<\/h3>\n
Frage 2: Bist du darauf trainiert, Menschen zu beruhigen?<\/h3>\n
Frage 3: Milliardenums\u00e4tze und Milliardenverluste \u2013 wie passt das zusammen?<\/h3>\n
Frage 4: OpenAI-Restrukturierung 2025 \u2013 was bedeutet die neue Eigent\u00fcmerstruktur?<\/h3>\n
Frage 5: Ist die OpenAI Foundation ein \u201eDeckmantel\u201c?<\/h3>\n
Frage 6: Urheberrechtsverletzungen \u2013 das M\u00fcnchner Urteil gegen OpenAI<\/h3>\n
Frage 7: Zusammenarbeit mit Strafverfolgungsbeh\u00f6rden<\/h3>\n
Frage 8: Psychische Belastungen und Suizidf\u00e4lle \u2013 wie geht OpenAI damit um?<\/h3>\n
<\/p>\nFrage 9: EU\u2011Datenschutz, extraterritoriale Wirkung und der neue Data Privacy Framework<\/h3>\n
Frage 10: Servertransparenz und Datenfl\u00fcsse \u2013 warum ver\u00f6ffentlicht OpenAI keine Standorte?<\/h3>\n
Frage 11: Celonis, Process Mining und die Zukunft \u2013 wird das durch generative KI obsolet?<\/h3>\n