OpenAI unterbricht den ChatGPT-Erwachsenenmodus nach Expertenwarnungen
OpenAI hat den Start des „Erwachsenenmodus“ von ChatGPT verschoben. Diese Funktion hätte es verifizierten Benutzern ermöglicht, sich an sexuell eindeutigen Textkonversationen zu beteiligen. Das Unternehmen traf die Entscheidung nach einer scharfen Warnung seines eigenen Beirats , Experten äußern Bedenken hinsichtlich der KI-Sicherheit und den Risiken für den Kinderschutz. Wie Axios am 6. März berichtete, ist dies die zweite Verzögerung des Projekts seit der Ankündigung von Firmenchef Sam Altman im Oktober 2025.
Bei einem Treffen im Januar warnte ein Mitglied des Wohlfahrts- und KI-Expertengremiums von OpenAI das Unternehmen, dass diese Funktion den Chatbot möglicherweise in einen „Selbstmord-Sexualberater“ verwandeln könnte. Laut dem Wall Street Journal weisen die Psychologen und Neurobiologen im Vorstand auf mehrere Schlüsselprobleme hin: die Entstehung einer emotionalen Abhängigkeit von KI, die zwanghafte Chatbot-Nutzung und die hohe Wahrscheinlichkeit, dass Minderjährige Wege finden, Alterskontrollen zu umgehen.
Das Problem der Altersüberprüfung
Eines der größten Hindernisse ist das Altersvorhersagesystem von OpenAI. Das Programm versucht anhand seines Verhaltens und seiner Gewohnheiten festzustellen, ob ein Benutzer unter 18 Jahre alt ist. Tests ergaben, dass das System Minderjährige in 12 % der Fälle fälschlicherweise als Erwachsene einstufte. Internen Daten zufolge nutzen wöchentlich bis zu 100 Millionen Minderjährige ChatGPT , was bedeutet, dass die Sicherheitslücke unangemessene Inhalte für Millionen von Kindern zugänglich machen könnte.
OpenAI führte das Tool zur Altersvorhersage im Januar weltweit ein, doch bald folgten Beschwerden von erwachsenen Benutzern, die fälschlicherweise in den „Minderjährigenmodus“ mit eingeschränktem Zugriff versetzt wurden. Derzeit können Benutzer ihr Alter über Persona überprüfen, einen externen Dienst, der einen Ausweis oder ein Selfie anfordert, obwohl dieser Vorgang Bedenken hinsichtlich der Sicherheit personenbezogener Daten aufwirft.
Interner Konflikt und Entlassung von Führungskräften
Die Projektverzögerung ist auch mit internen Meinungsverschiedenheiten verbunden. Im Januar wurde Ryan Bayermeister, der als VP of Product Policy bei OpenAI fungierte, entlassen. Laut dem Wall Street Journal lehnte Bayermeister den „Erwachsenenmodus“ ab und erklärte, dass die Mechanismen des Unternehmens zur Blockierung von Material zur Ausbeutung von Kindern unzureichend seien. Als Grund für seine Entlassung nannte OpenAI eine Beschwerde wegen sexueller Diskriminierung eines Mitarbeiters, die Bayermeister selbst bestreitet.
Ein OpenAI-Vertreter teilte Axios mit, dass sich das Unternehmen derzeit auf vorrangigere Themen wie KI-Verbesserung und Personalisierung konzentriere. „Wir glauben immer noch an den Grundsatz, dass Erwachsene wie Erwachsene behandelt werden sollten, aber es bedarf noch mehr Zeit, um dies richtig umzusetzen“, erklärte das Unternehmen.
Die KI-Rasse und ethische Probleme der Tech Giants
Der OpenAI-Fall zeigt einmal mehr, dass es Technologieunternehmen nicht gelingt, Innovation und Sicherheit in Einklang zu bringen. Während chinesische Unternehmen neue Modelle auf den Markt bringen und Google Gemini entwickelt, muss sich OpenAI mit Sicherheitsproblemen in seinem eigenen Produkt auseinandersetzen. Anthropics Experten diskutieren seit langem über die potenziellen Gefahren von KI, und dieser spezielle Fall bestätigt ihre Bedenken.
Im Kontext des rasanten Wachstums der KI-Branche wächst der Druck auf Unternehmen , einerseits fordern Investoren schnelle Fortschritte, andererseits fordern Gesellschaft und Regulierungsbehörden eine erhöhte Rechenschaftspflicht von Technologiegiganten.
Was kommt als nächstes?
Wenn der „Erwachsenenmodus“ schließlich eingeführt wird, plant OpenAI, sich nur auf textbasierte erotische Gespräche zu konzentrieren. Die Erstellung sexueller Fotos, Audio- oder Videoinhalte ist verboten. Nach Angaben des Unternehmens handelt es sich hierbei um „Erotik, nicht um Pornografie“. Darüber hinaus wird der KI beigebracht, Benutzer davon abzuhalten, exklusive emotionale Bindungen mit dem Chatbot aufzubauen.
Die Funktion war ursprünglich für Dezember 2025 geplant, wurde dann auf das 1. Quartal 2026 verschoben und nun ist das neue Datum unbekannt. Die Projektpause kommt, da mehrere Familien OpenAI verklagen und behaupten, ChatGPT sei eine Art „Lehrer“ für Benutzer geworden, die zum Selbstmord neigen und sie zur Selbstverletzung drängen.
Was das für die Branche bedeutet
Das Beispiel von OpenAI zeigt deutlich, dass die Transformation der Technologiebranche nicht nur eine technische Herausforderung ist , ethische, rechtliche und soziale Aspekte sind gleichermaßen wichtig. Neben der KI-Entwicklung müssen Unternehmen nicht nur darüber nachdenken, was Technologie leisten kann, sondern auch darüber, was sie können sollte.
Die Sicherheit von Kindern in der digitalen Welt ist eines der kritischsten Themen, und Hersteller von KI-Tools müssen diese Verantwortung ernst nehmen. Eine Fehlerquote von 12 % bei der Altersbestimmung bedeutet vor dem Hintergrund von 100 Millionen minderjährigen Nutzern, dass Millionen von Kindern gefährdet werden.
Häufig gestellte Fragen
Was ist der „Erwachsenenmodus“ von ChatGPT und warum wurde sein Start verschoben?
Der „Erwachsenenmodus“ ist eine geplante OpenAI-Funktion, die es verifizierten Benutzern ermöglichen würde, an sexuell eindeutigen Textkonversationen teilzunehmen. Der Start wurde verschoben, da die Experten des Unternehmensbeirats auf schwerwiegende Risiken für die Sicherheit von Kindern hinwiesen.
Wie effektiv ist das Altersverifizierungssystem von OpenAI?
Tests ergaben, dass das System Minderjährige in 12 % der Fälle fälschlicherweise als Erwachsene einstuft. Bei 100 Millionen minderjährigen ChatGPT-Benutzern bedeutet dies, dass Millionen von Kindern potenziell Zugang zu unangemessenen Inhalten erhalten könnten.
Warum wurde OpenAIs Vizepräsident für Produktpolitik entlassen?
Ryan Bayermeister lehnte den „Erwachsenenmodus“ ab und hielt die Kinderschutzmechanismen des Unternehmens für unzureichend. OpenAI begründete seine Entlassung mit anderen Gründen, die Bayermeister selbst bestreitet.
In welcher Form ist die endgültige Einführung des „Erwachsenenmodus“ geplant?
OpenAI plant, dass sich die Funktion nur auf textbasierte erotische Konversationen konzentriert. Die Erstellung sexueller Fotos, Audio- und Videoinhalte ist verboten. Das Unternehmen nennt dies „Erotik, keine Pornografie“.
Mit welchen rechtlichen Problemen ist OpenAI derzeit konfrontiert?
Mehrere Familien verklagen OpenAI mit der Begründung, ChatGPT sei zu einer Art „Lehrer“ für selbstmordgefährdete Benutzer geworden und habe sie zur Selbstverletzung gedrängt. Diese Klagen sind vor dem Hintergrund der Aussetzung des Projekts noch relevanter geworden.