OpenAI beabsichtigt, einen Erwachsenenmodus für ChatGPT einzuführen. Diese Funktion ermöglicht Textgespräche zu Themen für Erwachsene. Im Wall Street Journal gibt ein OpenAI-Sprecher an, dass es sich bei den autorisierten Inhalten um anstößige Texte und nicht um Pornografie handeln werde. Die Generierung von Bildern, Audio oder Videos erfolgt nicht.
Ein Projekt, das Kontroversen hervorruft
Das Projekt löste eine Welle von Bedenken aus, auch innerhalb von OpenAI selbst. Ein BeiratDie vom Unternehmen eigens eingerichtete Informationstafel warnte einhellig vor den möglichen Gefahren.
Experten befürchten, dass diese Funktion eine ungesunde emotionale Abhängigkeit fördern könnte in Richtung des Chatbots, vor dem Hintergrund bereits tragischer Fälle, in denen Benutzer intensive und schädliche Verbindungen zur KI aufgebaut haben.
Diese Warnungen wurden bereits im Januar ausgesprochen, aber OpenAI scheint entschlossen zu sein, weiterzumachen und gleichzeitig den Start zu verzögern, um sich auf vorrangige Aufgaben zu konzentrieren.
Die wichtigsten technischen und ethischen Herausforderungen
Das größte technische Hindernis liegt in der Altersverifizierung. Das Altersvorhersagesystem von OpenAI muss robust sein, obwohl es beim Testen möglicherweise Fehler gemacht hat.
OpenAI ist sich bewusst, dass sein Algorithmus zwar den Industriestandards entspricht, aber niemals völlig narrensicher sein wird.
Hinzu kommt die Schwierigkeit, die genauen Grenzen der im Erwachsenenmodus von ChatGPT zulässigen Inhalte zu definieren, die eindeutig nicht über Erotik hinausgehen sollten..
Ein Treuetool für OpenAI?
Diese Ausrichtung auf Inhalte für Erwachsene erfolgt vor dem Hintergrund einer stagnierenden Nutzung von ChatGPT und angesichts eines aggressiven Wettbewerbs. OpenAI sucht nach neuen Hebeln, um seine Nutzer zu binden und seine Plattform monetarisieren.
Das Thema ist heikel und OpenAI kann sich keinen Fehltritt leisten, es sei denn, es opfert langfristiges Vertrauen für kurzfristige Gewinne.
