OpenAI ermöglicht europäischen Nutzern von ChatGPT und Codex durch die Umsetzung einer wichtigen Entscheidung, ihre produzierten Inhalte transparenter zu kennzeichnen. Diese Maßnahme erfolgt als Reaktion auf die neuen Vorschriften der Europäischen Union zur Transparenz bei KI-generierten Inhalten.
Wasserzeichen: Das neue Werkzeug von OpenAI
Das Unternehmen OpenAI plant, in den kommenden Wochen die Wasserzeichen für seine Texte zu aktivieren. Dieses Wasserzeichen ist so gestaltet, dass der Nutzer es nicht sehen kann und sich in sehr subtilen Änderungen der Wortwahl verbirgt. Diese Maßnahme erfolgt zur Einhaltung des "EU-KI-Gesetzes", das Unternehmen in diesem Bereich verpflichtet, KI-generierte Inhalte zu kennzeichnen.
Mehr lesen: Alireza Bozorgmehr: Die Krise der Straße von Hormuz könnte das Internet stören
Das neue Wasserzeichen von OpenAI fügt im Gegensatz zu herkömmlichen Kennzeichnungen kein sichtbares Zeichen oder Wort zum Text hinzu, sondern wird durch die Auswahl spezifischer Wortmuster unsichtbar im Text verborgen. Diese Technologie wird als "textGrain" bezeichnet und ein technischer Bericht wurde ebenfalls veröffentlicht. Diese Technologie wurde in Zusammenarbeit mit Forschern der University of Pennsylvania und der Yale University entwickelt.
Funktionalität und Herausforderungen des Wasserzeichens
OpenAI hat betont, dass dieses Wasserzeichen auch beim Kopieren und Übertragen des Textes erhalten bleiben kann, jedoch könnte eine Änderung eines Teils des Textes die Fähigkeit des Systems zur Identifizierung seiner Herkunft verringern. Tests haben gezeigt, dass das Ersetzen von etwa 10 Prozent der Wörter im Text durch Synonyme die Erkennungsgenauigkeit von etwa 92 Prozent auf 66 Prozent senken kann. Außerdem erschweren kurze Texte und mathematische Antworten die Identifizierung des Wasserzeichens.
Trotz dieser Technologie hat OpenAI betont, dass das Vorhandensein oder Fehlen eines Wasserzeichens allein nicht beweisen kann, dass ein Text von einem Menschen verfasst wurde. Tatsächlich könnten sehr kurze oder bearbeitete Texte die Identifizierung erschweren, und dieses Wasserzeichen gibt auch keine Auskunft über die Identität des Nutzers.
Die Zukunft der Wasserzeichen in der KI
In der ersten Phase wird der Zugang zum Wasserzeichenerkennungstool nur für bestätigte Forscher und spezialisierte Organisationen verfügbar sein, um die Genauigkeit und verantwortungsvolle Anwendungen zu überprüfen. API-Entwickler weltweit können diese Funktion auch für einige OpenAI-Modelle nutzen, jedoch wird diese Option standardmäßig deaktiviert sein.
Es ist erwähnenswert, dass OpenAI zuvor auch Wasserzeichentechnologie entwickelt hatte, jedoch aufgrund von Bedenken über die Abwanderung von Nutzern zu konkurrierenden Diensten von einer Einführung abgesehen hatte. Mit dieser neuen Entscheidung strebt das Unternehmen nun an, mehr Transparenz bei seinen generierten Inhalten in der Europäischen Union zu schaffen. Diese Maßnahme erfolgt im Einklang mit einer ähnlichen Entscheidung von Anthropic zur Wasserzeichenkennzeichnung von Inhalten, die mit Cloud erstellt wurden.
Mehr lesen: Samsung hat mit neuen Innovationen das Benutzererlebnis von Smartphones revolutioniert · Seyed Mohsen Haji Saeed: Die Zukunft des Tourismus liegt in der Interaktion zwischen Mensch und künstlicher Intelligenz
