Das KI-Unternehmen OpenAI hat ein neues Werkzeug angekündigt, das erkennen soll, ob ein Bild echt ist oder mit dem Bildgenerator DALL-E erstellt wurde. Doch können sie dieses Mal ihr Versprechen einhalten?

OpenAI arbeitet an Technologien, um Bilder zu erkennen, die mit seinem Generator DALL-E 3 erstellt wurden. Mit dem neuen Detektor will das Unternehmen sicherstellen, dass KI-generierte Inhalte als solche erkannt werden können, insbesondere vor den anstehenden US-Präsidentschaftswahlen, bei denen gefälschte Inhalte eine Gefahr darstellen könnten.

In einem Blogpost teilte OpenAI mit, dass der Detektor bereits mehr als 98 Prozent der Bilder von DALL-E 3 richtig erkannt habe. Doch das System hat Schwierigkeiten, Bilder von DALL-E von denen anderer Anbieter zu unterscheiden.

Um die Echtheit von Medieninhalten zu gewährleisten, ist OpenAI dem Lenkungsausschuss der „Coalition for Content Provenance and Authenticity“ beigetreten. Gemeinsam arbeiten sie an einem Standard zur Beglaubigung von Medieninhalten, der Informationen darüber liefert, wann und mit welchen Werkzeugen sie erstellt wurden.

Obwohl OpenAI bereits Metadaten in die Inhalte seiner Systeme einfügt, die anzeigen, dass sie mit ChatGPT oder DALL-E erstellt wurden, ist das Entfernen dieser Metadaten einfach. Dennoch plädiert OpenAI dafür, solche Standards zu etablieren, um das Bewusstsein für gefälschte Inhalte zu schärfen.

Die Ankündigung von OpenAI erfolgt vor dem Hintergrund wachsender politischer und öffentlicher Bedenken hinsichtlich des Einsatzes von KI in der Medienproduktion. Insbesondere im Vorfeld der US-Präsidentschaftswahlen werden Maßnahmen erwartet, um die Verbreitung gefälschter Inhalte einzudämmen.

Allerdings ist OpenAI bereits einmal gescheitert, ein ähnliches Versprechen einzuhalten. Ein früherer Versuch, einen Detektor zu entwickeln, der zwischen Texten von ChatGPT und menschlichen Texten unterscheiden konnte, wurde im vergangenen Sommer aufgrund unzureichender Ergebnisse eingestellt.

Es bleibt abzuwarten, ob OpenAI dieses Mal erfolgreich sein wird und ob das neue Tool tatsächlich dazu beitragen kann, gefälschte Inhalte zu erkennen und einzudämmen.