OpenAI, das Entwicklerteam hinter ChatGPT, hat eine neue Technologie namens „Voice Engine“ vorgestellt, die es ermöglicht, echte Stimmen zu klonen. Mit lediglich 15 Sekunden Sprachaufnahme behauptet das KI-Programm, eine menschliche Stimme nachahmen zu können. OpenAI hat kürzlich die Technologie als Marke registriert und präsentiert sie nun der Öffentlichkeit.

Sicherheitsbedenken und Zurückhaltung bei der Veröffentlichung

Trotz der vielversprechenden Funktionalität plant OpenAI vorerst nicht, „Voice Engine“ auf den Markt zu bringen, hauptsächlich aufgrund von Sicherheitsbedenken. Das Unternehmen beabsichtigt, das Produkt mit ausgewählten Testpersonen zu evaluieren, plant jedoch keine breite Veröffentlichung aufgrund der potenziellen Missbrauchsgefahr. Besonders in einem Wahljahr, in dem unter anderem Europawahlen und die US-Präsidentschaftswahl stattfinden, sind die Risiken besonders relevant. OpenAI betont, dass sie mit Partnern aus verschiedenen Bereichen zusammenarbeiten, um deren Feedback zu berücksichtigen.

Bedenken bezüglich des Missbrauchs von KI-Technologien

Die Verbreitung von Anwendungen, die Künstliche Intelligenz nutzen, hat zu wachsender Besorgnis über den potenziellen Missbrauch geführt. Die Möglichkeit, Stimmen zu klonen, birgt insbesondere in Bezug auf politische Ereignisse wie Wahlen erhebliche Risiken. Die Behörden im US-Staat New Hampshire untersuchen beispielsweise den Einsatz von synthetischen Stimmen, die die Wähler von der Stimmabgabe bei Vorwahlen im Januar abhalten sollten.

Vorsichtiger Ansatz für eine breitere Einführung

OpenAI betont, dass sie sich der potenziellen Missbrauchsrisiken bewusst sind und daher einen vorsichtigen Ansatz für eine breitere Einführung verfolgen. Partner, die „Voice Engine“ testen, müssen bestimmte Regeln einhalten, darunter die ausdrückliche Zustimmung derjenigen, deren Stimmen dupliziert werden, und die klare Kennzeichnung der synthetischen Stimmen für die Hörer.

Die Technologie des Klonens von Stimmen birgt sowohl faszinierende als auch beunruhigende Möglichkeiten. Während OpenAI weiterhin an der Entwicklung arbeitet, werden die potenziellen Auswirkungen auf die Gesellschaft und die Notwendigkeit eines verantwortungsvollen Umgangs mit solchen Technologien intensiv diskutiert.

https://openai.com/blog/navigating-the-challenges-and-opportunities-of-synthetic-voices