Recht an eigener Stimme – Stimmnachahmung durch KI

Missbrauchspotenzial von KI-generierten Stimmen

KI-Systeme ermöglichen es heutzutage, unterschiedlichsten Personen beliebige Worte in den Mund zu legen. Diese Möglichkeit birgt ein enormes Missbrauchspotenzial bzgl. dem Recht an eigener Stimme. KI-Anwendungen können Stimmen täuschend echt imitieren, sodass Betrüger Sicherheitsmechanismen umgehen können. Schon wenige Minuten Sprachaufzeichnung reichen aus, um Stimmen zu klonen und damit beliebige Texte zu generieren. Es ist nicht nur der Zugang zu persönlichen Informationen und Vermögenswerten, der durch gefälschte Stimmen ermöglicht wird. Durch falsche Aussagen, die Meinungsführern untergeschoben werden, kann deren Ruf geschädigt und andere zu bestimmten Handlungen verleitet werden. Ein Beispiel hierfür ist ein gefälschtes Video des ZDF-Nachrichtensprechers Christian Sievers, in dem dieser angeblich über eine lukrative Geldanlage berichtet. Damit wurden nicht nur die Zuschauer getäuscht, sondern auch das Vertrauen in die gezeigte Person beschädigt. Ein anderer Fall von solchen KI-generierten Stimmen ereignete sich im letzten amerikanischen Präsidentschaftswahlkampf. Hier wurden Fake-Bilder und -Videos benutzt, um den Gegner im Wahlkampf zu diskreditieren. Solche Fälle nun aber in der Praxis aufzudecken und nachzuverfolgen, ist nicht immer einfach.

Problematik der Stimmnachahmung durch KI

Dass KI also nicht nur Vorteile mit sich bringt, zeigt sich spätestens an dieser Stelle. Doch wie werden solche gefälschten Audio- oder Videodateien juristisch geahndet? Welche Rechte werden potenziell verletzt und wie sieht die Verfolgung von Verantwortlichen in der Praxis aus?

Recht an eigener Stimme: Urheber- und Persönlichkeitsrechte

Immer mehr KI-Anwendungen, die Stimmen erzeugen können, erscheinen im Internet. In Deutschland ist das allgemeine Persönlichkeitsrecht sowohl durch Artikel 1 Absatz 1 und Artikel 2 Absatz 1 des Grundgesetzes verfassungsrechtlich garantiert als auch durch § 823 des Bürgerlichen Gesetzbuches zivilrechtlich geschützt. Diese Rechte sichern im Allgemeinen die Menschenwürde und die freie Entfaltung der Persönlichkeit. Seit dem bekannten „Marlene Dietrich-Urteil“ des Bundesgerichtshofs im Jahr 1999 ist klar, dass die Stimme einer Person ebenfalls unter diesen Schutz fällt (BGH, Urteil vom 1. Dezember 1999, Az. I ZR 49/97). Der BGH stellte dabei fest, dass eine Stimme „einen erheblichen wirtschaftlichen Wert haben kann, der in der Regel auf der Bekanntheit und dem Ansehen der Person in der Öffentlichkeit beruht.“  Die unbefugte Nutzung einer fremden Stimme kann daher durch das allgemeine Persönlichkeitsrecht untersagt werden, insbesondere wenn durch die Verwendung die persönliche Ehre oder materielle Interessen des Betroffenen verletzt werden. Das ist auch dann der Fall, wenn die Persönlichkeitsverletzung durch eine KI generiert wird. Zusätzlich wird die Stimme in Deutschland durch die Datenschutzgrundverordnung geschützt. Stimmen fallen sowohl unter biometrische Daten als auch unter Gesundheitsdaten, die nur unter bestimmten Bedingungen verarbeitet werden dürfen. Eine unerlaubte Nutzung zur Stimmnachahmung durch KI fällt nicht unter solche Ausnahmen. In Deutschland bestehen daher zwei rechtliche Ansprüche zum Schutz vor „Stimmen-Diebstahl“: das Datenschutzrecht und das allgemeine Persönlichkeitsrecht. Welches der beiden Rechte im Einzelfall anwendbar ist, hängt von den spezifischen Umständen ab, führt jedoch oft zu ähnlichen Ergebnissen. Beide Rechtswege bieten Schutz vor Missbrauch und den Anspruch auf Schadensersatz. Betroffene müssen bei der Erhebung ihrer Daten umgehend informiert werden und haben ein Auskunftsrecht über die Verwendung ihrer Daten. Dies ist wichtig für die Bemessung von Schadensersatzansprüchen. Sollten Sie Fragen zur rechtlichen Handhabung haben, können Sie sich jederzeit an uns wenden. Wir beraten Sie in all diesen Fragen umfassend.

Vermarktung der eigenen Stimme

Eine weitere Möglichkeit, die eigene Stimme rechtlich zu schützen oder zu vermarkten, ist der Abschluss von Lizenzverträgen. Dies kann gerade für Personen des öffentlichen Lebens relevant werden. Die kanadische Musikerin Grimes beispielsweise, bietet ihre Stimme als Gegenleistung für eine Beteiligung an den Einnahmen aus Songs an, die von künstlicher Intelligenz generiert werden und in denen ihre Stimme verwendet wird. Der Abschluss von Lizenzverträgen kann also ein kreativer Ansatz sein, um die eigene Stimme zu schützen, aber gleichzeitig auch zu vermarkten.

Aktuelle Rechtsprechung zum Recht an eigener Stimme

Intergericht Beijing: Recht an eigener Stimme und KI

Am 23. April 2024 fällte ein Pekinger Gericht das richtungsweisende Urteil, dass die Nachahmung der Stimme einer Person durch künstliche Intelligenz ohne deren Zustimmung eine Verletzung der Persönlichkeitsrechte darstellt. Das Urteil geht auf eine Klage zurück, die die Synchronsprecherin Yin im vergangenen Jahr eingereicht hatte. Yin entdeckte, dass ihre Stimme ohne ihr Einverständnis in Hörbüchern verwendet wurde, die im Internet kursierten. Die Stimme war mithilfe von KI verändert worden. Daraufhin verklagte Yin fünf Unternehmen, die an der unerlaubten Verwendung ihrer Stimme beteiligt waren. Dazu gehörten unter anderem ein Kulturmedienunternehmen, das ihre Aufnahmen zur Verfügung gestellt hatte und ein Entwickler von KI-Software. Sie verlangte Schadensersatz für die Verletzung ihrer Rechte.

Das Gericht stellte fest, dass das Medienunternehmen Yins Aufnahmen ohne ihre Zustimmung an den Softwareentwickler weitergegeben hatte. Der Softwareentwickler verwendete dann künstliche Intelligenz, um Yins Stimme zu imitieren und die so erzeugten Produkte zum Verkauf anzubieten. Der vorsitzende Richter des Rechtsstreits kam zu dem Schluss, dass die von der KI erzeugte Stimme den stimmlichen Merkmalen, der Intonation und dem Aussprachstil der Klägerin sehr ähnlich war. Aufgrund dieser Ähnlichkeit konnte Yins Stimme identifiziert werden. Unter Berufung auf das chinesische Zivilgesetzbuch entschied der Richter, dass die Handlungen des Kulturmedienunternehmens und des Softwareentwicklers eine Verletzung von Yins Persönlichkeitsrechten darstellten. Das Gericht verurteilte die beiden Unternehmen zur Zahlung von 250.000 Yuan (ca. 34.500 US-Dollar). Dieser Fall ist ein wichtiges Beispiel zum Schutz vor der unerlaubten Nutzung von KI zur Nachahmung menschlicher Stimmen. Es zeigt, wie wichtig klare Regeln und Genehmigungen für den Einsatz von KI-Technologien sind. In einer Pressemitteilung zu dem Verfahren forderte das Gericht Unternehmen zur Vorsicht beim Einsatz von KI zur Verarbeitung oder Generierung von Stimmen und Bildern auf und betonte, wie wichtig es sei, vorab die Einwilligung der Betroffenen einzuholen.

Kommentare zum Urteil

Die Entscheidung des Pekinger Gerichts zur Zulässigkeit der Generierung und Verwendung von KI-generierten Stimmen dürfte weltweit die erste ihrer Art sein. Das Urteil könnte zukünftig auch auf die deutsche Rechtslage übertragbar sein. Das allgemeine Persönlichkeitsrecht, das unter anderem das Recht am eigenen Bild und das Recht am gesprochenen Wort umfasst, schützt wie bereits erwähnt auch vor der unbefugten Verwendung und Verbreitung von Stimmen. Dieser Schutz gilt unabhängig davon, ob die Stimme im Original aufgenommen oder durch KI-Technologie nachgeahmt wurde. Entscheidend ist das Ergebnis, nicht die verwendeten technischen Mittel. Personen, deren Stimme ohne ihre Einwilligung verwendet wird, können von den Verletzern Unterlassung und Ersatz der Rechtsverfolgungskosten verlangen. Insbesondere bei kommerzieller Nutzung der KI-generierten Stimme bestehen häufig auch Auskunfts- und Schadensersatzansprüche. Die Höhe des Schadensersatzes hängt dabei von den jeweiligen Umständen des Einzelfalls ab. Der in Peking zugesprochene Schadensersatz in Höhe von 34.500 US-Dollar ist daher kein Maßstab für mögliche Schadensersatzansprüche in Deutschland.

KI in der Musikindustrie

Ein weiteres Beispiel für die Herausforderungen und rechtlichen Konflikte, die sich im Zusammenhang mit KI-Technologien ergeben können, betrifft die Musikindustrie.

Anfang des Jahres kam es zu einem Rechtsstreit, als ein Song veröffentlicht wurde, der die Stimmen von Drake und The Weeknd imitierte, ohne dass die Künstler daran beteiligt waren. Der besagte Song verwendete KI-Algorithmen, um die charakteristischen Merkmale der Stimmen von Drake und The Weeknd zu reproduzieren. Dazu gehörten nicht nur die Tonhöhe und der Klang der Stimme, sondern auch der einzigartige Ausdruck und die stilistischen Nuancen, die die Künstler in ihren Songs verwenden. Das Ergebnis war so überzeugend, dass viele Zuhörer zunächst an eine echte Zusammenarbeit der beiden Musiker glaubten. Dieser Vorfall zeigt erneut, dass die unbefugte Nutzung von Stimmen in klarem Widerspruch zu den eigenen Persönlichkeitsrechten steht. Die beiden Künstler haben nicht nur Anspruch auf den Schutz ihrer stimmlichen Identität, sondern auch auf die Kontrolle über die Nutzung ihrer künstlerischen Ausdrucksweise. Dies ist besonders wichtig, da die kommerzielle Nutzung ihrer Stimmen ohne ihre Zustimmung ihre Marke und ihren künstlerischen Ruf gefährden kann. In solchen Fällen können betroffene Künstler verschiedene rechtliche Maßnahmen einleiten. Sie können eine Unterlassungsklage einreichen, um die weitere Verbreitung des Liedes zu verhindern und eine Schadensersatzklage einreichen, um für den erlittenen finanziellen und Rufschaden entschädigt zu werden. Die Höhe des Schadensersatzes hängt dabei von den Umständen des Einzelfalls ab, einschließlich des Umfangs der Verbreitung und der Einnahmen, die mit dem verbreiteten des Liedes generiert wurden. Durch die fortschreitende Weiterentwicklung von KI-Technologien, steht die Musikindustrie vor der Herausforderung, technische Maßnahmen zu entwickeln, um die unerlaubte Verwendung von Künstlerstimmen zu verhindern. Darüber hinaus müssen rechtliche Rahmenbedingungen und Verträge ausgearbeitet werden, um klare Richtlinien für den Einsatz von KI in der Musikproduktion zu gewährleisten.

Wie sieht es mit dem Persönlichkeitsrecht von verstorbenen Künstlern aus?

Grundsätzlich endet das allgemeine Persönlichkeitsrecht mit dem Tod einer Person. Das Andenken an den Verstorbenen bleibt jedoch durch das sogenannte postmortale Persönlichkeitsrecht geschützt. Dieser Schutz nimmt mit der Zeit ab. Zweck des postmortalen Persönlichkeitsrechts ist der Schutz des sozialen Geltungswerts und die Verhinderung einer Entstellung des Lebenswerks. Auch der BGH hat bestätigt, dass aus der Verletzung des postmortalen Persönlichkeitsrechts Unterlassungs- und Beseitigungsansprüche hergeleitet werden können, die jedoch nicht vererblich sind. Anders verhält es sich mit Schadensersatzansprüchen bei kommerziellen Interessen, die vererblich sind und sich aus dem ursprünglichen Persönlichkeitsrecht ableiten.

Die Rechtsprechung bietet zwar erste Anhaltspunkte für den Einsatz von KI zur Stimmnachbildung, jedoch bleiben viele Fragen offen. Bei lebenden Personen ist die Stimme durch das allgemeine Persönlichkeitsrecht geschützt. Verstorbene haben einen geringeren Schutz, der nur grobe Entstellungen verhindern soll. Fraglich ist, ob eine KI-gestützte Stimmmodifikation im Interesse des Verstorbenen sein könnte und damit zulässig wäre. Angesichts des abnehmenden Schutzes des postmortalen Persönlichkeitsrechts könnten Argumente für eine zulässige Nutzung ohne Erlaubnis der Erben sprechen. Klar ist, dass all diese Fragen, die sich durch die stetige Weiterentwicklung der KI ergeben, erst mit der Zeit und durch weitere Rechtsprechung zu dieser Thematik ganzheitlich klären lassen werden.

Verfolgung von Verantwortlichen für die Nachahmung von KI-generierten Stimmen

Die Verfolgung von Verantwortlichen, die KI-generierte Stimmen unerlaubt nachahmen, erweist sich in der Praxis als komplex und vielschichtig. Zunächst müssen die Betroffenen oder ihre Rechtsvertreter den Missbrauch nachweisen und die Quelle der unerlaubten Stimmennachahmung identifizieren. Dies kann durch eine Kombination aus technischer Analyse und juristischer Untersuchung geschehen. Einer der ersten Schritte ist die Identifizierung der beteiligten Parteien. Dazu gehören die Entwickler der KI-Software, die Betreiber der Plattformen, auf denen die imitierte Stimme veröffentlicht wurde und möglicherweise auch die Endnutzer, die die Technologie missbraucht haben. Informationen über die beteiligten Parteien können mit rechtlichen Mitteln wie Auskunftsersuchen eingeholt werden. Sind die Verantwortlichen ermittelt, können die Geschädigten rechtliche Schritte einleiten. Dies beginnt häufig mit Abmahnungen, in denen die sofortige Unterlassung der weiteren Nutzung der gefälschten Stimme gefordert wird. Bei fortgesetztem Missbrauch können Unterlassungsklagen vor Gericht erhoben werden. Auch Schadensersatzklagen sind eine Option, um finanzielle Verluste und Reputationsschäden auszugleichen. Ein wichtiger Aspekt in der Praxis ist die technische Beweissicherung. Experten können durch forensische Audioanalysen nachweisen, dass eine Stimme durch KI imitiert wurde. Diese Analysen können in der Regel sowohl die Authentizität der Originalstimme als auch die Merkmale der KI-Generierung nachweisen.

Die Durchsetzung von Gerichtsurteilen kann sich allerdings als schwierig erweisen, insbesondere wenn die Verantwortlichen in verschiedenen Rechtsordnungen tätig sind. Internationale Zusammenarbeit und die Anpassung nationaler Gesetze an die Herausforderungen der KI-Technologie sind daher zukünftig von entscheidender Bedeutung. Parallel dazu müssen Präventivmaßnahmen ergriffen werden, wie die Implementierung strengerer Lizenzvereinbarungen und die Entwicklung von Technologien zur Identifizierung und Vermeidung von KI-generierten Stimmenimitationen. Die strafrechtliche Verfolgung in diesen Fällen erfordert also eine enge Zusammenarbeit von juristischen und technischen Experten. Sie ist ein kontinuierlicher Prozess, der sowohl die Ermittlung und Verfolgung der Täter als auch die Umsetzung präventiver Maßnahmen umfasst. Nur so kann der Missbrauch von KI-Technologien wirksam eingedämmt werden.

Schlussfolgerung zum Recht an eigener Stimme

Das rasante Voranschreiten von KI-Technologien eröffnet enorme kreative und wirtschaftliche Möglichkeiten, bringt aber gleichzeitig erhebliche Risiken und Herausforderungen mit sich. Die täuschend echte Nachahmung von Stimmen durch KI kann persönliche und kommerzielle Rechte verletzen, wie aktuelle Fälle zeigen. Mit KI können täuschend echte Video- und Audiomaterialien erstellt werden, die das Vertrauen in Personen des öffentlichen Lebens und die Medien untergraben und zu persönlichen und beruflichen Schäden führen können. Der rechtliche Schutz gegen unerlaubtes Stimmenklonen ist komplex und umfasst sowohl das allgemeine Persönlichkeitsrecht als auch Datenschutzbestimmungen wie die Datenschutz-Grundverordnung. Der Schutz der Stimme endet nicht mit dem Tod einer Person, sondern setzt sich, wenn auch in abgeschwächter Form, über das postmortale Persönlichkeitsrecht fort. Die Verfolgung der Verantwortlichen erweist sich in der Praxis als komplex. Sie erfordert technische Beweissicherung, juristische Ermittlungen aber auch internationale Zusammenarbeit. Zusammenfassend lässt sich festhalten, dass die rechtlichen Rahmenbedingungen zwar erste Anhaltspunkte bieten, aber kontinuierlich weiterentwickelt werden müssen, um mit dem schnellen technologischen Fortschritt Schritt zu halten. Um die Interessen der Betroffenen zu schützen, wird eine Rechtsberatung in diesem Zusammenhang dringend empfohlen.

Fragen zum Recht an eigeer Stimme? Vertrauen Sie den Spezialisten

Haben Sie Fragen und rechtliche Anliegen zum Thema KI? Unser Team von Rechtsanwältinnen und Rechtsanwälten berät Sie zu allen Fragen im IT-Recht, Urheberrecht, Wettbewerbsrecht und Markenrecht: