KI-Videos von Promis zu erstellen, war noch nie so einfach. Die App Sora vom ChatGPT-Erfinder OpenAI macht es noch leichter. Und sorgt damit für Leid bei Hinterbliebenen.
Einen geliebten Menschen zu verlieren, ist nie einfach. Den Familien einiger Prominenter wird es derzeit aber noch schwerer gemacht. Die Angehörigen von Robin Williams oder Martin Luther King werden derzeit von KI-Fakes der Verstorbenen regelrecht überflutet. Und das Problem dürfte sich nur weiter verschärfen.
Schuld an der aktuellen Welle neuer KI-Clips ist die jüngst erschienene App Sora. Der ChatGPT-Entwickler OpenAI ermöglicht es seinen Premiumkunden mit der Anwendung, mit wenigen Worten mehrere Sekunden lange Videoclips zu erstellen. Das Darstellen echter Personen ist eigentlich nur möglich, wenn diese zugestimmt haben. Es gibt aber eine große Ausnahme: Von historischen Persönlichkeiten, die nicht mehr am Leben sind, darf jeder Videos kreieren. Zum Leidwesen der Hinterbliebenen.
Vom Promi zur digitalen Handpuppe
„Bitte hört auf, mir KI-Videos von Dad zu schicken“, postete Zelda Williams bei Instagram. Die Tochter von Robin Williams hat ihren Vater 2014 durch Suizid verloren. Nun macht es sie wütend, wie der als enorm einfühlsam und großherzig bekannte Komiker und Schauspieler zum Meme gemacht wird. „Es macht mich wahnsinnig, wie das Vermächtnis echter Personen darauf heruntergebrochen wird, sie als Tiktok-Schund zu einer schrecklichen Handpuppe zu machen“, beklagt Williams.
Die Formulierung bringt das Problem ziemlich treffend auf den Punkt. Die Figuren in den KI-Clips tun und sagen, was die Nutzer ihnen per Prompt vorgeben – ähnlich wie es bei Handpuppen der Fall ist. Zwar greifen die KI-Modelle auf vorhandenes Videomaterial der Personen zurück, um Aussehen, Art, Stimme und Sprachstil zu treffen. Letztlich sorgt das aber nur für eine oberflächliche Darstellung.
Ob die historischen Persönlichkeiten die via Prompt geforderten Aussagen oder Handlungen wirklich getätigt hätten, wird nicht abgefragt. Das macht es möglich, die Personen mit völlig untypischem Verhalten darzustellen. Der für seine Ruhe und Ausgeglichenheit bekannte TV-Maler Bob Ross ging etwa mit Clips viral, in denen er völlig ausflippt – oder statt hübscher Landschaften die brennenden Türme des World Trade Centers malt. Ross ist 1995 gestorben.
Rassismus und Provokation
In Kombination mit dem im Internet immer vorhandenen Willen zur Provokation führt das schnell zu wenig erfreulichen Ergebnissen. Viele der manipulierten KI-Clips sind rassistisch, frauenfeindlich oder richten sich gegen andere Gruppen. So gibt es etwa KI-Videos, die Martin Luther King seine berühmte „I have a Dream“-Rede mit Affengeräuschen unterbrechen lassen.
Für die Hinterbliebenen ist das schwer zu ertragen. „Bitte hört auf“, schrieb Martin Luther Kings Tochter Bernice King. Sie teilte auch Zelda Williams Aufruf. „Es ist schwer zu ertragen und schmerzhaft, das Abbild meines Vaters in solch arroganter und unsensibler Weise genutzt zu sehen, nachdem er sein ganzes Leben der Wahrheit gewidmet hat“, sagte auch Malcolm Xs Tochter Ilyasah Shabazz der „Washington Post“.
ChatGPT-Entwickler OpenAI reagiert
Rechtlich ist die Lage zumindest in den USA noch relativ unklar. Der Straftatbestand der Rufschädigung erlischt laut „Washington Post“ mit dem Tod der Geschädigten. Die Angehörigen der verstorbenen unfreiwilligen Viralstars können sich also nicht darauf berufen. Ein denkbarer rechtlicher Weg ist das Verbot, Personen nach ihrem Tod ohne vorherige Einwilligung für kommerzielle Zwecke zu nutzen.
OpenAI berief sich zunächst auf die in den USA stets hochgehaltene Meinungsfreiheit. Mittlerweile hat die Firma aber ein Einlenken signalisiert. Zumindest den Angehörigen „kürzlich Verstorbener“ soll das Recht eingeräumt werden, eine Sperrung für die KI-Nutzung zu beantragen, erklärte die Firma. „Wir glauben, dass in der Öffentlichkeit stehende Personen und ihre Familien die Kontrolle über ihr Abbild haben sollten“, sagte eine Sprecherin der Firma der „Washington Post“. Nachfragen, wie genau „kürzlich“ zu interpretieren sei, wollte sie aber nicht beantworten.
Dass OpenAI nicht ganz auf die Darstellung verstorbener Prominenter verzichten will, hat durchaus Gründe. Man wolle nicht gegenüber Konkurrenten mit laxerem Umgang in Nachteil geraten, gestand Varun Shetty, der bei OpenAI für Medienpartnerschaften verantwortlich ist, im Blog „Newcomer“. OpenAI-Mitgründer und -CEO Sam Altman berichtete in einem Podcast, dass manche Rechteinhaber sich beklagt hätten, ihre Figuren wären bei der KI-Nutzung eher zu wenig genutzt worden – und nicht zu oft.
Quellen: Instagram, Washington Post, Newcomer, A16z
