OpenAI: ChatGPT-Stimme „Sky“ pausiert
von caschy | 12 Kommentare
OpenAI – Logo des Unternehmens
OpenAI hat eine KI-Stimme namens Sky erst einmal aus „dem Programm genommen“. Die Hintergründe sind bizarr. Nachdem OpenAI letzte Woche eine Live-Demonstration der Stimme gezeigt hatte, verglichen viele sie mit Scarlett Johanssons Stimme aus dem Film „Her“. Im Film geht es um einen Mann, der sich in die Stimme seines Computers verliebt.
Nun ist herausgekommen, dass OpenAI-CEO Sam Altman wohl lange versucht hat, Johansson zu überzeugen, ihre Stimme offiziell für Sky herzugeben. Sie lehnte aber ab und war wohl nicht wenig überrascht, als die Vergleiche von ihr und Sky online aufploppten. Laut Medienberichten war sie schockiert, sicherlich nicht überraschend.
„Wir haben die Sprecherin hinter der Stimme von Sky besetzt, bevor wir uns an Frau Johansson gewandt haben. Aus Respekt vor Frau Johansson haben wir es eingestellt, Skys Stimme in unseren Produkten zu verwenden. Es tut uns leid, dass wir Frau Johansson nicht besser informiert haben„, schrieb Altman in einer Erklärung an NPR.
Johansson nutzt den Vorfall aktuell, um auf den Mangel an rechtlichen Schutzbestimmungen im Zusammenhang mit der Verwendung von kreativen Werken zur Unterstützung führender KI-Tools aufmerksam zu machen. OpenAI hingegen hat nun einen Blogpost veröffentlicht, wie man die Stimmen genau realisiert hat – und wie man Sprecher auswählte.
„Wir haben mit jedem Akteur über die Vision für Sprachinteraktionen zwischen Mensch und KI und OpenAI gesprochen und die Fähigkeiten, Einschränkungen und damit verbundenen Risiken sowie die von uns implementierten Sicherheitsmaßnahmen besprochen. Es war uns wichtig, dass jeder Schauspieler den Umfang und die Absichten von Voice Mode verstand, bevor er sich auf das Projekt einließ.“
- 3 x 500 g; Eine 100% Arabica Single Origin-Mischung mit einem einzigartigen Duft, Geschmack und Aroma;...
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Und als dann die Schauspieler nein gesagt haben, hat man sich gedacht wir machen es trotzdem.
Die Stimme stammt nicht on der SJ…. Oder gibt es jetzt Copyrights auf die Stimme?
Weiß man so genau, wie die Stimme entstanden ist? Wäre sie wirklich von einer anderen Person gesprochen, dann müsste man die Stimme ja nicht offline nehmen. Da ist zumindest ein Beigeschmack dabei, wenn man weiß, dass es parallel auch eine offizielle Anfrage gab.
Ein expemplarischer Fall, wie manche Tech Firmen offenbar der Ansicht sind, dass Recht und Gesetz für sie lediglich unverbindliche Handlungsempfehlungen sind. Wenn sie dann mit heruntergelassenen Hosen erwischt werden, tun sie ein wenig reumutig, man hätte ja mit den besten Absichten gehandelt und es war natürlich alles nur ein bedauerliches Mißverständnis.
Kannst du bitte näher erläutern, was genau in diesem Fall „Verbrochen“ wurde? Wurde Sky an der Stimmer von SJ trainiert? Wenn ja, kannst du dies Quellentechnisch belegen? Wenn nicht und die Stimme gehört einer anderen Schauspielerin, dann ist der Fall geschlossen.
Altman hat selbst getwittert, worauf die von Sky verwendete Stimme basiert: https://x.com/sama/status/1790075827666796666
Und aus https://heise.de/-9724494
„Vor der Veröffentlichung vor einer Woche habe er sie noch einmal kontaktiert und sie gebeten, ihre Absage zu überdenken. Bevor sie habe antworten können, sei die neue, verbesserte Version in der Welt gewesen. Das habe sie schließlich dazu gezwungen, Anwälte heranzuziehen.“
Es ist also ziemliich offensichtlich, dass Altman sehr an der künstlichen Stimme von „her“ interessiert war, die Absage von Scarlett Johansson nicht hingenommen hat und auf irgendeine Weise eine Stimme verwendet hat, die (Zitat aus o.g. Artikel) „selbst engste Freunde […] nicht von ihrer eigenen unterscheiden konnten“. Ob OpenAI als „Plan B“ wirklich die Stimme einer anderen Schauspielerin verwendet hat, wird möglicherweise vor Gericht bewiesen werden müssen.
„To clarify a few things about the letters from ScarJo’s lawyers: They weren’t cease and desist notices. It’s not initiating a lawsuit. The letters sought clarity about what exactly was fed to the model to produce the distinctive “Sky” voice.“ (via https://x.com/BobbyAllyn/status/1792744056986247575)
Welches „Recht und Gesetz“ stellt denn eine Stimme unter Schutz? Nicht dass ich das gut heiße, dass OpenAI die Stimme von Scarlett Johnansson zu treffen versucht, aber solange sie nicht angeben, dass das die Stimme von SJ ist, kann das jede andere Person mit einer gleich klingenden Stimme sein.
Klar, damit ist dem Missbrauch Tür und Tor geöffnet. Und wenn wir eine Person haben die ebenso spricht per Zufall oder die Stimme wird durch KI bzw. eine andere Person nachgeahmt um kommerziell damit auf „Stimmenfang“ zu gehen, dann ist dies eine völlig andere Sache.
Auf n-tv wird Scarlett Johnansson so zitiert, „Gerade in Zeiten, in denen die Gesellschaft mit täuschend echten Deepfakes konfrontiert sei, brauche es Transparenz und wirksame Gesetze, um das Persönlichkeitsrecht des Einzelnen zu schützen. Es gehe „um den Schutz unseres Ebenbilds, unserer eigenen Arbeit, unserer eigenen Identitäten“.
Die Gesetzgebung mag hier möglicherweise der technischen Realität hinterherzuhinken, aber umso wichtiger ist es öffentlichkeitswirksam auf diese Umstände hinzuwirken und ein zügiges Handeln der Legislative zu erreichen, unabhängig davon, ob in diesem Fall tatsächlich die täuschend echt klingede Stimme einer andere Schauspielerin verwendet wurde oder nicht.
Wow, was für eine dumme Geschichte. Weil Fräulein Johansson in einem nischigen Arthaus Film, einer KI ihre Stimme lieh, musste man diese unbedingt auch für die Präsentation von GPT 4o gewinnen?? Why!? -Kommt mir irgendwie wie eine creepige Obsession von Altman vor. Also nicht weil Johansson überhaupt angefragt wurde, aber weil man es dann unbedingt trotzdem machen musste. Das hat meiner Meinung nach einen ganz merkwürdigen Beigeschmack.
„Tut mir leid, das ist nur vorübergehend, wir warten zurzeit auf Sarah Michell Gellars Antwort…. ….. woauh…“ 😀
Sorry, kleiner Insider, mal sehen wers kennt.