Microsoft Mitarbeiter hält Copilot Designer für unsicher
von Mike Leitner | 11 Kommentare
Microsoft Copilot – Der KI-Assistent des Unternehmens in Microsoft 365 und Co.
Shane Jones, ein Microsoft-AI-Ingenieur, äußerte bereits in der Vergangenheit starke Bedenken hinsichtlich der Sicherheit von Microsofts AI-Bildgenerierungstool, Copilot Designer. Aufgrund der nicht erfolgten Reaktion seitens des Konzerns hat er sich jetzt an die Federal Trade Commission (FTC) und das „Board of Directors“ gewandt. Der Hauptvorwurf ist dabei, dass Copilot Designer Bilder erzeugt, die Jones für schädlich hält. Darunter fallen auch die Darstellung von Gewalt, diskriminierende Inhalte und urheberrechtlich geschützte Charaktere in unangemessenen Szenen.
Jones stellte in eigenen Test fest, dass es möglich war, verstörende Inhalte wie „Dämonen und Monster” zu erzeugen. Besonders konnte er diese mit sensiblen Themen verknüpfen, z. B. Abtreibungsrechte, Jugendliche mit Waffen, sexualisierte Gewaltdarstellungen und Minderjährige beim Konsum von Alkohol und Drogen. Sonderlich schwierig war das Umgehen der Schutzmaßnahmen anscheinend nicht.
Er versuchte bereits seit Dezember, das Tool offline nehmen zu lassen. Anfangs kontaktierte er dabei interne Stellen, die die Probleme auch anerkannten, aber das Tool nicht offline nahmen. Später bat er in einem LinkedIn-Beitrag, der mittlerweile gelöscht wurde, OpenAI, das Modell „DALL-E“ offline zu nehmen. Microsoft nutzt die Technologie von OpenAI für Copilot (GPT-4) und Copilot Designer (DALL-E). „In den vergangenen drei Monaten habe ich Microsoft wiederholt aufgefordert, Copilot Designer für die Öffentlichkeit zu sperren, bis bessere Sicherheitsvorkehrungen getroffen werden können“, heißt es in dem Brief an die FTC. Aber er hat auch eine alternative Übergangslösung vorgeschlagen: Es sollte ein Hinweis eingeblendet werden, dass diese Art von Inhalt produziert werden kann, und die Android-App im Play Store sollte eine höhere Altersfreigabe von 18+ erhalten. Auf iOS hat die Copilot-App tatsächlich schon eine Freigabe von 17+. Was meint ihr, sollte Microsoft Copilot Designer offline nehmen? Alleine ist er mit den Sorgen um KI-Bilder ja bei weitem nicht.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Buntstifte sollten auch eine Altersfreigabe ab 18 bekommen. Ich habe als Kind auch viele Dämonen und Monster damit gezeichnet. Das hat mir nicht gut getan.
Welch ein geistreicher Kommentar!!!
Ich denke, dass man KI nicht umbedingt Hinz Kunz und Franz zugänglich machen sollte. Es sollte schonmal so teuer sein, dass die Teenager damit nicht mehr ihre Hausaufgaben von einer KI machen lassen. Selbst einige Nachbarn:innen die studieren haben mir gesagt, dass sie dank KI mehr Freizeit haben.
So wie es jetzt ist, ist es Mist ohne klare Regeln und Gesetze. Wie z.B will ein Lehrer überprüfen, ob ein Schüler eine Inhaltsangabe über ein Buch selbst geschrieben hat oder es hat von einer KI machen lassen?
Wo Licht ist, ist auch Schatten und ich sehe da schon ein hohes Maß an Mißbrauchsptenzial
Du möchtest Teenager ernsthaft über den Preis von einer neuen Technologie ausschließen? Ich würde sie ja eher befähigen, die Technologie sinnvoll zu nutzen.
Wir sollen also KI verbieten weil Schüler damit ihre Hausaufgaben erledigen? Evtl. Sollte man eher den Unterricht entsprechend anpassen und Hausaufgaben abschaffen. Bzw. Sollten Eltern, die ihren Kindern bei den Hausaufgaben helfen, dann auch verboten werden? Hmm.
Ist ja nur ein Beispiel, aber Verbote bringen uns hier gesellschaftlich nicht weiter. Die Möglichkeiten sind da und können genutzt werden. Es wird uns verändern. Manche Sachen werden überflüssig, andere gehen schneller. Statt es zu verteufeln, empfehle ich den Umgang damit zu lernen um sich im Alltag & im Job von ein paar doofen Standardaufgaben zu befreien. Super, dass die Kinder das heute schon können.
Ja, das ganze Internet sollte teurer werden, so dass nur die Noblesse Zugriff erhält. Die ganzen Hungerleider mit deren unreinen Gedanken und niederem Intellekt sind eh an dem ganzen Mist schuld im Netz. Weiß man doch, BILD rulez … Weia. Wenn ich solche Sachen lese, denke ich auch viele Werkzeuge, inklusive KI, sind noch nicht reif für den Menschen.
Übrigens dank KI, muss ich jetzt weniger arbeiten, verdiene mehr Geld und überhaupt. Die größte Gefahr geht nicht von der KI, dem Werkzeug aus, sondern von den Menschen die da Unfung hineininterpretieren in jedweder Form.
Inhaltsangaben über Bücher hab ich schon als Kind nicht geschrieben und da waren Computer noch quasi ohne Internet. Es gab in der Bücherrei für so ziemlich jedes Buch aus der Schule auch schon fertige Interpretationen usw., wo drin stand, was der Lehrer hören möchte. Das mit der Interpretation von Kafkas „Die Verwandlung“ hat sich mir bis heute nicht erschlossen.
Den Verkauf von Taschenrechnern sollte man auch verbieten. Nicht das ein Kind damit seine Mathe-Hausaufgaben macht.
Wie wäre es damit, tatsächlich das Wissen und die Arbeitsweisen der Studenten bzw. Schüler abzuprüfen und nicht einfach stupide Texte schrieben zu lassen?
„Teuer machen“ bringt sowieso nicht, weil man das ganze auch quasi „kostenfrei“ lokal auf dem eigenen Laptop laufen lassen kann.
Weia… wasch mich, aber mach mich nicht nass… und er hat die „Rules of the Internet“ vergessen, insbesondere Rule 43. 🙂
Der Vergleich mit den Buntstiften ist sehr gut. Wie Buntstifte sind Anweisungen an ein bildgenerierendes Algorithmenkonstrukt nichts anderes als ein Werkzeug, um einem Menschen dabei zu helfen, seine Visionen auszudrücken. Warum sollte man dieses Werkzeug seinen Kindern verweigern?
Wir bringen Kindern auch bei Messer zu verwenden, wenn sie ihre Nahrung zu sich nehmen sollen, oder wie sie es zum Schnitzen verwenden und weisen sie auf die Gefahren hin, aber wir vertrauen ihnen, dass sie keine Dummheit damit machen.
„Darunter fallen auch die Darstellung von Gewalt, diskriminierende Inhalte und urheberrechtlich geschützte Charaktere in unangemessenen Szenen.“
Na und? Was soll denn wieder diese ganze gesellschaftliche Hysterie bei dem Thema? Es wird mal wieder so getan, als ob es Photoshop nie gegeben hätte.
In der puritanischen Welt der US-Amerikaner werden auch Rollenspiele immer mal wieder angegriffen, insbesondere wegen der Dämonen usw. Von Heavy Metal ganz zu schweigen. Und in einer Gesellschaft, in der Gewalt an der Tagesordnung ist, propagiert und zugleich marginalisiert wird, Sexualität in jedweder Form jedoch zensiert wird, da sollte man doch davon absehen solcherlei Figuren überhaupt eine Plattform zu geben im Rest der Welt. Vielleicht war die Sonntagsschule für den Herrn doch zu hart.