Deutscher Ethikrat: Eine KI darf den Menschen nicht ersetzen, Einsatz benötigt klare Regeln
von Benjamin Mamerow | 24 Kommentare
Wie der Deutsche Ethikrat in einer Stellungnahme erklärt, bedarf es zukünftig noch schärferer und klarer Regeln im Umgang mit künstlicher Intelligenz. Man dürfe nicht dazu übergehen, den Menschen durch eine KI ersetzen zu wollen – wörtlich: „Der Einsatz von KI muss menschliche Entfaltung erweitern und darf sie nicht vermindern“, so die Vorsitzende Alena Buyx. Im Grunde eine Äußerung, der wohl kaum jemand widersprechen möchte. Die Stellungnahme wurde in den letzten beiden Jahren ausgearbeitet und umfasst knapp 300 Seiten.
Darin bezieht man sich vor allem auf die Bereiche schulische Bildung, die Medizin, öffentliche Kommunikation und Meinungsbildung als auch die öffentliche Verwaltung. Betrachte man den Bereich Medizin, so müsse bei dem Einsatz von KI unter anderem vor allem die Privatsphäre und der Datenschutz sichergestellt bleiben. In der Schule sollte KI nur dann eingesetzt werden, wenn sie sich an grundlegenden Bildungsvorstellungen orientiere. In der Verwaltung wiederum bedarf es der Kontrolle vor Diskriminierungen und dem blinden Befolgen maschineller Empfehlungen.
Der Deutsche Ethikrat ist ein unabhängiges Gremium von Expertinnen und Experten aus verschiedenen Fachgebieten, das sich mit ethischen Fragen beschäftigt, die sich aus der Forschung und den Entwicklungen auf dem Gebiet der Lebenswissenschaften und ihrer Anwendung auf den Menschen ergeben. Der Ethikrat soll die gesellschaftliche Diskussion über diese Fragen fördern und Orientierung für die Politik und die Öffentlichkeit bieten. Er gibt Stellungnahmen und Empfehlungen zu aktuellen Themen wie Impfen, Organspende, Genetik oder Robotik ab. Die 26 Mitglieder des Ethikrats werden vom Bundestagspräsidenten für vier Jahre ernannt, nachdem sie von der Bundesregierung und dem Bundestag vorgeschlagen wurden.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
Ich nutze es gerade fürs Studium. Erst nur wenig und jetzt mache ich quasi alles mit GPT. Es spart viel Zeit und erleuchtet sehr viel. Man muss zwar noch mal über alles drüber schauen, bisschen bügeln, aber Stress habe ich dank GPT gar keinen mehr. Der Tag hat wieder genug Stunden. Ich bin gespannt, wohin das noch geht.
Hi Mario,
kannst du deine Erfahrungen etwas mit mir teilen?
Wie hat sich dei Studentendasein dadurch verändern?
Natürlich etwas polämisch und mit Vorurteil von mir gefragt, aber gerade mit dem Hintergrund meiner Frage, mein Vorurteil abzubauen.
Wenn man das so überliest, bzw. Kommentare in Artikel etc, wird ja unterstellt, dass sich die Schüler und Studenten die Artikel und Aufsätze durch jemand Dritten (in dem Fall GPT) schreiben lassen und am Ende nur noch unterschreiben. Unterstellend, das jene a) gar nicht mehr selbst recherchiert, verstanden und aufgeschrieben haben und b) eigentlich gar nicht wissen worum es geht. Weil nur lesen bzw. den Text Korrekturlesen ist eines, aber selbst ausarbeiten ist ja nochmal was anderes, weil abwegen, verstehen, hinterfragen, weglassen und hinzufügen und entsprechend als Wissen abspeichern, ist ja die Essenz von Hausarbeiten – sei es beim Schüler wie beim Studenden. Ansonsten habe wir tatsächlich nur noch die Youtube/Hörbuch Generation und keine nachdenkenden und verstehenden Köpfe mehr.
Daher an dich die Frage, ob du eine GPT Erfahrung teilen kannst. Und nicht nur mit Hinblick das mehr Freizeit da ist, da GPT dir in 5 Minuten die Hausarbeiten geschrieben hat. Wie früher ein Kollege..nur das was damals nicht Standard für jederman, so wie es bei GPT die Gefahr heute ist.
Denn selbst um GPT Texte zu überprüfen bedarf es ja wissen. Und wenn man immer aus der selben Quelle zitiert, steigert sich nicht die Qualität sondern kopieren sich nur die Fehler und Unwahrheiten und werden irgendwann zur falschen Wahrheit.
Was studierst du denn und bei welchen konkreten Aufgaben nutzt du ChatGPT?
seit wann hat den ein Student Stress?
Aber ja, da wird sich noch einiges anpassen müssen um solche KIs in Arbeiten besser erkennen zu können
seit wann hat den ein Student Stress?
Aber ja, da wird sich noch einiges anpassen müssen um solche KIs in Arbeiten besser erkennen zu können
Ich denke,.seit der Umstellung auf Bachelor/Master. Zu meinen Zeiten war es tatsächlich geruhsam.
Ab wann ist denn eine KI eine KI und nicht nur ein „schlauer“ Algorithmus?
Warum möchtest du die Kategorie „schlauer Algorithmus“ oder ist davon irgendwo die Rede? Wenn es um maschinelles Lernen geht, ist es KI würde ich mal sagen. Aber natürlich ist das auch irgendwo ein Algorithmus… das spielt doch aber gar keine Rolle, oder?
Ajo. Die Rolle spielt es dann, wenn definiert werden muss, ob ein Tool noch eingesetzt werden darf oder nicht.
Und seitdem der Ethikrat in 2021/2022 eine mir nicht passende Entscheidung gefällt hat, bin ich da sehr … zurückhaltend, was deren „Verkündigungen“ angeht.
Der Ethikrat trifft keine Entscheidungen – von bindenden Entscheidungen ganz zu schweigen… Er bestimmt nicht, ob ein Tool – unabhängig vom Namen – benutzt werden „darf“ (in DE darf alles benutzt werden, was nicht ausdrücklich vom Gesetzgeber verboten ist). Und 2021/22 hat er auch keine Entscheidung gefällt, sondern nur eine Empfehlung gegeben. Gesetze beschliest in DE immer noch das Parlament, welches in freien demokratischen Wahlen gewählt wurde… ich bin dieses Geschwurble so satt… lest Euch doch erst mal wieder in die Funktionsweisen unseres Landes ein, bevor ihr so einen Quatsch daherredet….
Uh… Wortklaubereien. Der Ethikrat hat beschlossen, seine Empfehlung auszusprechen (auf die dann je nach Windrichtung Rücksicht genommen wird oder halt auch nicht). Besser? Oder wird doch nicht entschieden (beschlossen), „Dinge“ zum „Wohle“ aller zu verkünden?
Wenn sie selbst aus Inhalten lernen, sich weiterentwickeln und Zusammenhänge erkennen kann. So wie unser Gehirn. Übrigens: Unser Gehirn ist manchmal auch nicht besser als ein „Schlauer Algorithmus“. Genug Hohlfritten plappern einfach das nach, was andere Schwurbler sagen und handeln irrational. Ist das Intelligenz? In manchen Belangen, so finde ich, sind KIs und bereits jetzt voraus.
Also so in 120 Jahren? 🙂
Immer dann, wenn man mit „KI“ einen höheren Umsatz erzielen kann als ohne. 😉
Ein „schlauer Algorithmus“ wird von (schlauen) Menschen entwickelt. Der „Algorithmus“ einer KI wird durch Training anhand von Beispieldaten entwickelt. Die KI funktioniert im Endeffekt nach dem Trial and Error Prinzip mit bisschen Statistik um die Fehler möglichst nicht zu widerholen. So braucht der Mensch nur noch die Beispieldaten bereit stellen, muss aber den Algorithmus nicht mehr verstehen und jener kann komplexer werden, als es ein gezielt entwickelter Algorithmus werden kann, da der ja auch die Denkleistung von Menschen beschränkt ist.
Im Grunde ist GPT gar keine KI. Es ist ein Model zur Vorhersage eines Outputs auf eine gewählten Input.
Das äußert sich zum Beispiel darin, dass es GPT seine Aussage nicht erklären kann und auch Kontext nur sehr rudimentär versteht.
1.:
Der Deutsche Ethikrat ist ein unabhängiges Gremium von Expertinnen und Experten […] Die 26 Mitglieder des Ethikrats werden vom Bundestagspräsidenten für vier Jahre ernannt, nachdem sie von der Bundesregierung und dem Bundestag vorgeschlagen wurden.
-> Wenn sie politisch vorgeschlagen werden, sind sie nicht mehr unabhängig.
2.:
Die KI-Systeme sind selbst nicht neutral, sondern orientieren sich an den Trainingsdaten. Insbesondere ChatGPT ist ziemlich „woke“ unterwegs.
3.:
Die Frage ist nicht, wie weit man diese Systeme zügeln bis verbieten sollte, sondern was man damit produktives anfangen und diese gewinnbringend einsetzen kann. Da steckt deutlich mehr Potential hinter als hinter dem einen oder anderen, dessen Arbeit damit ersetzt werden kann. Ich gönne jedem seine Arbeit, wenn diese aber ersetzbar wird, ist es keine Frage des ob, sondern nur noch wann dieses geschieht. Uns täte es gut nicht darüber nachzudenken, wie Arbeitsplätze vor KI-Konkurrenz abzuschirmen, sondern wie diese genutzt werden können. Im Idealfall nutzen wir nicht nur solche Systeme, sondern entwickeln diese auch.
„Woke“? Rassismus ist nicht das, was man unter „woke“ versteht, sondern das Gegenteil davon.
So wie ich die Aussage des Ethikrats verstehe geht es hier eher um eine KI ala Skynet, die bestimmte oder alle Tätigkeiten des Menschen selbst ausführen könnte.
Aber das hat ja nichts mit den Machine-Learning Modellen der letzten Jahre zu tun. Wir haben weder die Rechenleistung noch das Know-How eine wirkliche KI zu entwickeln. Der aktuelle Boom basiert ja nur auf einer deutlichen Verbesserung der Genauigkeit des gewünschten Outputs solcher Modelle. Der kann sicherlich noch genauer werden bleibt aber auf sich als Output beschränkt.
Und ja Programme mit solchen Modellen werden in Zukunft in Auftragskunst vermutlich der Standard werden. Da muss man sich anpassen oder man bleibt zurück. Aber das meinte der Ethikrat meiner Meinung auch nicht.
Man kann sich ja viel wünschen aber Ethik wird dann über Bord geworfen wenns um Umsatz oder Macht geht. Und selbst wenn wir in Deutschland oder Europa irgendwelche tollen Ethikrichtlinien definieren, wird der Rest der Welt ein Teufel tun und sich diesen unterwerfen. Auch wenn ein gemeinsamer Konsens in solchen Dingen wünschenswert wäre, wird das nicht passieren.
Technischer Fortschritt hat schon immer Berufe und Arbeitsplätze ersetzt bzw. überflüssig gemacht.
Klar kann man versuchen das zu verbieten, dass kann und wird aber nicht funktionieren.
Sonst würden auf den elektrischen Lokomotiven auch heute noch Heizer und Bremser mitfahren.
Intellektuellen wie dem Ethikrat war das aber immer weitgehend egal solange es die Arbeiterschaft, Handwerker, usw. betraf. Jetzt sieht man die eigenen Pfründe gefährdet und svhon schreit man nach Schutzmaßnahmen.
Ich gehe davon aus, dass die jetzigen KI-Systeme wie ChatGPT irgendwann zusammenbrechen werden, denn diese Systeme basieren ja auf Lerndaten, welche bisher vom Leben der Menschen auf diesem Planeten geschaffen wurden.
Wenn nun aber die Menschen nur noch „neue“ Daten auf Basis von derartigen Systemen kreieren, dann wird die KI zum Wiederkäuer Ihrer eigenen Lerndaten, da nichts wirklich neues an Daten geschaffen wird.
Es ist wieder mal ein typischer Hype aus dem hoffentlich auch auf längere Sicht etwas Sinnvolles überbleibt, aber wir stehen noch ganz am Anfang.
Es ist das selbe wie mit dem autonomen Fahren: Da waren auch schon etliche Leite vor 15 Jahren der Meinung, dass es nur noch Tage dauert, bis wir alle von autonomen Fahrzeugen durch die Gegend gefahren werden.
Daher entspanne ich mich und schaue amüsiert der sich wild drehenden Presse & Co. zu, mache meine eigene Erfahrung und ziehe mindestens 50% vom Inhalt entsprechender News ab.
NOCH schärfere Regeln? -Chat GPT ist schon jetzt zensiert ohne Ende und mit einem kräftigen bias versehen. Witze gegen Männer? -Kein Problem. Witze gegen Frauen? -Wo denkst du hin? -Trump ist ein Trottel, Biden eine Lichtgestalt usw. -Andauernd darf man was nicht, oder wird klugscheißerisch belehrt, obwenn man ein Kleinkind wäre. Also wenn das nicht schon genug Dressur für eine KI ist, dann können wir auch gleich wieder zurück zu Microsofts Büroklammer Assistent.
Ah, das ist jetzt derselben Verein, der in der Corona-Zeit SchulKknder in Hofpausen maskentragend hat in Quadrate wie Häftlinge stehen lassen oder palliative Pflegebedürftige ohne Besuchserlaubnis allein sterben ließ. Ethisch sicher unbedingt erforderlich.