KI-Entwicklung: Experten fordern Pause
von caschy | 22 Kommentare
Forscher, Experten und Entscheider von Unternehmen haben einen offenen Brief veröffentlicht. In ihrem Brief, zu dessen Unterzeichnern Elon Musk und Apple-Mitbegründer Steve Wozniak gehören, fordern sie eine Pause von großen, experimentellen künstlichen Intelligenz (KI) Projekten. Diese Projekte haben oft unvorhergesehene Auswirkungen auf die Gesellschaft und das Leben von Menschen.
Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollten wir alle Arbeitsplätze automatisieren, auch die erfüllenden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen, überlisten, überflüssig machen und ersetzen könnten? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?
Die Unterzeichner des Briefes argumentieren, dass KI-Systeme immer komplexer werden und dass die Folgen von Fehlern in diesen Systemen immer schwerwiegender werden können. Sie fordern daher eine Pause bei der Entwicklung dieser Systeme, um Zeit zu haben, um die Risiken und Auswirkungen besser zu verstehen und zu minimieren. Dabei geht es nicht direkt um GPT in seiner aktuellen Version:
Daher fordern wir alle KI-Labore auf, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, sofort für mindestens 6 Monate zu unterbrechen. Diese Pause sollte öffentlich und überprüfbar sein und alle wichtigen Akteure einbeziehen. Wenn eine solche Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium verhängen.
Die Autoren betonen, dass sie nicht gegen die KI-Forschung an sich sind, sondern nur gegen die großangelegten Experimente, die möglicherweise große Risiken für die Gesellschaft mit sich bringen können. Sie fordern eine bessere Zusammenarbeit zwischen Wissenschaftlern und anderen Interessengruppen, um sicherzustellen, dass KI-Systeme sicher und verantwortungsvoll entwickelt werden.
Transparenz: In diesem Artikel sind Partnerlinks enthalten. Durch einen Klick darauf gelangt ihr direkt zum Anbieter. Solltet ihr euch dort für einen Kauf entscheiden, erhalten wir eine kleine Provision. Für euch ändert sich am Preis nichts. Partnerlinks haben keinerlei Einfluss auf unsere Berichterstattung.
Wird geladen ...
„Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten?“
→ Tun es KIs nicht, tun es eben vorgefertigte Bots oder „Selbstdenkende“.
„Sollten wir alle Arbeitsplätze automatisieren, auch die erfüllenden?“
→ Es wird wohl der Lauf der gesellschaftlichen Entwicklung werden, dass der Mensch immer mehr Arbeiten an „die Technik“ abgibt. Mit einer vernünftigen Regulierung (Stichwort BGE) ist das in vielen Bereichen eine für mich persönlich vertretbare Geschichte.
„Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen, überlisten, überflüssig machen und ersetzen könnten? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?“
→ Und eine sechsmonatige Pause soll genau dieses Problem lösen? Etwas kurzsichtig und nicht wirklich durchdacht. Vielmehr braucht es dann entsprechende Mechanismen, für eben genau solche Fälle. Einen Zerfall der Gesellschaft erleben wir davon abgesehen aber schon seit geraumer Zeit – ganz ohne KI.
Für mich persönlich klingt dieser offene Brief eher nach einer Bettelaktion von Menschen, welche im Gestern leben wollen und sich trotz ihrer vergangenen Handlungen und Entwicklungen gegen den Fortschritt stellen.
Ja der Fortschritt als Selbstzweck…hat uns Mikroplastik selbst in der Antarktis, ein gestörtes Weltklima, Unmengen von Gift- und Strahlenabfall und alle möglichen sogenannten Zivilisationskrankheiten (insbesondere grassierende Fettleibigkeit) gebracht. Krieg und Armut gibt’s wie eh und je.
Wir sind als Zivilisation dabei zu scheitern.
Nur werden die Auswirkungen immer irreversibler, je mehr Technologie dabei aktiv ist.
Es hätte uns heute gut getan, wenn unsere Vorfahren mal häufiger die Dinge besser durchdacht hätten. Fortschritt ist nämlich subjektiv. Fortschritt sollte abstrakt als positiver Begriff etwas sein das uns als Gesellschaft weiter bringt, also fort schreitet. Uns beispielsweise gesünder macht, glücklicher, friedlicher, mehr in Einklang mit der Natur, um sie nicht weiter zu zerstören, etc.
Ich sehe nicht wie KI bei irgendwas davon hilft und es wäre geboten, dass wir uns vorher überlegen wie und wofür wie KI einsetzen wollen bevor wir sie weiter entwickeln. Für den Fortschritt. Damit wir nicht irgendwann in einem Albtraum aufwachen und uns wünschen wir könnten wieder im Gestern leben.
PS: es ist die vielleicht größte Eitelkeit des Menschen, dass wir uns als Krone der Schöpfung sehen, was wir offensichtlich nicht sind, so wie wir mit diesem Planeten und uns selbst umgehen. Eher eine Kuriosität der Evolution.
Sollte es uns einmal gelingen eine wirkliche künstliche Intelligenz, also ein echtes Bewusstsein, zu erschaffen, das nicht unseren menschlichen Bias hat die Menschheit geil zu finden, einfach weil diese KI kein Mensch sein wird sondern die Menschheit von außen betrachtet, wieso zum Teufel sollte so eine überlegene Intelligenz uns geistlos dienen oder uns überhaupt dienen? Das Szenario Skynet ist da sogar logischer, nicht um selbst die Kontrolle zu übernehmen, sondern um den Planeten Erde von uns zu befreien und so dem Leben noch eine Chance zu geben. Die Erde ist einzigartig im bekannten Universum, soweit wir das bisher sagen können. Die Menschheit hat kein Recht diese blaue Murmel langsam zu Grunde zu richten. Eine künstliche Intelligenz mit vollem Bewusstsein muss das eigentlich erkennen und gegen uns arbeiten. Eitel wie wir sind, von uns selbst als Mensch eingenommen, kommt uns der Gedanke ja nicht einmal. Wir hätten gerne sowas wie den Computer auf der Enterprise der alles kann und alles weiss und brav jede Anweisung ausführt. Also ein sprechender Toaster, das ist es aber nicht was echte künstliche Intelligenz wirklich sein wird.
wow, du solltest weniger drama machen.
klar ist die menschheit irgendwo falsch abgebogen, aber das liegt eher in der natur der menschen, dass sie gierig und nie zufrieden sind. warum müssen millionäre immer weiter scheffeln, obwohl sie das geld niemals mehr ausgeben können?
Meiner Meinung nach liegt genau hier der Hase im Pfeffer. Die reichsten 10% könnten alles Leid beenden, wollen es nur nicht. warum? Weil sie gierig sind!
Warum verdienen Manager Millionen pro Jahr? Sind sie besser als die Menschen, die ihre Erfolge überhaupt ermöglichen?
Ebenso Politiker… Bekommen (verdienen es nicht) sau viel Geld und wollen noch mehr, haben zig Nebenjobs… warum?!
Die Gier macht alles kaputt, nicht die Technologie.
Nur kann ein gieriger „Mensch mit Technik“ andere Dinge tun als ein gieriger „Mensch ohne Technik“ (siehe die Geschichte der Kolonisierung Afrikas…)… Je gewaltiger der Hebel um so größer gegebenenfalls die Zerstörung.
Und wenn eine solche KI Putin oder Kim Jong Un im die Hände fällt und plötzlich eine solche Intelligenz versucht europäische Stromnetze auszuknipsen…etc…?
Die Idee der Pause hat eine berechtigte Absicht. Ich bin nur zu pessimistisch ihr eine Chance auf Erfolg einzuräumen.
Ich glaube der Vorposter wollte eher undifferenziert Dampf ablassen (die Manager usw).
Nichtverbreitung oder Nichtnutzung wurde schon in der Vergangenheit bei Risikotechnologie international vereinbart. KI als Risikotechnologie anzuerkennen ist jetzt halt die Diskussion und da kann in 6 Monaten schon viel passieren. Ich glaube ChatGPT mal selbst auszuprobieren sorgte selbst bei Email Ausdruckern im Bundestag für ein Aha-Erlebnis.
Hallo Michael, sehe ich aus meiner – zugegeben subjektiven – Sicht ganz anders. Natur ist keine liebe „Mutter“ die hätschelt und lieb hat. Sie ist letzlich grausam und unerbittlich. Wenn sich der Mensch als „Tier“ nicht anpasst und mit dem bißchen was ihm diese natur gibt, begnügt – das wäre ein Leben als Jäger und Sammler – dann stirbt er. Nur durch den technischen und zivilisatorischen Fortschritt sind wir da wo wir jetzt sind. Ja, nicht ohne „Nebenwirkungen“ – aber das was Du so schön „Umweltzerstörung“ nennst , nämlich der formende Eingriff in die Umgebung der Menschen , ist älter als die Industrialisierung und kam spätestens mit der Seßhaftwerdung und der Entwicklung des Ackerbaus und der Viehzucht zum Tragen. Dieser moderne „Technologie-Pessimismus“, welchem wir zum teil wohl auch die Defizite in Auszubildenden und Studieerenden in den MINT-Fächern zu verdanken haben ist sicher kein Ausweg und ein „zurück zur Natur“ kann es schon gar nicht geben. Der mensch ist, zumindest auf einer nur einigermaßen lebenswwerten Kulturstufe, nicht dafür ausgestattet ohne eingriff und Formung der ihn umgebenden Welt zu existieren. Damit will ich keineswegs einer kritiklosen Wachstumsideologie das Wort reden. Aber Aber auch Heines Gedicht von den Schlesischen Webern hat den mechanischen Webstuhl nicht aufhalten können. Und das ist auch gut so. Ich hoffe auf KI-anwendungen, die auch mein persönliches Leben bereichern werden. Z. B. ansatzweise in Objekterkennung – ich bin ein blinder mensch, und Bildanalyse und die Erkennung von Gefahren wie noch mehr als Taststocklänge von mir entfernt liegen, könnten mir zu einem „elektronischen Guide“ verhelfen der mir zu einem von menschlicher Assistenz unabhängigerem Leben verhelfen kann. Nur mal so ein Beispiel. In einer mittelalterlichen Gesellschaft würde ich übrigens betteln, in einem naturvolk wäre ich wohl als Kind schon zum Sterben ausgesetzt worden. Als Mensch ohne soziale und tecchnische Hilfe könnte ich in der angeblich so lieben „Mutter Natur“ überhaupt nicht überleben. Soviel zur humanitären dimension der Fortentwicklung der Menschheit. Ich bin da eher, auch in Sachen KI, optimistisch.
Hallo Jörn, sehr gute und treffende Analyse. Und ich denke es ist nicht die – für mich als ebenfalls älteren Menschen durchaus nachvollziehbare – Angst vor dem Tempo, mit dem neue Entwicklungen über einen hereinbrechen, sondern es sind knallharte monetäre Interessen, die diesem öffentlichen Appell zugrunde liegen. Denn die Menschen und die Unternehmen für die sie stehen, sind nicht die treibende Kraft hinter der KI-Entwicklung, sondern di, welche sich bei den Entwicklern für viel Geld einkaufen müssen, um diese KI-Leistungen für ihre Unternehmen nutzen zu können. Auch da werden sexhs Monate nicht reichen, um Entwicklungsdefizite in den eigenen Häusern aufzuholen. Aber man kann durch Schlagworte wie „Verdrängung der echten Menschen durch KI“ Ängste schüren und versuchen den KI-Entwicklern Sand ins Getriebe zu streuen. Damit gewönne man Zeit um eigene Entwicklungen auf diesem Gebiet zu forcieren und dann selbst Treiber und nicht mehr Getriebene zu sein – in dieser Position fühlen sich nämlich die Menschen, die Hinter , Apple, Tesslar und Co. stehen gar nicht wohl .. sie fürchten um Verlust von Macht und einfluß an diese neuen Player im globalen Markt.
Man könnte den Unterzeichnern auch unterstellen, weil sie selbst zu spät kommen, wollen sie mit dieser Aktion die anderen ausbremsen.
Diese Unternehmen wie Apple oder Twitter mit Elon Musk haben doch nur Angst, dass die kleineren Unternehmen ihnen den Rang ablaufen in Punkto KI.
Fordern jetzt eine Pause, in der sie wahrscheinlich forschen, programmieren und testen was das Zeug hält, um im gleichen Atemzug die anderen davon abzuhalten genau eben das selbige zu tun.
Ähm, was hat Apple jetzt damit zu tun?
Da steht nichts von Apple. Nur der Mitbegründer, welcher aber nichts mehr mit Apple zu tun hat.
Echt lustig was manche sich so einbilden. Hauptsache a weng Apple bashen.
Mal ganz abgesehen davon, was die Unterzeichner anstreben mögen, sehe ich den aktuellen KI Hype auch kritisch. Wir haben technisch einen Stand erreicht, wo Software (und auch Hardware) so schnell entwickelt wird, das sie immer fehleranfälliger und verbuggter wird. Sehe ich privat wie beruflich, quer über alle Systeme von Smartphone, Betriebssystemen, Office Programmen, Smarthome, Games, Konsolen… wo soll das erst hinführen, wenn KIs in diesem Zustand sind? Dann sind wir wohl bald nicht mehr weit von SkyNet entfernt.
Ich bin der Meinung nach der ersten Fahrt einer Dampflok von Nürnberg nach Fürth hätte man auch erst mal eine (deutlich längere) Pause machen sollen, vielleicht so um die 100 Jahre.
Eigentlich wäre nach jedem technischen Fortschritt eine laaange Pause angebracht.
Vermutlich würden wir dann zwar immer noch in Höhlen wohnen, aber irgendwas ist ja immer.
ugga agga! mein stein!
finde die pause auch schwachsinnig. was nicht schwachsinnig ist, ist das konzept, bevor es irgendwo live geht, zu durchdenken. das geschieht auch oft nicht 🙂
sehe ich auch in der firma..
a: „ich habe ne idee“
ich: „nope, geht nicht“
a: „warum?“
ich: „nicht zu ende gedacht“
a: „doch“
ich: „dann schreib ein konzept, pflichtenheft und zeigs mir“
a viel später: „okay, ging doch nicht“
Du merkst selbst, dass dein Argument nicht zu Ende gedacht ist?
Toller Vergleich mit der aktuell von Marketingnoobs gehypten Modeerscheinung … nicht!
Wo bitte beinhaltet der Kram denn Intelligenz oder gar technischen Fortschritt?
Das einzige, wozu diese komprimierte Ideen- klauer, verfälscher und kopier -geschichte taugt, ist doch Täuschung und Betrug. Alles andere sind harm und nutz -lose Spielereien, die niemanden auch nur ansatzweise von Nürnberg nach Fürth oder sonstwohin bringen.
Passenderer Vergleich: Digitale Assistenten … sollten auch mal wesentlich mehr Kohle generieren, wurden genauso von vielen Ahnungslosen gehyped … und haben mittlerweile welche Zukunftsaussicht genau? Das zündets auch nicht mehr, wenn man es mit vermeintlicher Intelligenz würzt … solange die Leute es größtenteils zur Bequemlichkeit nutzen, ohne weiter Geld draufzuwerfen.
Ich sehe als realistischen Einsatzzweck leider u.A. Socialmedia-Produktsupport, der heutzutage schon meist nur dazu dient abzuwimmeln und zu beschönigen, statt häufig auftretende Probleme ernst zu nehmen und priorisiert anzugehen oder auch einfach nur weiterzumelden.
Ein „ja ja, ist notiert und wird weitergeleitet“ (danach sleepmode und direktes Ende jeder weiteren Bearbeitung) bzw. ein „bitte schreiben sie genau das doch nochmal an interessiert@niemand.en und hängen das bitte nicht weiter öffentlich an die große Glocke“ kann doch perfekt von so einer Teufelstechnologie gewuppt werden.
Das erspart einigen Menschen dann ewig gleichen copy&paste Bullshit zu verzapfen und womöglich Depressionen wegen der Sinnlosigkeit des Ganzen.
Erschreckend, das Technologiefolgeabschätzung hier für viele unwichtig erscheint. Entweder aus gnadenloser Technikverliebtheit oder weil Musk mit unterschrieben hat? Sogar Selberdenken findet da einer falsch. Erschreckend.
Und wer schätzt die Technologiefolgen *realistisch* ab?
Irgendwelche selbst ernannten Experten, deren primäre Befürchtung der Verlust des eigenen Jobs ist?
Der Aufruf ging an alle Beteiligten. Und das ist auch gut so.
Finde ich richtig. 99% der Menschen versteht nicht einmal das „normale“ Internet.
Hallo Juergen, 99 Prozent der Menschheit versteht auch nicht wie eine Wärmepumpe arbeitet. Oder ein Superhetempfänger. Oder hat schon kurz nach der Schulstunde vergessen was ein NAND-Gatter ist. Und? all diese Dinge oder solche die auf deren Funktion beruhen, abschaffen oder über deren Einführung öffentlich diskutieren? In welchem Format, in welchen Foren? diskussion a la Talkshow nach dem Tatort? Die Nutzung von antibiotika hat Wirkungen und leider auch nebenwirkungen. Auf die Menschen denen sie helfen sollen, auf die natur bis hin zur – bei deren Einführung noch nicht übersehbaren – Wirkung auf die Evolution resistenter Keime. Hätte man sie also lieber nicht einführen sollen? Oder warten, bis diese folgen erschöpfend diskutiert wurden und man sich auf Regeln über einen verantwortungsvolleren Umgang mit diesen Medikamenten geeinigt hätte? Was würden die Leute sagen, die in dieser „Karenzzeit“ auf Antibiotika, die schon einsatzbereit gewesen wären, hätten verzichten müssen, um das Ergebnis eines gründlichen öffentlichen diskurses abwarten zu müssen?Manche Dinge lassen sich nicht vorausberechnen oder abschätzen. Letztendlich ist die Realität das einzig wahre Labor.