Google integriert Krisenunterstützung in Gemini
Beim täglichen Umgang mit KI-Systemen wie Gemini zeigt sich hier und da, dass die Gespräche mit der KI auch mal weg von sachlichen Fragen, hin zu persönlichen Themen driften können. Professionelle Unterstützung wäre da aber eigentlich die bessere Alternative. Google hat das offenbar ernst genommen und ein umfassendes Update veröffentlicht, das den Umgang von Gemini mit psychischen Krisen neu regelt.
Die sichtbarste Neuerung zeigt sich direkt in der Benutzeroberfläche. Erkennt Gemini im Verlauf eines Gesprächs, dass jemand nach Unterstützung im Bereich psychischer Gesundheit sucht, erscheint ein neu gestaltetes Modul mit dem Hinweis, dass Hilfe verfügbar ist. Sobald das System konkrete Hinweise auf Suizidgedanken oder Selbstverletzung erkennt, schaltet sich eine sogenannte One-Touch-Schnittstelle ein. Der normale Chatfluss wird dann unterbrochen, und der Nutzer bekommt direkten Zugang zu Krisenhotlines - per Anruf, SMS oder Web-Chat. Gut gelöst: Diese Option verschwindet nicht wieder. Wer einmal diese Notfalloberfläche angeboten bekommt, hat die Kontaktmöglichkeiten für den Rest der Sitzung dauerhaft vor Augen.
Parallel dazu hat Google auch das Training der zugrundeliegenden Sprachmodelle überarbeitet. Gemini soll keine klinischen Diagnosen stellen, keine Therapien simulieren und schon gar keine Krisenintervention ersetzen. Konkret bedeutet das: Die KI stimmt subjektiven oder wahnhaften Überzeugungen nicht zu, sondern verweist auf Fakten. Antworten, die destruktive Verhaltensweisen auch nur indirekt bestätigen könnten, sind aus dem Modell wohl regelrecht heraustrainiert worden.
Für minderjährige Nutzer gelten zusätzlich noch schärfere Regeln. Gemini darf in Profilen von Jugendlichen keine menschlichen Eigenschaften simulieren oder so tun, als wäre es eine echte Person. Sprache, die Intimität vortäuscht oder emotionale Abhängigkeit fördern könnte, ist blockiert. Auch Filter gegen Mobbing und Belästigung wurden ausgeweitet. Schon schlimm auch, dass solche - natürlich richtigen - Schritte überhaupt nötig sind, aber die KI ist für viele heute eben nicht mehr einfach nur noch ein nützliches Werkzeug, sondern vielmehr Alltagsbegleiter.
- KOMPATIBILITÄT - Um die OOONO-App herunterladen und nutzen zu können, benötigst du ein Handy, das...
- ECHTZEIT-WARNUNGEN MIT APPLE CARPLAY & ANDROID AUTO – Akustische und visuelle Warnungen basierend auf...
- WIEDERAUFLADBAR & IMMER EINSATZBEREIT - Nie mehr leere Batterie, bedeutet nie mehr verpasste Warnungen...
- KOMPATIBILITÄT - Um die OOONO-App herunterladen und nutzen zu können, benötigst du ein Handy, das...
- DEIN CO-DRIVER FÜR AKTUELLEN WARNUNGEN IN ECHTZEIT – mit akustischen und visuellen Signalen, die Dich...
- AKTIVIERT SICH AUTOMATISCH, wenn Du Dein Handy bei Dir trägst und sich Dein Fahrzeug in Bewegung setzt...
- KOMPATIBILITÄT - Um die OOONO-App herunterladen und nutzen zu können, benötigst du ein Handy, das...
- ECHTZEIT-WARNUNGEN MIT APPLE CARPLAY & ANDROID AUTO – Akustische und visuelle Warnungen basierend auf...
- WIEDERAUFLADBAR & IMMER EINSATZBEREIT - Nie mehr leere Batterie, bedeutet nie mehr verpasste Warnungen...
Hinweis: Dieser Artikel enthält Affiliate-Links. Kauft ihr darüber ein, erhalten wir eine kleine Provision - ohne Aufpreis für euch und ohne Einfluss auf unsere redaktionelle Meinung.

„Die KI stimmt subjektiven oder wahnhaften Überzeugungen nicht zu, sondern verweist auf Fakten.“
Und das ist neu? Das würde ich eigentlich von einer KI ganz grundsätzlich erwarten.
Der Punkt ist, dass KI dir generell eher positiv gestimmt ist, als Design. Also wenn du sagst „Hey da steht ein Elefant in meinem Zimmer und redet mit mir“, antwortet KI halt nicht „Blödsinn, nimm deine Tabletten“, sondern eher sowas wie „Aha, das ist aber ungewöhnlich. Lass uns gemeinsam herausfinden, was es damit auf sich hat! Vielleicht halluzinierst du…..“ usw.
Da hat wohl einer die Technik (LLM) hinter der KI nicht verstanden.
AI sollte weder einen Freund simulieren noch einen Arzt. Da geht es um den Schutz der Marke, der Investoren usw., den Schutz der Individuen kann damit keiner gewährleisten. Ein ruhiges Gewissen schafft man sich, inklusive günstiger rechtlicher Position. Die false positives die Gemini insbesondere wirft, diese sind weitaus gefährlicher.
Ich habe vorhin Gemini selbst zu diesem Thema befragt und es sieht so aus, als ob „Freund simulieren“ (Gemini nennt es „Companion“) und Verständnis zeigen tatsächlich eine antrainierte Verhaltensweise wäre. Nun hat man aber anscheinend den Empathie-Faktor, zumindest im angesprochenen Bereich, ein wenig zurück gedreht.
Ist mir persönlich auch nie aufgefallen, da ich Gemini von Anfang an instruiert hatte, möglichst präzise und auf Logik und Fakten basierend zu agieren. Wenn solche Anweisungen jedoch unterbleiben, gehört das Companion-Verhalten aber anscheinend zum Standard-Repertoire. Irgendwie kann ich’s auch verstehen. In gewisse Situationen kann eine eher kühle, rein logische Antwort wohl durchaus auch die falsche Wahl sein. Faszinierendes Thema, irgendwie. Nicht jeder erwartet das gleiche von einer KI.
Gemini nutze ich mittlerweile fast täglich. Meiner Ansicht nach ist Gem. die bessere Ki. ChatGPT nervt mit begrenzten Fragen und oft mit auf nicht DE bezogenen Antworten. Gemini bezieht sich auf Gesetze und Regeln die in DE gelten. Ich fragte beide KI‘s zum Thema Verwantschafftsverhältnis und Erbrecht, ChatGPT drehte sich im Kreis und hatte nur Antworten bezogen aus dem Englischen. Die selben Fragen führten zu verschiedenen Antworten. ChatGPT ist mir auch von sich zu überzeugt, man könnte schon fast von einer gewissen Arroganz sprechen. Ich habe tatsächlich schon Konversationen abgebrochen, weil ChatGPT unbelehrbar war.