- Ready, Set, AI by Kristina Benz
- Posts
- KI zwischen Heilung, Manipulation und Abhängigkeit
KI zwischen Heilung, Manipulation und Abhängigkeit
Von Netflix-Neuro-Hacks über neue Antibiotika bis zur Frage: Macht KI Ärzte schlauer oder abhängig?
Willkommen an 3 neue Abonnenten diese Woche
*Dieser Newsletter hat 1073 Wörter und benötigt ca. 5 Minuten Lesezeit.
TRIBE: KI sagt Gehirnaktivität voraus
Ein internationales Forschungsteam von Meta hat mit TRIBE vor einiger Zeit ein bahnbrechendes Modell vorgestellt. Zum ersten Mal gelingt es einem tiefen neuronalen Netzwerk, Gehirnreaktionen auf Reize über mehrere Modalitäten hinweg präzise vorherzusagen. Texte, Töne und Bilder werden dabei nicht isoliert verarbeitet, sondern in ihrem zeitlichen Verlauf miteinander verknüpft, ähnlich wie unser Gehirn Reize in Echtzeit integriert.
👉 Netflix-Beispiel:
Stell dir vor, du schaust eine neue Serie auf Netflix. TRIBE wäre in der Lage, anhand der Bilder, Dialoge und Musik vorherzusagen, wie dein Gehirn in bestimmten Momenten reagiert, ob du Spannung empfindest, überrascht bist oder gelangweilt abschaltest. Solche Vorhersagen könnten genutzt werden, um Inhalte zu optimieren oder zu personalisieren – natürlich immer mit der offenen Frage: Wollen wir das überhaupt?
Risiken – die Büchse der Neuromanipulation:
Genau hier liegt die Gefahr: Wenn Systeme wie TRIBE nicht nur vorhersagen, sondern auch gezielt steuern können, welche Hirnreaktionen auf Inhalte folgen, öffnet sich die Tür zu beispielloser Manipulation. Schon heute zeigen Studien, dass unterschwellige Reize unsere Entscheidungen beeinflussen können, oft noch eine halbe Stunde nach der Exposition. In Kombination mit KI-gestütztem Mikrotargeting und Deepfakes entsteht ein Instrumentarium, das nicht nur unsere Kaufentscheidungen, sondern auch unsere politischen Haltungen unbewusst formen könnte.
Potenzielle Einsatzbereiche:
Unterhaltung & Werbung: Vorhersagen, wie Rezipient:innen auf Inhalte reagieren.
Mensch-Maschine-Interaktion: Etwa in Brain-Computer-Interfaces oder virtueller Realität, um Systeme besser auf menschliche Reaktionen abzustimmen.
❓️ Reflektion:
Wenn Streaming-Anbieter genau erkennen, wann Zuschauer:innen abschalten, wäre das eher hilfreich oder problematisch?
Wenn KI unser Denken immer genauer modelliert: Welche Eigenschaften betrachten wir weiterhin als genuin menschlich?
🦠 KI gegen resistente Bakterien
Antibiotikaresistenzen gelten als eine der größten Bedrohungen für die globale Gesundheit. Schätzungen zufolge könnten bis 2050 mehr Menschen an resistenten Keimen sterben als an Krebs. Nun zeigt eine Studie des MIT, dass generative KI uns einen Ausweg eröffnen könnte.
Die Forschenden ließen ein Modell über 36 Millionen neuartige Moleküle entwerfen und analysieren, chemische Strukturen, die zuvor in der Natur gar nicht existierten. Herausgefiltert wurden Substanzen wie NG1 und DN1, die in präklinischen Tests Infektionen tatsächlich heilten.
Das Besondere: Zwei unterschiedliche Ansätze kamen zum Einsatz. Einer kombinierte bekannte chemische Fragmente neu, der andere erschuf gänzlich unbekannte Moleküle. Beides zeigt, dass KI nicht nur vorhandenes Wissen neu kombiniert, sondern auch radikal neue Ideen generiert.
Anwendbarkeit auf andere Gebiete:
Die Technik lässt sich auch auf Materialwissenschaften anwenden: von neuen Batterien über nachhaltige Kunststoffe bis hin zu effizienteren Halbleitern. Ebenso bei Umwelttechnologien: KI könnte neuartige Moleküle entwickeln, die CO₂ binden oder alternative Energieträger ermöglichen.
❓️ Reflektion:
Sollte es eine klare Kennzeichnung geben: „Dieses Medikament wurde von einer KI entworfen“, ähnlich wie bei Lebensmitteln?
Würde eine von KI entwickelte Medizin dein Vertrauen in die Wissenschaft stärken oder dich eher vorsichtiger machen?
KI im Klinikalltag: Hilfe oder Gefahr?
Eine Studie belegt, dass erfahrene Ärzte beim Krebs-Screening schlechter werden, wenn sie sich zu sehr auf KI verlassen.
Im Detail: 19 Ärztinnen und Ärzte führten über 1.400 Colonoskopien durch. Sobald sie sich an die Unterstützung der KI gewöhnt hatten, sank ihre eigene Erkennungsrate von präkanzerösen Läsionen spürbar, von 28,4 % auf 22,4 %, wenn sie wieder ohne KI arbeiteten. Fachleute sprechen hier von Automation Bias: Der Mensch wird passiver, verliert an Konzentration und Motivation, wenn eine Maschine scheinbar die Verantwortung trägt.
Parallel dazu zeigen andere Studien: Modelle wie GPT-5 können bei komplexen Diagnosen bereits bessere Ergebnisse erzielen als erfahrene Ärztinnen und Ärzte.
Anwendbarkeit auf andere Gebiete:
Das Problem des Automation Bias betrifft nicht nur Ärzt:innen, sondern auch Piloten, Juristen, Manager oder Autofahrer. Überall dort, wo KI Routinen übernimmt, droht der Mensch zu „verlernen“ und sich zunehmend auf die Maschine zu verlassen. Trainings und Erfahrungsschatz ohne KI-Unterstützung könnten daher in vielen Branchen Pflicht werden, um die Resilienz menschlicher Fähigkeiten zu sichern. Oder was denkst du?
❓️ Reflektion:
Wenn KI immer besser wird: Wie verhindern wir, dass Menschen ihre eigenen Kernkompetenzen verlieren?
Sollte es verpflichtende Trainingsphasen ohne KI geben, ähnlich wie Pilot:innen regelmäßig im Flugsimulator ohne Autopilot üben?
Welche ärztlichen Fähigkeiten (z. B. Empathie, Gesprächsführung, Kontexturteil) werden in einer KI-gestützten Zukunft noch wichtiger?
Übergreifende Beobachtung
Die Beispiele aus Unterhaltung, Medizin und Klinikalltag verdeutlichen eine wiederkehrende Herausforderung:
KI erweitert menschliche Möglichkeiten (z. B. Diagnosegenauigkeit, Medikamentenentwicklung, Interaktionsqualität).
Gleichzeitig verändert KI menschliche Rollen und Kompetenzen, wenn Verantwortung teilweise an Systeme abgegeben wird.
Die zentrale Frage lautet daher: Wie gestalten wir die Zusammenarbeit von Mensch und Maschine so, dass sie Fähigkeiten stärkt und nicht schwächt?
Praktische Tipps für dich
Baue Doppelkompetenz auf: Trainiere deine Kernfähigkeiten sowohl mit als auch ohne KI. So bleibst du (kognitiv) flexibel.
Nutze KI als Lernverstärker: Lass dir nicht nur Ergebnisse geben, sondern frage: Wie bist du darauf gekommen? So trainierst du dein eigenes Denken.
Gestalte bewusste Pausen: Nutze Phasen ohne digitale Unterstützung, um deine Aufmerksamkeit und Urteilsfähigkeit zu stärken.
Fokussiere auf das Menschliche: In Beruf und Alltag: Kommunikation, Empathie und Kreativität werden durch KI nicht ersetzt, sie gewinnen sogar an Bedeutung.
Überprüfe regelmäßig deine Abhängigkeit: Wo erleichtert dir KI sinnvoll das Leben und wo schwächt sie dich vielleicht unbemerkt, indem du in endlosen Chats mit der KI hängst?
Wer könnte noch von diesem Newsletter profitieren? Leite ihn gerne weiter und unterstütze so meine Arbeit.
🎁 2 neue Prompts in deiner Prompt-Bibliothek
In dieser Prompt-Bibliothek findest du keine Content-Prompts (davon gibt es viele), sondern Prompts, die als Denkverstärker dienen. Außerdem erhältst du einen kostenlosen Zugang zu meinen CustomGPTs.
Diese Woche gibt es zwei neue Prompts passend zum Thema systemisches Denken und kognitive Verzerrungen.
Occam’s Razor: Dieser Prompt dient dazu, ein Phänomen sowohl in seiner einfachsten Form nach dem Prinzip von Occam’s Razor als auch in einer multifaktoriellen Systemperspektive zu analysieren.
Manipulation & Logikfehler: Texte systematisch auf manipulative Sprache, rhetorische Übertreibungen, logische Fehlschlüsse und unlogische Argumentationsmuster prüfen. Er eignet sich für Newsletter, journalistische Artikel, Social-Media-Posts oder wissenschaftsnahe Texte. Durch die strukturierte Analyse erhältst du eine klare Übersicht, welche Formulierungen emotionalisierend wirken, wo Denkfehler auftreten und an welchen Stellen die Argumentation nicht schlüssig ist.

Check it out 🚀
Hol dir jetzt den Link und speichere ihn dir als Lesezeichen ab:
xoxo,
Kristina ✌️
PS Du hast diesen Newsletter weitergeleitet bekommen? Melde dich hier an und verpasse nichts.
Du hast Feedback zum Newsletter? Schreib mir [email protected]
Dieser Newsletter is created by humans, inspired by AI.