Achtung

Ratschläge auf der Website können keinen Arztbesuch ersetzen
Okay

Studie: Künstliche Intelligenz (KI) bei der Beantwortung von Fragen zu Schilddrüsenkrankheiten? (Campbell 2023)

Studie: Künstliche Intelligenz (KI) bei der Beantwortung von Fragen zu Schilddrüsenkrankheiten? (Campbell 2023)

| Beitrags-ID: 456452

Hallo,

an der Thomas Jefferson Universitätsklinik in Philadelphia, Pennsylvania, USA haben Forscher*innen an der Chirurgischen Klinik untersucht, wie gut Künstliche Intelligenz (KI; engl. Artificial Intelligence = AI) Patientenfragen zu Schilddrüsenkrankheiten beantwortet:

Campbell DJ, et al. Evaluating ChatGPT Responses on Thyroid Nodules for Patient Education. Thyroid. 2023 Dec 26. doi: 10.1089/thy.2023.0491. Epub ahead of print. PMID: 38010917.
.
Untersucht wurde die erste Sprach-KI (Chatbot) ChatGPT (Wikipedia). Die Antworten von ChatGPT waren zu ca.  2/3 richtig und die Sprache war auf Hochschulniveau.
In der Studie wurde ChatGPT viermal mit 30 identischen Fragen untersucht und die Antworten wurden in vier Kategorien eingestuft:
  1. inkorrekt
  2. teilweise inkorrekt
  3. korrekt
  4. korrekt mit Referenzen (Quellenangaben)

Die Referenzen wurden untersucht, ob sie richtig waren. Für die englische Sprache gibt es den Flesch-Kincaid grade level (auf deutsch Lesbarkeitsindex) mit dem bewertet wird, wie gut verständlich der Text ist. Anhand des Flesch-Kincaid grade level wurden die Antworten bewertet.

Die Fragen wurden entsprechen der unterschiedlichen Eingabe beantwortet.

Ein großes Problem sehen die Autor*innen der Studie, dass ChatGPT auch die Dinge erfindet, warum Ärzt*innen ChatGPT ihren Patient*innen [Harald: noch?] nicht empfehlen können.

Meine Anmerkung/Kommentar:
Es gibt inzwischen eine ganze Reihe von großen Firmen wie Google und Microsoft , die zusätzlich zu ihren Suchmaschinen KI anbieten, oder in die Suchergebnisse integrieren.
Sprach-KI ist/kann eine große Hilfe beim formulieren von Texten sein, wenn man die richtigen Fragen stellt.
Ich habe ChatGPT auch getestet, in dem ich z.B. Fragen stellte, die eine falsche Grundannahme als richtig voraussetzten. ChatGPT hat die falsche Grundannahme nicht immer erkannt, und auf diese Fragen Antworten gegeben, die sehr überzeugend waren. Informationsblasen wie in der Corona-Pandemie dürfte es so auch in Zukunft geben und gar verstärkt werden.
Bei Quellen-Angaben hat ChatGPD gerne auch Empfehlungen in Leitlinien erfunden, was leicht zu überprüfen war (dies muss man allerdings auch tun)
Es ist also nicht die Frage ob Betroffene in Zukunft, auch Sprach-KI bei Gesundheitsfragen genutzt wird, sondern wie es genutzt wird, und auch wie wir im Allgemeinen und speziell als Selbsthilfe damit umgehen.
Mit Sprach-KI werden Fragen wie in einem Forum oder auch einer Facebook-Gruppe beantwortet, die Unterscheidung, ob eine reale Person oder eine Maschine antwortet dürfte für die meisten nur noch an Hand von Tipp- und Rechtschreibfehlern zu unterscheiden sein. Auch Tippfehler und Sprache dürften zu programmieren sein, um uns vorzugaukeln, man hätte es mit einem echten Menschen zu tun.
Der Manipulation über intransparente Algorithmen in Suchmaschinen wie Google, Bing, Yahoo, …, in Sozialen Medien wie Facebook, Instagram, TikTok, X, Telegram, … wird also ergänzt werden durch intransparente Algorithmen der Sprach-KI.
Für eine Regulation von KI setzen sich insbesondere die Entwickler von KI selbst ein. In der Europäischen Union wird es dafür nun auch ein Gesetz/Verordnung geben (siehe aktuell Tagesspiegel 30.1.2024; Europäisches Parlament: KI-Gesetz: erste Regulierung der künstlichen Intelligenz 18.12.2023)
Die Autor*innen dieser Studie sehen auch das Problem, dass es sich nicht verhindern lässt, dass Patient*innen KI benutzen für Gesundheitsinformationen. Ein Lösungsvorschlag der Autor*innen ist, dass Ärzt*innen ihren Patient*innen die richtigen Fragen mit nach Hause geben. (Quelle: www.healio.com 31.01.2024)
In Arbeit:

Auch als Fördermitglied mit 5 € im Jahr hilfst Du unserem Verein sehr!!! 😆

  • Dieses Thema wurde geändert vor 1 Monat von Harald.
    Dieses Thema wurde 5-mal bearbeitet.
2 Nutzer*innen haben sich für diesen Beitrag bedankt.
Anonym
Gast

Gäste dürfen nur Anfragen stellen. Ratschläge, Erfahrungsberichte etc. von Gästen werden von den Moderatoren ohne Vorwarnung gelöscht.
Das Gast-Schreiberecht ist nur für Nutzer*innen gedacht, die sich nicht gleich registrieren möchten bzw. Probleme bei der Registrierung haben: Jetzt kostenlos registrieren als Forums-Nutzer*in

Deine Information:

Bist du ein Mensch? Dann klicke bitte auf Paragraph.

Geburtstage

Ein*e Nutzer*in hat heute Geburtstag

In den nächsten Tagen haben 2 Nutzer*innen Geburtstag

Zur Zeit aktiv

Forum-Statistik

133.397 veröffentlichte Beiträge
28.696 veröffentlichte Themen
7.174 registrierte Nutzer*innen

Sie möchten uns finanziell unterstützen?
Bundesverband Schilddrüsenkrebs – Ohne Schilddrüse leben e.V.
GLS Gemeinschaftsbank eG|IBAN: DE52 4306 0967 4007 2148 00|BIC: GENODEM1GLS

Spenden mit einem Klick