Im Folgenden lesen Sie einen Dialog der Redaktion des ARZNEIMITTELBRIEFS (AMB) mit dem Chatbot ChatGPT:
AMB: >> Geben Sie eine kritische Einschätzung der Indikationen, Nachteile und möglichen Risiken einer Langzeittherapie mit Protonenpumpenhemmern. Der Text sollte etwa 250 Wörter umfassen. Stil und Inhalt sollten sich an den Bedürfnissen von Allgemeinmedizinern orientieren. Vermeiden Sie Informationen aus Quellen, die kommerziellen Interessen der pharmazeutischen Industrie oder anderer Interessengruppen dienen. <<
ChatGPT: >> Protonenpumpeninhibitoren (PPI) werden zur kurzfristigen Behandlung von Erkrankungen wie der gastroösophagealen Refluxkrankheit (GERD), der peptischen Ulkuskrankheit und der Eradikation von Helicobacter pylori empfohlen. Ihre Langzeitindikationen sind jedoch nach wie vor umstritten. Es gibt Bedenken hinsichtlich ihrer Indikationen, Nachteile und potenziellen Risiken. Studien deuten darauf hin, dass PPIs bei unspezifischen Symptomen oder zur Prophylaxe ohne klare Indikation häufig überverordnet werden. Kliniker sollten Vorsicht walten lassen und die Notwendigkeit einer fortgesetzten PPI-Therapie im Einzelfall neu bewerten. Ziel dieser kritischen Bewertung ist es, die Nachteile und die damit verbundenen Risiken einer längeren PPI-Therapie zu beurteilen und den Allgemeinmedizinern Erkenntnisse für ihre klinische Entscheidungsfindung zu liefern.
Potenzielle Risiken einer PPI-Langzeiteinnahme:
- Säure-Rebound: Eine längere Einnahme von PPI kann zu einer Hypergastrinämie und einem anschließenden sogenannten Säure-Rebound („acid rebound“) nach dem Absetzen führen, was Symptome wie Sodbrennen hervorruft.
- Malabsorption: Eine verminderte Magensäuresekretion kann die Aufnahme bestimmter Nährstoffe (z.B. Vitamin-B12, Kalzium, Magnesium, Eisen) beeinträchtigen, was im Laufe der Zeit zu Mangelerscheinungen führen kann.
- Erhöhtes Risiko für Infektionen: Es gibt Hinweise darauf, dass eine langfristige PPI-Therapie mit einem erhöhten Risiko für Magen-Darm-Infektionen, einschließlich Clostridium-difficile-assoziierter Diarrhö und ambulant erworbener Lungenentzündung, verbunden ist.
- Wechselwirkungen mit anderen Arzneimitteln: PPI können den Stoffwechsel bestimmter Medikamente hemmen, was zu erhöhten Serumspiegeln und unerwünschten Wirkungen führen kann.
- Knochenbrüche: Die längere Einnahme von PPI wurde mit einem erhöhten Risiko für osteoporotische Frakturen in Verbindung gebracht, insbesondere bei älteren Erwachsenen oder solchen mit zusätzlichen Risikofaktoren.
- Nierenschäden: Einige Studien haben eine langfristige PPI-Therapie mit einem erhöhten Risiko für akute oder chronische Nierenerkrankungen in Verbindung gebracht.
- Kardiovaskuläre Ereignisse: Neue Erkenntnisse deuten auf einen möglichen Zusammenhang zwischen der Einnahme von PPI und einem erhöhten Risiko für kardiovaskuläre Ereignisse wie Herzinfarkt und Schlaganfall hin, obwohl weitere Untersuchungen erforderlich sind, um die Kausalität nachzuweisen.
Schlussfolgerung: PPI spielen zwar eine wichtige Rolle bei der Behandlung säurebedingter Magen-Darm-Beschwerden, die Indikationsstellung für eine Langzeittherapie sollte jedoch sorgfältig abgewogen werden. Die Notwendigkeit einer fortgesetzten Therapie sollte regelmäßig überprüft und gegebenenfalls alternative Behandlungsmöglichkeiten in Betracht gezogen werden. Weitere Studien sind erforderlich, um das Ausmaß und die Kausalität dieser Risiken zu klären. <<
AMB: >> Können Sie mir Literaturquellen für diesen Text angeben? Beschränken Sie sich auf Übersichtsarbeiten ab 2010 in hochrangigen Zeitschriften. <<
ChatGPT: >> Ich entschuldige mich für die Unannehmlichkeiten, aber als KI-Sprachmodell habe ich keinen direkten Zugang zu externen Quellen oder Datenbanken. Ich habe nicht die Möglichkeit auf bestimmte Fachzeitschriften zuzugreifen. Ich kann Ihnen jedoch eine allgemeine Liste angesehener Zeitschriften im Bereich Gastroenterologie und Pharmakologie zur Verfügung stellen, in denen Sie relevante Rezensionen zum Thema finden können: Gastroenterology; The American Journal of Gastroenterology; Gut; Alimentary Pharmacology & Therapeutics; Pharmacology; Journal of Clinical Pharmacology; Journal of Gastroenterology and Hepatology; Digestive Diseases and Sciences; Pharmacological Research; Current Medical Research and Opinion. Ich empfehle eine Literaturrecherche in diesen Zeitschriften unter Verwendung geeigneter Stichwörter zur Langzeittherapie mit Protonenpumpeninhibitoren. <<
AMB: >> Verfügt ChatGPT über einen Algorithmus, der sicherstellt, dass nur unabhängige Quellen verwendet werden, wenn über Arzneimittel geschrieben wird – insbesondere keine Quellen, die dem Marketing der Pharmaindustrie dienen oder die anderen kommerziellen Interessen unterliegen? <<
ChatGPT: >> Als KI-Sprachmodell habe ich keinen direkten Zugang zu Informationen über die spezifischen Algorithmen oder Prozesse, die bei meinem Training verwendet werden, einschließlich der Frage, wie Quellen auf kommerzielle Interessen überprüft werden. Ich kann jedoch allgemeine Informationen darüber geben, wie die Trainingsdaten gesammelt werden und welchen Ansatz OpenAI verfolgt, um verschiedene Arten von Bias zu minimieren.
Die Trainingsdaten für Modelle wie ChatGPT stammen aus einem breiten Spektrum von Internettexten, darunter seriöse Quellen wie Bücher, wissenschaftliche Literatur und Websites. OpenAI bemüht sich, einen vielfältigen und umfassenden Datensatz zu erstellen, um Bias zu minimieren, aber es ist wichtig zu beachten, dass der Trainingsprozess nicht perfekt ist und das Modell immer noch Antworten erzeugen kann, die einen in den Trainingsdaten vorhandenen Bias widerspiegeln.
Was pharmazeutische Informationen betrifft, so ist ChatGPT nicht in der Lage, die kommerziellen Interessen oder Zugehörigkeiten bestimmter Quellen zu verifizieren. Es wird empfohlen, die vom Modell bereitgestellten Informationen stets unabhängig zu überprüfen und mehrere seriöse Quellen zu konsultieren, wie z.B. medizinische Lehrbücher, Artikel mit Peer-Review und Leitlinien vertrauenswürdiger medizinischer Fachgesellschaften, um die Genauigkeit sicherzustellen und mögliche Interessenkonflikte zu berücksichtigen. <<
Dieser Dialog wurde am 1. Juli 2023 mit der englischen, frei zugänglichen Version von ChatGPT des Unternehmens OpenAI (San Francisco, USA) generiert. Fragen und Antworten wurden mit dem frei zugänglichen Onlinedienst für maschinelle Übersetzung DeepL (Köln, Deutschland) übersetzt. Die Texte wurden von uns geringfügig stilistisch überarbeitet und um einige wenige Redundanzen gekürzt (vollständige Originalversion des Chatverlaufs: siehe [1]).
In dem kurzen – da von uns auf 250 Worte beschränkten – Text von ChatGPT zur PPI-Langzeittherapie sind keine nennenswerten Fehler enthalten. Die aufgelisteten potenziellen UAW stimmen im Wesentlichen mit zahlreichen seit Beginn der PPI-Ära publizierten Studien überein, über die auch wir berichtet haben ([2]). Da es sich dabei fast ausschließlich um Beobachtungsstudien handelt, gibt es tatsächlich kaum eine sichere Evidenz für die Kausalität dieser mit Einnahme von PPI-assoziierten UAW. Dennoch wird von Fachgesellschaften übereinstimmend eine zurückhaltende Indikation für eine PPI-Dauertherapie empfohlen. Eine praxisbezogene Handlungsanweisung dazu gibt übrigens ein aktuelles Expert Review der Amerikanischen Gesellschaft für Gastroenterologie ([3]).
ChatGPT (GPT = „Generative Pre-trained Transformer“) ist ein textbasiertes Dialogsystem (Chatbot), das auf maschineller Lerntechnologie (Künstliche Intelligenz = KI; Artificial Intelligence = AI) beruht, und im November 2022 von OpenAI veröffentlicht wurde. OpenAI wurde 2015 ursprünglich als reines Non-Profit-Forschungslabor zur Entwicklung und Förderung von „Friendly AI“ gegründet. Erklärtes Ziel von OpenAI ist, KI ausschließlich zum Nutzen der Menschheit einzusetzen und potenzielle Risiken der KI aktiv einzudämmen ([4]). Seit 2019 gibt es eine parallele „For-Profit“-Tochtergesellschaft und seit Januar 2023 eine Partnerschaft mit dem internationalen Hard- und Sofrware-Entwickler Microsoft, der in den nächsten Jahren 10 Mrd. US-$ in OpenAI investieren wird. Seit Februar 2023 ist auch eine kostenpflichtige ChatGPT-Version mit zusätzlichen, aktualisierten Funktionen verfügbar (z.B. die aktuelle GPT-4-Version). Diese Entwicklung hin zu einem kommerziellen Unternehmen wird von manchen Seiten kritisch gesehen, da sie dem ursprünglichen „Non-Profit“-Gedanken von OpenAI widerspreche.
Die KI-Technologie ist heute erst in ihren Anfängen und noch mit zahlreichen Vorbehalten anzuwenden. Sie wird aber zweifellos in naher Zukunft manche Bereiche unseres beruflichen und privaten Lebens grundlegend verändern. Dienstleistungsberufe, die reine Informationsvermittlung zum Inhalt haben, werden wohl mittel- bis langfristig nicht mehr benötigt werden, und diese Entwicklung wird auch den Gesundheitssektor betreffen. Patienten werden sich künftig über KI-gestützte Systeme noch individueller und personalisierter über ihre Krankheiten und deren Behandlung informieren können, und ein Arzt wird möglicherweise nur noch als „Handwerker“ für manuelle diagnostische und therapeutische Manipulationen am Körper des Patienten zwingend erforderlich sein. Und auch Ärzte könnten Zugang zu umfassenden fachlichen Informationen wohl wesentlich schneller und spezifischer über gut trainierte KI-basierte Dienste erhalten als über herkömmliche Online-Medien und Suchmaschinen – von Lehrbüchern und Printmedien ganz zu schweigen. Sogar die Verfassung von Arztbriefen könnte künftig von KI-Diensten übernommen werden. Mit den möglichen Anwendungen von Chatbots in der Medizin sowie ihren Risiken und Einschränkungen hat sich aktuell ein „Special Report“ des N. Engl. J. Med. befasst ([5]).
Neben diesen auf sogenannten „Large Language Models“ beruhenden, rein textbasierten Systemen sind zahlreiche weitere KI-Anwendungen von potenzieller Relevanz für Gesundheitssysteme. In einer Reihe von Disziplinen wird KI-assistierte Bildanalyse sehr wahrscheinlich schon bald diagnostische Abläufe revolutionieren, z.B. in der Radiologie, Dermatologie, Ophthalmologie, Pathologie. Weitere mögliche Anwendungsgebiete sind Epidemiologie (Epidemie-Monitoring), Molekularbiologie (Genomforschung), personalisierte Medizin, Ressourcenallokation, Planung und Durchführung klinischer Studien sowie Lehre, Ausbildung und Fortbildung, um nur einige Beispiele zu nennen, die in einer aktuellen Übersichtsarbeit im N. Engl. J. Med. angeführt werden ([6]). Noch für dieses Jahr wird vom N. Engl. J. Med. die Erstausgabe eines neuen interdisziplinären Online-Journals zum Thema KI und Medizin (NEJM AI) angekündigt ([7]) – Sponsor ist unter anderem Microsoft.
Die neuen Möglichkeiten, die sich durch KI eröffnen, sind heute nur zu erahnen. Dasselbe gilt aber auch für die enormen Herausforderungen, die durch KI neu entstehen. Konkurrenzprodukte bzw. -unternehmen zu ChatGPT und OpenAI sind bereits aktiv oder kurz vor der Veröffentlichung – mit oft deutlich weniger ethisch ausgerichteten Zielsetzungen. Wie auch bei der natürlichen Intelligenz gibt es ohne zugrundeliegende moralische Standards keine „Friendly AI“, sondern nur „Unfriendly AI“. Die Qualität einer KI wird sich in Zukunft also auch daran messen lassen müssen, wie gut sie an ethischen Prinzipien und gesetzlichen Rahmenbedingungen ausgerichtet ist, ein Prozess, der als „AI alignment“ bezeichnet wird. Im Bereich der Bereitstellung medizinischer Informationen für Ärzte und Patienten sind in diesem Zusammenhang auch optimierte Algorithmen zu fordern, die kommerzielle – insbesondere industrielle – Interessen ausschließen.