Wissen

Digital Health ist die interdisziplinäre Verbindung von Gesundheit, Gesundheitsfürsorge, Leben und Gesellschaft mit digitalen Medizin- und Gesundheitstechnologien, um die Effizienz der Gesundheitsversorgung zu verbessern und Arzneimittel individueller und wirkungsvoller einsetzen zu können.
In den Monaten, seit ChatGPT zum ersten Mal ins Bewusstsein der Weltöffentlichkeit gedrungen ist, entstand ein extremer Hype um die transformativen Möglichkeiten von ChatGPT. Es waren aber auch laute Unkenrufe zu den potenziellen Risiken zu hören. Was davon entspricht der Realität?

Wie immer an solchen kritischen Schwellen der Disruption lautet die Antwort: weder noch! ChatGPT stellt eine leistungsstarke neue Anwendung fortschrittlicher Technologien dar. Es scheint jedoch, dass sich die Lösung nur schrittweise auf die Wirtschaft auswirken wird. ChatGPT ist nicht so sehr eine Innovation sui generis, wie es den Anschein haben mag, und es werden vor diesem Hintergrund nicht umgehend hunderte Berufe neu erfunden werden. Es stimmt, dass der Fluss und die Natürlichkeit von Texten, die ChatGPT erzeugt, besser sind als jene früherer Versionen der generativen, also neuen Content generierenden künstlichen Intelligenz (KI). Dies ist jedoch eher ein gradueller Unterschied und nicht ein prinzipieller.

OpenAI selbst betrachtet ChatGPT-3 einfach als eine von mehreren Versionen. Das Unternehmen war von der erstaunlichen „kulturellen“ Resonanz überrascht. Tatsächlich hatte es erst kürzlich GPT-4 als einen neuen und verbesserten Nachfolger auf den Markt gebracht (1). Das sollte uns etwas Wichtiges sagen: Die Ereignisse der letzten Monate sind letztlich eine Zwischenstation auf einer langfristigen Reise zur Integration von KI in das tägliche Leben. Es mag sein, dass wir an einem wichtigen Punkt angelangt sind, was das öffentliche Interesse an KI angeht. Die generative KI-Technologie hat jedoch noch einen weiten Weg vor sich, bevor sie Branchen wie Finanzen, Medien, Bildung usw. grundlegend verändert.

Dennoch gibt es Nischen, in denen sich ChatGPT unmittelbar auswirken wird. Berufstätige nutzen seit langem KI-Technologie für die Rechtschreib- und Grammatikprüfung ihrer E-Mails. Es ist leicht vorstellbar, dass ChatGPT schnell zu einem Tool für die Erstellung von E-Mails auf der Grundlage einer Reihe von Hintergrundinformationen werden wird. Der jüngste Launch der Lösung Grammarly ist wahrscheinlich nur der erste von vielen dieser Art in den kommenden Monaten.

Hinter den Kulissen ist es wahrscheinlich, dass ChatGPT in Workflow-Tools integriert wird, wie z. B. in Krankenhausinformationssysteme (KIS). Kliniker:innen müssen bei der Diagnosestellung rasch eine große Menge an Informationen aus dem KIS über ihre Patient:innen aufnehmen, einschließlich deren Krankengeschichte, Begleiterkrankungen, Genetik und vieles mehr, und mit dem wachsenden Patientenaufkommen wird dies immer wichtiger. Genauso wie KI-basierte Voice-to-Text-Tools etwa von Nuance dazu beigetragen haben, die Art und Weise zu verändern, wie Kliniker:innen Behandlungsdokumentation verfassen, wird ChatGPT wahrscheinlich die Art und Weise verändern, wie Informationen aus dem KIS entnommen werden. Und es gibt Bereiche in der Medienlandschaft, in denen ChatGPT wahrscheinlich eine unmittelbare Auswirkung (möglicherweise im Hintergrund) haben wird: Da das Volumen der im Internet veröffentlichten Artikel ständig steigt und die Zahl der bei Zeitungen, Magazinen und anderen Publikationen beschäftigten Redakteur:innen und Autor:innen ständig schrumpft, ist nicht viel Fantasie nötig, um sich vorzustellen, wie manche Medienunternehmen die Quadratur des Kreises suchen werden.

Die tieferen gehenden Auswirkungen von ChatGPT werden sich jedoch über Jahre und nicht nur über Monate erstrecken, da ausgereifte Branchen Ideen in Experimente, Experimente in Produkte und Produkte in Märkte umsetzen. Softwareunternehmen im Gesundheitswesen, wie meines, werden Wege finden, ihren Einfluss auf Behandlungsergebnisse und die Ausbildung von Ärzt:innen durch generative KI erheblich zu beschleunigen. Sie werden dies jedoch methodisch und sorgfältig tun, weil sie verstehen, dass die Informationen und Lösungen, die sie anbieten, Fragen der Lebensqualität und sogar des Überlebens von Patient:innen auf der ganzen Welt betreffen. Wenn sich diese Dynamik entfaltet – wenn also das Potenzial der generativen KI durch die strukturelle Sorgfalt und den ausgeprägten Kundenfokus von Unternehmen gefiltert wird, die über jahrzehntelange Erfahrung und einen guten Ruf in ihren Märkten verfügen –, bin ich zuversichtlich, dass wir feststellen werden, dass die tatsächlichen Auswirkungen recht positiv sind.

Es ist allerdings auch nicht so, dass die Schwarzmaler keine berechtigten Bedenken hätten. Wenn Studierende anfangen, ihre Aufsätze mit Hilfe von KI zu schreiben, werden sie natürlich nicht wirklich etwas lernen. Wenn medizinische Lehrbücher mit KI geschrieben werden, werden sie natürlich mit lebensbedrohlichen Fehlern behaftet sein. Wenn Nachrichtenbeiträge nur noch von KI geschrieben werden, wird das Ausmaß der Desinformation in der Welt exponentiell zunehmen. Von alledem wünschen wir uns nichts.

Aber meine Einschätzung lautet, dass die Strukturen, die den meisten Branchen zugrunde liegen, robust genug sind, um die notwendigen Leitplanken zu setzen. Schon jetzt experimentieren Hochschulen mit klasseninternen Arbeiten anstelle von Hausarbeiten, um die Nutzung von ChatGPT zu vermeiden. Oder es laufen Überlegungen, wie sich Lehrpläne umgestalten lassen, um weniger Wert auf schriftliche Arbeiten und mehr auf Dialog und Argumentation zu legen. Medizinische Verlage arbeiten mit etablierten Technologien an der Entwicklung von Tools, die genau erkennen, ob ein Text von einer KI und nicht von einer Person stammt. Desinformation ist leider ein schwierigeres Problem, aber die traditionellen Unternehmen, über die die meisten Menschen ihre Nachrichten beziehen, werden strenge redaktionelle Standards an ihre Arbeit anlegen – weil ihre Marke davon abhängt –, und es steht zu hoffen, dass die Anbieter sozialer Medien unter dem Druck der Gesellschaft und der Regierungen dazu übergehen werden, Vertrauenswürdigkeit vor Größe zu setzen. Insgesamt erscheinen die Untergangsszenarien übertrieben.

Vielmehr lohnt es sich, über die überraschenden "Schmetterlingseffekte" nachzudenken, mit denen die generative KI ihre Nutzenvorteile in verschiedenen Branchen entfalten könnte. Ein Beispiel, das mir sehr am Herzen liegt, ist die medizinische Forschung. Heutzutage reichen Kliniker:innen aus allen Ländern der Welt potenziell relevante Forschungsarbeiten zu medizinischen Themen – von der Geburtshilfe bis zur Onkologie – bei renommierten Fachzeitschriften ein, doch die meisten veröffentlichten Arbeiten stammen nach wie vor aus den USA, Europa und China (2). Warum werden so wenige Arbeiten von außerhalb dieser Regionen veröffentlicht? Dafür gibt es natürlich strukturelle Gründe, aber ein überraschenderweise wichtiger Grund ist die Qualität der englischen Sprache in vielen Veröffentlichungen außerhalb der traditionellen Forschungshochburgen.In einigen Fachzeitschriften werden 50 bis 70 Prozent der eingereichten Forschungsarbeiten durch die Redakteur:innen von vornherein abgelehnt – und zwar nicht aufgrund der Qualität der Forschungsarbeiten, sondern weil die Arbeiten in schlechtem Englisch verfasst sind … und Englisch ist nun einmal international die Standardsprache der Kommunikation in der Medizin.

Könnte generative KI Forschenden aus Ländern mit niedrigem und mittlerem Einkommen dabei helfen, brauchbare Forschungsergebnisse in qualitativ hochwertige Arbeiten zu verwandeln, die bessere Chancen haben, in renommierten Fachzeitschriften akzeptiert zu werden? Ich denke, die Antwort ist eindeutig ja – eine kürzlich durchgeführte Studie (3) hat gezeigt, dass 20 Prozent der Forschenden bereits auf die vorherige Generation KI-gestützter Sprachverbesserungswerkzeuge zurückgreifen, um die Verständlichkeit ihrer Forschungsergebnisse zu verbessern. Das Ergebnis wäre eine wesentliche Verbesserung nicht nur für die globale Einbeziehung des Austauschs in der medizinischen Forschung, sondern auch für Behandlungsergebnisse auf der ganzen Welt, da bahnbrechende klinische Erkenntnisse nicht weiter auf eine Handvoll Länder beschränkt wären. Dies ist nur ein potenziell spannendes Beispiel aus meinem eigenen Bereich; Expert:innen in anderen Bereichen können sicher vergleichbare Szenarien aufzeigen.

Ich denke, wenn sich der Nebel lichtet, werden wir feststellen, dass sich ChatGPT entgegen vieler Annahmen als sinnvoller erweist, als sein Hype nahelegt.

1 https://www.reuters.com/technology/microsoft-backed-openai-starts-release-powerful-ai-known-gpt-4-2023-03-14/

2 https://www.researchgate.net/figure/The-top-10-publishing-countries-and-total-number-of-entries-in-PubMed-from-1995-to-2015_fig3_327926314

3 https://peerreviewcongress.org/abstract/rejection-rates-for-manuscripts-uploaded-to-an-artificial-intelligence-driven-precheck-tool-compared-with-manuscripts-that-did-not-undergo-a-precheck-at-a-multidisciplinary-medical-journal/

Über den Autor
Vikram Savkar ist Senior Vice President und General Manager für das Segment Medizin bei Wolters Kluwer. In dieser Funktion leitet Vikram Savkar die Produktinnovation, um die digitale Entwicklung von Informations- und Produktivitätslösungen für medizinische Forschende, Kliniker:innen, Medizinstudierende und Dozent:innen voranzutreiben, um evidenzbasierte Entscheidungen über Behandlung und Ergebnisse zu treffen. Er ist seit zehn Jahren bei Wolters Kluwer und war als General Manager für mehrere Geschäftsbereiche im Bereich Legal & Regulatory tätig, bevor er zum Bereich Health kam. Bevor er zu Wolters Kluwer kam, hatte er leitende Positionen bei der Nature Publishing Group und Pearson Education inne.

Newsletter

Abonnieren Sie jetzt unseren Newsletter, um immer die neuesten Digital Health Nachrichten und Stellenangebote zu erhalten!