Blog

Aug 04, 2023

Mangelndes Vertrauen bremst die KI-Revolution im medizinischen Bereich: Bericht von GE Healthcare

Treffen Sie vom 11. bis 12. Juli Top-Führungskräfte in San Francisco, um zu erfahren, wie Führungskräfte sind

Treffen Sie vom 11. bis 12. Juli Top-Führungskräfte in San Francisco, um zu erfahren, wie Führungskräfte KI-Investitionen integrieren und optimieren, um erfolgreich zu sein. Erfahren Sie mehr

In einer Zeit, in der KI in aller Munde ist, hat eine neue Umfrage von GE Healthcare ein erhebliches Maß an Misstrauen und Skepsis gegenüber ihrem Einsatz im medizinischen Umfeld deutlich gemacht.

Die Studie „Reimagining Better Health“ mit 5.500 Patienten und Patientenvertretern sowie 2.000 Ärzten ergab, dass die Mehrheit der Ärzte davon überzeugt ist, dass KI das Potenzial hat, die Gesundheitsversorgung zu verändern. Gleichzeitig haben viele das Gefühl, dass die Technologie noch nicht ausgereift ist – und immer noch durch Hindernisse wie Vorurteile beeinträchtigt wird.

Die Ergebnisse kommen zu einem Zeitpunkt, an dem eine Reihe von Gesundheitsgiganten weiterhin KI-Modelle untersuchen und damit experimentieren, einschließlich generativer Technologien wie ChatGPT und Konversations-KI, um die Patientenerfahrung und -ergebnisse zu verbessern, Aufgaben zu automatisieren und die Produktivität zu steigern.

Wenn heute jemand über KI spricht, erwähnt er, wie die Technologie die Patientenversorgung revolutioniert, sei es durch die Entdeckung von Medikamenten oder die Vorhersage des besten Behandlungsplans für eine Person. In der GE Healthcare-Umfrage wiederholten Ärzte ähnliche Vorteile: 61 % sagten, die Technologie könne bei der Entscheidungsfindung helfen, 54 % sagten, sie ermögliche schnellere Gesundheitsinterventionen und 55 % meinten, sie könne zur Verbesserung der betrieblichen Effizienz beitragen.

Transformation 2023

Besuchen Sie uns vom 11. bis 12. Juli in San Francisco, wo Top-Führungskräfte erzählen, wie sie KI-Investitionen erfolgreich integriert und optimiert und häufige Fallstricke vermieden haben.

Die Möglichkeiten sind endlos, aber viele sind weiterhin besorgt über die Risiken, die mit der Einführung von KI in diesem Bereich verbunden sind. Konkret gaben 55 % der Umfrageteilnehmer an, dass die KI-Technologie noch nicht für den medizinischen Einsatz bereit sei, und 58 % gaben an, dass sie KI-Daten nicht vertrauen. Bei Ärzten mit mehr als 16 Jahren Erfahrung war die Skepsis sogar noch höher: 67 % mangelten der KI an Vertrauen.

Ärzte gaben an, dass der Hauptgrund für dieses Misstrauen das Potenzial von Algorithmen ist, aufgrund verschiedener Faktoren wie unvollständiger Trainingsdaten, fehlerhafter Algorithmen oder unzureichender Bewertungsprozesse unfaire oder diskriminierende Ergebnisse zu erzielen. Ganze 44 % der Befragten gaben an, dass die Technologie inhärenten Vorurteilen unterliegt.

Zweitens ist das Bewusstsein der Ärzte für die beteiligten Technologien oft nicht ausreichend. Die Studie ergab, dass nur 55 % der befragten Kliniker das Gefühl haben, ausreichend im Umgang mit Medizintechnik geschult zu werden.

Wie Taha Kass-Hout, CTO von GE Healthcare, betont, ist ein durchdachter, datengesteuerter Ansatz – bei dem Anstrengungen unternommen werden, um Datenqualität und -transparenz sicherzustellen – der Schlüssel zum Aufbau von Vertrauen bei Ärzten, die hinsichtlich der KI-Technologie unentschlossen sind.

„Wir achten besonders darauf, woher die Datensätze stammen und welche Merkmale die untersuchte Bevölkerung aufweist“, sagte Kass-Hout gegenüber VentureBeat. „Wir evaluieren auch die Algorithmen, die Daten klassifizieren und organisieren, und schauen uns bei der Aktualisierung dieser Algorithmen die KI-Formulierung selbst und das Feedback der Kliniker an.“

Um den Stein ins Rollen zu bringen, sagte der CTO, sollten Unternehmen Schulungs-/Ausbildungsprogramme durchführen, in denen Ärzte in allen Bereichen der KI angeleitet werden, angefangen bei der Funktionsweise bis hin zu der Art und Weise, wie sie ihre Arbeit verbessern kann.

„Als Branche müssen wir den Klinikern ein Verständnis dafür vermitteln, wo und wie sie es einsetzen und wann es voll vertrauenswürdig ist, anstatt sich auf andere Tools und menschliches Fachwissen zu verlassen“, sagte Kass-Hout. „Ich bezeichne dies als ‚Aufbrechen der Blackbox der KI‘, um Klinikern zu helfen, zu verstehen, was im KI-Modell enthalten ist.“

Dazu gehören die darin enthaltenen Daten – Alter, Geschlecht, Laborergebnisse, Fernüberwachung, Krankengeschichte, genetische Variante oder Biomarker, Läsionsfortschritt in nachfolgenden Bildern – damit Ärzte besser verstehen können, was die KI-Ausgabe beeinflusst.

„Transparenz darüber, was das Modell beeinflusst und wie es mit einer konsistenten Feedbackschleife im Laufe der Zeit angepasst werden kann, ist entscheidend für den Aufbau von Vertrauen in die KI-Technologie bei Klinikern“, bemerkte er.

Da die Gesundheitssysteme auf der ganzen Welt einem extremen Druck ausgesetzt sind, brennen Ärzte aus und erwägen einen Ausstieg aus der Branche. Tatsächlich könnte es nach Angaben der Weltgesundheitsorganisation bis 2030 zu einem Mangel an 10 Millionen Gesundheitspersonal kommen, wenn dann 1,4 Milliarden Menschen 60 Jahre oder älter sein werden.

In solchen Szenarien könnten KI-gesteuerte Systeme eingreifen und sich wiederholende Aufgaben auf niedriger Ebene eliminieren, damit sich die Mitarbeiter ausschließlich auf die Patientenversorgung konzentrieren können, sagte Kass-Hout.

„Es gibt Orte, an denen Technologie dazu beitragen kann, Verwaltungsaufgaben zu reduzieren, Ressourcen besser zuzuteilen und Burnout zu reduzieren“, sagte er.

Das Command Center von GE HealthCare sei ein großartiges Beispiel dafür, sagte er. Die Plattform hilft Krankenhäusern, Echtzeit-Auslastungsdaten zu nutzen, um Ressourcen besser zuzuteilen. „Mithilfe von KI-Technologie können Krankenhäuser ambulante Dienste umleiten, um Patienten in Einrichtungen mit geringerer Auslastung zu bringen – und so zur Reduzierung von Burnout beitragen“, sagte Kass-Hout.

In einem anderen Beispiel automatisiert Hyro, ein Unternehmen, das Plug-and-Play-Konversations-KI-Assistenten für die Gesundheitsbranche bereitstellt, Aufgaben wie Patientenregistrierung, Weiterleitung, Terminplanung, IT-Helpdesk-Ticketerstellung und Nachfüllen von Rezepten, die etwa 60–70 % der eingehenden Anrufe ausmachen und Botschaften an Gesundheitssysteme.

„Während wir uns noch in einem frühen Stadium befinden, in dem wir die wahren Auswirkungen dieser Technologien erkennen, kann KI bei angemessener menschlicher Aufsicht dazu beitragen, die Last der Datenabfrage und -analyse für Kliniker zu reduzieren, sodass sie sich auf das konzentrieren können, was wirklich wichtig ist: die Verbesserung der Patientenversorgung.“ Ergebnisse", bemerkte Kass-Hout.

Die Mission von VentureBeat soll ein digitaler Stadtplatz für technische Entscheidungsträger sein, um sich Wissen über transformative Unternehmenstechnologie anzueignen und Transaktionen durchzuführen. Entdecken Sie unsere Briefings.