Wie Reporter des Boston Public Radio mit künstlicher Intelligenz im Gesundheitswesen umgingen

Über Karen Blum

Karen Blum ist Main Matter Leader für Gesundheits-IT bei AHCJ. Als unabhängige Journalistin in der Gegend von Baltimore hat sie Gesundheits-IT-Geschichten für Publikationen wie geschrieben Neuigkeiten aus der Apothekenpraxis, Klinische Onkologie-News, Neuigkeiten aus der Gastroenterologie und Endoskopie, Allgemeine Chirurgie Nachrichten und Sonderausgabe Infektionskrankheiten.

Meghna Chakrabarti Dorey Scheimer

WBUR-Radiomoderatorin Meghna Chakrabarti besuchte letzten Sommer ihren Bruder an der Westküste und genoss ein Glas Wein, als er sagte, er glaube, künstliche Intelligenz werde die Zivilisation verändern. Während die beiden andere Themen diskutierten, blieb die Idee in Chakrabartis Kopf hängen, und sie und die leitende Redakteurin und Kollegin Dorey Scheimer begannen, das Thema zu recherchieren. Ihre ursprüngliche vierteilige Serie, „Smarter Health and fitness: Künstliche Intelligenz und die Zukunft der amerikanischen Gesundheitsversorgung“, im Mai und Juni in der in Boston ansässigen Sendung „On Point“ ausgestrahlt. Es lohnt sich, es anzuhören (oder zu lesen, die Transkripte werden auch on the internet gestellt).

Chakrabarti und Scheimer verbrachten vier Monate damit, die Serie zu recherchieren und darüber zu berichten. Sie sprachen mit etwa 30 Experten im ganzen Land, darunter Ärzte, Informatiker, Patientenvertreter, Bioethiker und Bundesbehörden. Sie stellten auch Katherine Gorman, die Mitbegründerin des Maschinenintelligenz-Podcasts „Talking Machines“, als beratende Redakteurin ein. Das Ergebnis ist ein eingehender Blick darauf, wie KI die Gesundheitsversorgung verändert, während ethische Erwägungen und die Regulierung der Technologie, der Menschen, die sie entwickeln, und der Patienten auf der Empfängerseite angesprochen werden.

In einem neuen „How I Did It“ diskutierten Chakrabarti und Scheimer ihren Berichtsprozess und mehr. (Die Antworten wurden aus Gründen der Kürze und Klarheit leicht bearbeitet.)

Warum haben Sie sich entschieden, sich auf KI im Gesundheitswesen zu konzentrieren?

Chakrabarti: Als Clearly show neigen wir natürlich dazu, darüber nachzudenken, wie große Veränderungen in unserer Lebensweise stattfinden, die wir nicht vollständig verstehen und die einer eingehenderen Untersuchung bedürfen. Zuerst wollte ich eine große Serie darüber machen, wie KI die Zivilisation verändern wird.

Scheimer: Da kam ich ins Spiel, um die Zivilisationsidee zu zerschlagen (lacht). Meghna hat mir viele Links geschickt. Ich habe alleine gelesen und versucht herauszufinden, wo wir innerhalb der KI am meisten tun können, und Medizin und Gesundheitswesen kamen immer wieder zur Sprache. Wir haben viele Reveals über Technik und Überwachung gemacht. Es fühlte sich so an, als wäre der Einsatz von KI im Gesundheitswesen viel höher als in anderen Branchen, weil es um unsere Gesundheit geht. Abgesehen davon, dass im Gesundheitswesen so viel Geld in die KI floss, schien es uns ein guter Ort, um unsere Berichterstattung zu fokussieren.

Chakrabarti: Die Technologie könnte, wenn sie richtig gemacht wird, etwas bringen [benefits] für das Gesundheitswesen sowohl in Bezug auf die Kosten als auch auf die Ergebnisse. Dies ist ein Sektor, in dem KI jeden berühren wird. Und es ist sehr leicht verständlich, dass, egal wer welche Folge hört, sie sich irgendwie identifizieren können.

Können Sie Ihren Berichtsprozess erläutern? Wie haben Sie Experten gefunden und entschieden, wen Sie vorstellen?

Scheimer: Ich bin da reingekommen, ohne etwas zu wissen. Ich begann damit, mit einigen großen Denkern in diesem Bereich zu sprechen, die Berichte geschrieben hatten, um mir klarzumachen, wie wir die Serie fokussieren könnten. Wir wussten, dass wir vier Folgen machen würden. Um das durchzuziehen, brauchten wir einen kohärenten Prepare für das, was wir erreichen wollten. Ich hatte die erste Phase der Recherche und Berichterstattung, dann fing ich an, granularer und spezifischer mit den Leuten umzugehen, mit denen ich sprach. Für eine so große Branche wie sie ist, ist es ein ziemlich kleiner Raum. Immer wieder tauchten die gleichen Namen auf.

Am Anfang war es wirklich schwer. Wir hatten einen großartigen Plan, ein Beispiel für KI zu nehmen, das bereits im Gesundheitswesen und in der Medizin vorhanden ist, und es als Beginn jeder Episode zu verwenden. Das hat nicht geklappt, weil ich zu Beginn unseres Prozesses auf so viel Widerstand von Unternehmen gestoßen bin. Die Branche zögert sehr, dass die Medien KI als Roboter darstellen, die Ihre Ärzte übernehmen und ersetzen. Ich war überrascht, wie schwer es war, die Leute in den ersten Monaten der Berichterstattung zum Reden zu bringen.

Chakrabarti: Es ist wichtig anzumerken, dass wir uns auch mit natürlichen Empfindlichkeiten befassten, da es sich um Gesundheitsfürsorge handelte. Eines der Dinge, die in Bezug auf den Prozess sehr wichtig waren und die Dorey brillant gemacht hat, war, Vertrauen zu Quellen aufzubauen, damit sie erkannten, dass wir unsere journalistische Unabhängigkeit und Integrität wahren würden. Nichts davon würde am Ende eine Werbung für ihre Technologie sein, aber gleichzeitig würde es reasonable behandelt werden. Wenn Dorey das nicht gekonnt hätte, hätten wir keine Serienperiode gehabt.

Scheimer: Intern musste ich Fragen beantworten, warum diese Serie so lange gedauert hat. Zum Beispiel werde ich nächste Woche eine Clearly show über die Fluggesellschaften machen. Innerhalb von ein paar Stunden gestern Nachmittag fühlte ich mich ziemlich eingelesen und bereit, weiterzumachen. Damit hatte ich das Gefühl, dass ich ein anderes Wissens- und Verständnisniveau haben musste, um von der Artwork von Gästen, die wir wollten, ernst genommen zu werden. Das war ein anderer Prozess.

Chakrabarti: Wir haben uns sehr darauf konzentriert, die Fakten richtig zu machen und sicherzustellen, dass wir recht komplexe Ideen und Konzepte fair darstellen und sie gleichzeitig zugänglich machen. Wir würden zu Leuten mit Hear von Dutzenden von Fragen zurückkehren. All das musste sowohl in die Berichterstattung der produzierten Stücke als auch in die Live-Gespräche innerhalb jeder Stunde einfließen. Es gab diese ständige Schleife, in der versucht wurde, die Informationen immer detaillierter zu machen. Was damit einherging, war, dass viele dieser Informationen in Fachzeitschriften veröffentlicht wurden. Also haben wir eine Menge Papiere gezogen und sie gelesen, damit wir genau auf Dinge verweisen können, die in der wissenschaftlichen Literatur stehen.

Wie haben Sie Vertrauen zu Quellen geschaffen? Irgendwelche Tipps für unsere Mitglieder?

Scheimer: Machen Sie Ihre Hausaufgaben. Ich musste mit einem Verständnis in diese Interviews gehen, das es mir ermöglichte, sofort eine gewisse Beziehung zu den Experten aufzubauen, mit denen ich sprach. Ich kann mir sogar ein paar der früheren Interviews anhören, in denen ich potenziell dumme Fragen gestellt habe. Glücklicherweise waren diese Leute so freundlich, mich aufzuklären, aber ich konnte in späteren Interviews hören, dass ich viel mehr und viel tiefere Gespräche führen konnte, wenn ich eine Wissensbasis hatte.

Fragen Sie auch, wie bei jeder anderen Geschichte oder jedem Interview, was Sie nicht wissen, und geben Sie den Menschen die Möglichkeit, über ihre Rolle und die Gründe für Wahrnehmungslücken nachzudenken [with AI] existierte. Ich stellte fest, dass sich sogar Ärzte in großen Krankenhäusern sofort defensiv gegenüber KI fühlten, als hätte niemand verstanden, dass es Vorteile geben könnte, und sie sahen nur, wie schlimm es sein könnte. Den Leuten die Möglichkeit zu geben zu sagen: „Das ist der Grund, warum ich denke, dass daraus etwas Gutes entstehen kann“, einfach diese Frage zu stellen, hat in vielen Interviews geholfen.

Ich habe einige Themen in Ihrer Serie beobachtet: Die Technologie ist sehr vielversprechend. Die Menschen sind besorgt, dass Menschen die Verantwortung für Informationen behalten. Transparenz gegenüber den Patienten ist gefragt. Gibt es andere, die Ihnen aufgefallen sind?

Scheimer: Die Haftung ist noch immer ein großes Fragezeichen. Niemand weiß, wer für die Anwendung von Algorithmen verantwortlich ist, ob es der Entwickler, das Krankenhaussystem oder die Ärzte selbst sind. Das führt zu viel Zögern bei der Einführung der Technologie, weil die Gesundheitssysteme das Risiko nicht eingehen wollen. Es gibt noch viele Fragen zu den Kosten, sowohl zur Technologie als auch zu den Auswirkungen auf die Kosten der Gesundheitsversorgung. Was wir in der vierten Folge nicht vollständig behandelt haben, aber definitiv erreicht haben, war die Rolle der Kostenträger und wie Versicherungsunternehmen eine Rolle dabei spielen könnten, ob KI ihr Potenzial ausschöpfen kann oder nicht.

Chakrabarti: Ich gebe Doreys Quellen Anerkennung dafür, dass sie sowohl ihren Optimismus als auch ihren Realismus in Bezug auf KI im Gesundheitswesen offengelegt haben. Alle sagten, dass dies ein großes Potenzial hat, wenn wir es richtig machen. Der Teil „Wenn wir es richtig machen“ hat mit Entwicklung, aber auch mit Regulierung zu tun. Das ist ein riesiges Thema, über das ich gerne erfahren würde, wenn kluge Köpfe viel mehr darüber berichten würden, wie z. B. wie guy die Regulierung dazu bringen kann, mit der Technologie Schritt zu halten, insbesondere im Gesundheitswesen. Wir haben eine Episode darüber gemacht, aber es gab keine guten Antworten darin, weil es immer noch so undefiniert ist.

Die andere war die Frage, für wen die Technologie entwickelt wird. Jeder sagt, dass er dem Patienten helfen möchte, aber manchmal ist ein bestimmtes KI-Programm oder eine Technologie intestine für das Gesundheitssystem, und das bedeutet nicht unbedingt, dass es gut für den Patienten ist. In einem Gesundheitssystem wie dem unseren, dessen finanzielle Dynamik im Vergleich zum Relaxation der Welt ziemlich einzigartig ist, ist das eine wirklich wichtige Frage.

Gab es etwas, das Sie bei Ihrer Berichterstattung überrascht hat?

Scheimer: In unserer dritten Folge zu Regulierungen und der Fda hat es mich wirklich überrascht, wie schlecht die mit der Regulierung dieses Raums betraute Bundesbehörde ausgestattet ist. Auch wenn sie einige Anstrengungen unternehmen, fühlt es sich nicht so an, als wären wir auch nur annähernd in der Lage, dies angemessen zu regulieren.

Chakrabarti: Die Leute versuchen, in diesem Bereich sehr nachdenklich zu sein, zumindest die Entwickler und Ärzte und Leute aus dem Gesundheitswesen, mit denen wir gesprochen haben. Sie sind sehr bereit, sich mit den großen Fragen auseinanderzusetzen, und es scheint, als würden sie es zumindest versuchen. Ich hoffe, unsere Serie hat diese Fragen gebracht und sie ein bisschen mehr in die Öffentlichkeit gerückt. Das andere, was mich als Journalist und auch als Patient besonders in der ersten Folge überrascht hat, ist, wie viel KI im Gesundheitswesen bereits im Einsatz ist. Es ist bereits viel im Spiel, und es wirkt sich auf Pflege und Versicherung, Entscheidungsfindung usw. aus. Das war ziemlich aufschlussreich.

Scheimer: Dem stimme ich voll und ganz zu. Ich war ziemlich ermutigt zu hören, wie die Leute dazu kommen, um ein Trouble in unserem Gesundheitssystem zu beheben. Ziad Obermeyer [a physician and guest in episode 1] ist ein tolles Beispiel. Er war Notarzt und war so frustriert darüber, dass er nicht wissen konnte, wann ein Patient einen Herzinfarkt hatte, dass er sich jetzt darauf konzentriert, zu erforschen, wie KI dies vorhersagen kann. Ich denke, dass die Menschen dieses Trouble mit der Absicht angehen, den meisten Patienten das Beste zu tun. Es wird die Schuld unseres Devices sein, wenn sie das nicht erreichen können.

Gibt es eine Just take-Home-Concept, von der Sie hoffen, dass die Zuhörer sie mitgenommen haben?

Scheimer: Ich hoffe, wir haben den Zuhörern die Werkzeuge gegeben, um ihre Pflege besser zu verstehen, in eine Arztpraxis zu gehen und zu fragen, ob KI an ihrer Pflege beteiligt ist und wie sich das auf ihre Pflege auswirkt. Ich denke, die meisten Patienten wissen nicht, dass dafür ein Algorithmus ausgeführt wird. Dieses Bewusstsein und tiefere Verständnis der Patienten wird meines Erachtens helfen, voranzukommen.

Chakrabarti: Dem stimme ich zu. Bewusstsein für Dinge zu schaffen, die zuvor im Dunkeln lagen, ist nur ein Kennzeichen dessen, was ich für den grundlegenden Zweck des Journalismus halte. Es ist wie: „Hey, die Dinge ändern sich in etwas, das Auswirkungen auf alle haben wird. Hier ist zumindest Ihre Prospect, ein wenig darüber zu lernen.“

Wir haben auch einige Imbissbuden für Journalisten aufgrund der Mischung aus Positivem und Negativem darüber, was mit KI im Gesundheitswesen passieren könnte. Wie einer unserer Gäste sagte, insbesondere in der zweiten Folge, können wir die Entschlossenheit nicht wirklich auf Patienten übertragen. Wir müssen die Entscheidung darüber dem Procedure, den Krankenhäusern, den Aufsichtsbehörden usw. übertragen, um „es richtig zu machen“. Diese Botschaft hat Dorey und mich wirklich nach Hause getrieben. Das ist etwas, von dem ich weiß, dass wir daran interessiert sind, es weiter zu verfolgen, um zu sehen, ob der Prozess, es richtig zu machen, so vorankommt, wie er sollte.

Karen Blum ist Core Topic Leader für Gesundheits-IT bei AHCJ. Als unabhängige Journalistin in der Gegend von Baltimore hat sie Gesundheits-IT-Geschichten für Publikationen wie geschrieben Neuigkeiten aus der Apothekenpraxis, Klinische Onkologie-News, Neuigkeiten aus der Gastroenterologie und Endoskopie, Allgemeine Chirurgie Nachrichten und Sonderausgabe Infektionskrankheiten.