Eine warnende Studie offenbart die Grenzen von ChatGPT bei der Bereitstellung genauer Arzneimittelinformationen
- Studie zeigt, dass ChatGPT bei Arzneimittelinformationen oft ungenau ist; Vorsicht geboten.
- Die medizinischen Ratschläge von ChatGPT sind nicht zuverlässig, warnten Apotheker.
- KI im Gesundheitswesen: Studie hebt Wissenslücken von ChatGPT hervor.
Eine kürzliche Studie hat Bedenken hinsichtlich der Zuverlässigkeit der kostenlosen Version von ChatGPT, des beliebten Chatbots von OpenAI, bei der Bereitstellung genauer medikamentenbezogener Informationen geäußert. Forschungen von Apothekern am College of Pharmacy der Long Island University zeigen, dass die Antworten von ChatGPT auf arzneimittelbezogene Fragen oft ungenau oder unvollständig sind. Die Ergebnisse unterstreichen die Notwendigkeit von Vorsicht bei Patienten und Gesundheitsfachkräften, die sich auf ChatGPT für pharmazeutische Informationen verlassen.
Die Studie umfasste die Stellung von 39 arzneimittelbezogenen Fragen an ChatGPT, von denen nur 10 zufriedenstellende Antworten erhielten. Die verbleibenden 29 Fragen wurden entweder ungenau beantwortet, waren unvollständig oder beides. Diese Inkonsistenz in den Antworten hebt eine erhebliche Lücke in der Fähigkeit des Chatbots hervor, zuverlässige Arzneimittelinformationen bereitzustellen.
Unzulänglichkeit bei der Beantwortung pharmazeutischer Anfragen
Das Forschungsteam, angeführt von Sara Grossman, bewertete die Leistung von ChatGPT, indem es seine Antworten mit denen von Apothekern verglich, die dieselben Fragen beantworteten. Die Fragen waren echte Anfragen, die vom Drug-Information-Service des College of Pharmacy der Long Island University von Januar 2022 bis April 2023 erhalten wurden. Von den ursprünglichen 45 Fragen wurden sechs aufgrund des Fehlens literaturbasierter Antworten ausgeschlossen.
ChatGPT versäumte es, 11 Fragen direkt zu beantworten, lieferte ungenaue Antworten auf 10 Fragen und gab falsche oder unvollständige Antworten auf weitere 12 Fragen. Die Forscher stellten auch fest, dass ChatGPT auf Anfrage nur in acht Antworten Referenzen angab, die alle nicht existierende Quellen zitierten. Dies wirft Bedenken hinsichtlich der Referenz- und Verifikationsprozesse des Chatbots auf.
Ein besonders alarmierender Vorfall war die falsche Behauptung von ChatGPT, dass keine Arzneimittelwechselwirkung zwischen dem antiviralen Medikament Paxlovid und dem blutdrucksenkenden Medikament Verapamil bestehe. In Wirklichkeit kann die Kombination dieser Medikamente zu einer übermäßigen Senkung des Blutdrucks führen, was ein ernstes Gesundheitsrisiko darstellt. Dieser Fehler ist besonders besorgniserregend, da viele Nutzer sich der Datenbeschränkungen von ChatGPT nicht bewusst sein könnten, was potenziell zu schädlichen Folgen führen kann.
Implikationen für KI im Gesundheitswesen
Die Ergebnisse der Studie sind im Kontext der Popularität und weit verbreiteten Nutzung von ChatGPT von entscheidender Bedeutung. ChatGPT, das 2022 gestartet wurde, entwickelte sich schnell zu einer der am schnellsten wachsenden Consumer-Internetanwendungen und zog im Oktober allein weltweit etwa 1,7 Milliarden Besuche an. Die kostenlose Version ist jedoch auf Daten bis September 2021 beschränkt, was sie potenziell von jüngsten medizinischen Entwicklungen und Innovationen abgekoppelt sein lässt.
Während die kostenpflichtige Version von ChatGPT nun Echtzeit-Internet-Browsing-Funktionen umfasst, konzentrierte sich die Studie hauptsächlich auf die kostenlose Version, um die Erfahrung der Allgemeinbevölkerung widerzuspiegeln. Die Forscher betonen die Wichtigkeit, die Antworten von ChatGPT mit vertrauenswürdigen Gesundheitsfachkräften oder zuverlässigen medizinischen Quellen zu überprüfen.
Diese Studie dient als wichtige Erinnerung an die Grenzen der KI in sensiblen Bereichen wie dem Gesundheitswesen. Während KI-Technologien wie ChatGPT erhebliche Vorteile in Bezug auf Zugänglichkeit und Komfort bieten, erfordert ihr aktueller Zustand eine sorgfältige Prüfung, insbesondere wenn es um Angelegenheiten der Gesundheit und des Wohlbefindens geht. Nutzern wird geraten, Informationen aus solchen Quellen mit Vorsicht zu behandeln und immer qualifizierte Gesundheitsfachkräfte für medizinischen Rat zu konsultieren.
Die Studie des College of Pharmacy der Long Island University dient als kritischer Weckruf bezüglich der Grenzen der KI im Gesundheitswesen, insbesondere bei der Bereitstellung genauer Arzneimittelinformationen. Während sich die KI weiterhin in verschiedene Aspekte unseres Lebens integriert, ist es wichtig, sich ihrer Grenzen bewusst zu sein und ihre Verwendung, insbesondere in kritischen Bereichen wie dem Gesundheitswesen, mit informierter Vorsicht anzugehen.
Wenn Sie dies lesen, sind Sie bereits einen Schritt voraus. Bleiben Sie mit unserem Newsletter auf dem Laufenden.
Haftungsausschluss. Die bereitgestellten Informationen stellen keine Anlageberatung dar. Cryptopolitan.com Wir übernehmen keine Haftung für Investitionen, die auf den auf dieser Seite bereitgestellten Informationen basieren. Wir empfehlen dringend, vor jeglichen Anlageentscheidungen eine unabhängige Recherche durchzuführen und/oder einen qualifizierten Fachmann zu konsultieren.
Glory Kaburu
Glory ist eine äußerst versierte Journalistin, die mit KI-Tools und Forschung bestens vertraut ist. Sie ist leidenschaftlich engagiert für KI und hat mehrere Artikel zu diesem Thema verfasst. Sie hält sich über die neuesten Entwicklungen in künstlicher Intelligenz, maschinellem Lernen und Deep Learning auf dem Laufenden und schreibt regelmäßig darüber.
