ブログ

Aug 10, 2023

ChatGPTは泌尿器科の質問ツールとして信頼できないことが新しい研究で判明

新しい研究では、医療データの解釈とアドバイスの提供における人工知能の成功が引き続き宣伝されていますが、人工知能には、人間にとって重要な医療カテゴリーが少なくとも 1 つ欠けているようです。

新しい研究では、医療データの解釈とアドバイスの提供における人工知能の成功が引き続き宣伝されていますが、高齢者にとって重要な医療カテゴリーの少なくとも 1 つである泌尿器科では人工知能が欠けているようです。

患者が泌尿器合併症について医師に尋ねる一般的な医学的質問では、人気のチャットボット ChatGPT は臨床基準をはるかに下回っており、多くの場合、提供される情報はまったく正確ではありませんでした。

ChatGPTが泌尿器科に特化して評価されたのはこれが初めてであると研究者らは主張している。

しかし、AI が不正確または偏った医療情報を提供する可能性は、今年初めにこの技術の使用が爆発的に増加して以来、大きな懸念となってきました。

おそらくこのためか、患者も AI の臨床利用について依然として懸念を抱いています。

泌尿器系合併症を引き起こす高齢者に最も一般的な病気には、前立腺肥大（75 歳以上の男性の約半数に症状がある）や認知症などがあります。 尿路感染症自体も、高齢者においてせん妄や心拍数の異常などのさらなる合併症を引き起こす可能性があります。

フロリダ大学ゲインズビル泌尿器科で実施された泌尿器科研究では、ChatGPTは誤った治療推奨など不正確な情報を提供することが多かっただけでなく、「自信を持って」提供したと研究者らは述べた。

他の結果も同様にひどいものでした。チャットボットが提供した回答は、研究者が「適切」と考えた回答は 60% のみでした。

「ChatGPTは臨床治療ガイドラインを誤解し、重要な文脈情報を無視し、情報源を隠蔽し、不適切な参照を提供している」と研究者らは結論づけた。