OpenEvidence日本担当として、医療AIとエビデンスベースAIの情報を発信している前田です。
- 医療現場で生成AIを使いたいが、ハルシネーションが不安
- AIの回答がどの論文やガイドラインに基づくのか確認したい
- 臨床で使えるAIと、一般的な生成AIの違いを知りたい
- 医療AIを安全に活用するために、どのような考え方が必要か知りたい
こういった疑問に答えます。
医療現場でAIを活用する機会は、今後さらに増えていきます。ChatGPTやGeminiのような汎用生成AIは、文章の整理、要約、説明文の作成などに非常に便利です。
一方で、臨床判断や論文検索のように根拠の正確性が求められる場面では、AIの回答をそのまま信じるのではなく、出典やエビデンスを確認できることが重要です。
なぜなら、医療では「自然で読みやすい文章」よりも、どの論文、診療ガイドライン、添付文書、医学情報に基づいているのかを確認できることが求められるからです。
では、医療AIにおけるエビデンスベースAIとは、いったいどのようなものなのでしょうか。
本記事では、医療AIにおいてなぜエビデンスベースAIが重要なのか、汎用生成AIとの違い、ハルシネーションのリスク、RAGの仕組み、代表的なツール、導入時に必要なガバナンスまでをわかりやすく整理します。
医療AI全体の基本や活用領域から整理したい方は、医療AIとは？活用領域と全体像の解説記事もあわせてご覧ください。
エビデンスベースAIとは？なぜ医療で必要なのか
エビデンスベースAIとは
エビデンスベースAIとは、信頼できる医学情報源をもとに、医療者が根拠を確認しながら利用できるAIの考え方です。
ここでいう根拠とは、医学論文、診療ガイドライン、添付文書、専門学会資料、公的機関の情報などを指します。
エビデンスベースAIは、医師や医療従事者の判断を置き換えるものではありません。
役割は、臨床疑問に対して関連する医学情報を整理し、根拠となる情報源へたどり着きやすくすることです。
つまり、エビデンスベースAIとは「AIに答えを決めてもらう仕組み」ではなく、医療者が根拠を確認しながら安全に活用するためのAIです。
回答の根拠確認が重要である理由
医療でAIを使う場合、回答が自然な文章であることだけでは不十分です。
重要なのは、その回答がどの情報源に基づいているのかを確認できることです。
たとえば、医師や医療従事者がAIを使う場面には、以下のようなものがあります。
エビデンスベースAIが役立つ場面
- 臨床の意思決定のための情報収集
- 診療ガイドラインや添付文書に基づく確認
- 論文作成のための文献検索や引用確認
- 自分の専門外の医学情報を調べる場面
これらの場面では、AIが短時間で情報を整理してくれることは大きなメリットです。
しかし、最終的な判断と責任は医療者にあります。回答内容がどの根拠に基づいているのかを確認せずに診療判断へ利用することは、患者安全の観点から慎重であるべきです。
また、医療情報は日々更新されます。新薬の承認、診療ガイドラインの改訂、副作用情報、添付文書の変更などは、臨床判断に直接関わります。
そのため、医療AIでは「早く答えること」だけでなく、信頼できる情報源に基づき、医療者が根拠を確認できる形で提示することが重要になります。
日常診療で生成AIをどう使えるか、論文要約、患者説明文、紹介状、退院サマリーなどの具体例を知りたい方は、多忙な医師向け生成AI活用術で詳しく整理しています。
情報源が異なるとAIからの回答も変わる
AIの回答は、モデルの性能だけで決まるわけではありません。
どの情報源を参照しているかによって、回答の内容や根拠の示し方が変わります。
ChatGPTやGeminiのような汎用生成AIは、文章の整理、要約、説明文の作成、アイデア出しなどに優れています。
一方で、臨床判断に近い情報収集や、論文検索、診療ガイドラインの確認では、回答の根拠となる情報源が明確であることが重要です。
たとえば、同じ臨床質問でも、医学論文を参照しているのか、診療ガイドラインを参照しているのか、添付文書を参照しているのかによって、回答の整理の仕方は変わります。
また、海外の医学文献に基づく回答であっても、日本での承認状況、保険適用、用法・用量、国内ガイドラインと一致するとは限りません。
つまり、医療AIを使う際は「どのAIが賢いか」だけでなく、どの情報源をもとに回答しているのかを見る必要があります。
たとえばOpenEvidenceでは、医学誌、専門学会、診療ガイドラインなど、医師が日常的に参照する医学情報源との連携が公開されています。具体的な情報源は、OpenEvidenceが引用する医学誌・学会・診療ガイドラインの一覧で整理しています。
汎用生成AIと医療特化AIの違いや、医師がAIツールをどう使い分けるべきかについては、医療AI・生成AIツール比較ガイドで詳しく整理しています。
根拠確認を支えるRAGという仕組み
エビデンスベースAIを支える代表的な技術が、RAG（Retrieval-Augmented Generation：検索拡張生成）です。
RAGとは、AIが自分の学習済み知識だけで答えるのではなく、外部の情報源を検索し、その内容を参考に回答を生成する仕組みです。
医療AIでは、医学論文、診療ガイドライン、専門学会資料、添付文書などを参照しながら回答を作ることが重要です。
RAGを使うことで、医療者は回答だけでなく、その根拠となる文献やガイドラインにもアクセスしやすくなります。
もちろん、RAGを使っていれば完全に安全というわけではありません。
検索対象の情報源の質、検索結果の選び方、回答生成の精度、引用の正確性などを確認する必要があります。
それでも、医療者が根拠を確認しながらAIを使ううえで、RAGはエビデンスベースAIを支える重要な技術です。
RAGの仕組みや、なぜ医療AIにおいて重要なのかについては、以下の記事で詳しく解説しています。
➔ 医療AIにおいてエビデンスAIを支えるRAGという仕組みと重要な理由を解説
エビデンスベースAIツールの選び方
エビデンスベースAIの考え方は、すでに複数の医療AIサービスに取り入れられています。
ただし、どのツールも万能ではありません。重要なのは、利用目的に合わせて、どの情報源を参照できるのか、根拠を確認できるのかを見極めることです。
OpenEvidence：医師がエビデンスに早く到達するためのAI検索ツール
OpenEvidenceは、医療従事者向けの対話型AI検索プラットフォームです。
臨床質問に対して、医学文献や専門コンテンツをもとに回答を支援します。医師が短時間で論点をつかみ、必要に応じて根拠へアクセスできる点が特徴です。
OpenEvidenceを理解するうえで重要なのは、「医師の代わりに判断するAI」ではなく、「医師がエビデンスに早く到達するためのAI」として捉えることです。
つまり、OpenEvidenceはエビデンスベースAIという考え方を実装した代表的なサービスの一つです。判断の主体はあくまで医療者であり、AIは根拠確認と情報整理を支援する役割を担います。
OpenEvidenceの特徴、使い方、日本での利用状況については、以下の記事で詳しく解説しています。
どのAIでもハルシネーションを100％ゼロにはできない
エビデンスベースAIであっても、ハルシネーションや誤りのリスクを100％ゼロにできるわけではありません。
AIは、検索結果の選び方、情報源の質、回答生成の過程、引用の扱いによって、誤った内容を出力する可能性があります。
そのため、医療現場でAIを使う場合は、回答をそのまま結論として受け取るのではなく、根拠となる論文、診療ガイドライン、添付文書、専門学会資料を確認することが大切です。
特に、薬剤の用量、禁忌、妊娠・授乳、腎機能や肝機能に応じた調整、国内承認や保険適用に関わる内容は、必ず一次情報や国内情報と照合する必要があります。
つまり、エビデンスベースAIは「完全に正しい答えを自動で出すAI」ではありません。
医療者が根拠を確認し、患者背景に照らして判断するための支援ツールです。
ハルシネーションの仕組みや対策については、生成AIのハルシネーションに医師はどう向き合う？医療現場のリスクと対策で詳しく解説しています。
論文検索・引用確認では汎用生成AIの使い方に注意する
論文を書く際にも、AIの使い方には注意が必要です。
汎用生成AIは、研究背景の整理、文章の言い換え、構成案の作成、英文表現の改善などには有用です。
一方で、論文検索や参考文献リストの作成では、AIが提示した文献をそのまま使うべきではありません。
理由は、AIが提示した参考文献が実在するとは限らないためです。存在しない論文や、実在する論文とは異なる著者名、タイトル、雑誌名、DOIをもっともらしく示すことがあります。
The Lancetに掲載された「Fabricated citations: an audit across 2·5 million biomedical papers」では、PubMed Centralのオープンアクセス論文約250万本を対象に、参考文献の実在性が調査されました。
その結果、査読済み医学論文の中にも、実在しない文献を参考文献として挙げているケースが確認され、さらにこうした「架空引用」を含む論文の割合は近年増加していると報告されています。
査読済みの医学論文の中にも、実在しない文献を参考文献として挙げているケースが確認され、さらにその割合が近年増加している。
The Lancet｜Fabricated citations: an audit across 2·5 million biomedical papers
この報告は、論文作成において「それらしい引用」が必ずしも「実在する根拠」とは限らないことを示しています。
そのため、論文検索や引用確認では、汎用生成AIの出力をそのまま参考文献として使うのではなく、実在性を確認する必要があります。
文章の整理には汎用生成AIを活用し、論文検索や引用確認では根拠を確認できるエビデンスベースAIや医学文献データベースを使う、という使い分けが重要です。
医師や研究者がAIを使って論文を探す場合は、文献の実在性や引用元を確認できるツールを選ぶことが重要です。具体的な使い分けは、医師向けAI論文検索ツールの選び方で詳しく解説しています。
その他のエビデンスベースAIツール
エビデンスベースAIの考え方は、OpenEvidenceだけに限られるものではありません。
医療者が信頼できる情報源にアクセスし、根拠を確認しながら使えるAIとして、複数のサービスが登場しています。
UpToDate Expert AIは、UpToDateの専門家執筆・査読済みコンテンツをもとに、臨床質問への回答を支援するAIです。
MedGEN Japanは、国内外の医学文献や公的情報をもとに、出典を確認しながら医療情報の検索・要約を支援する日本発のAIサービスです。
ClinicalKey AIは、Elsevierのエビデンスベースの臨床コンテンツと生成AIを組み合わせた会話型検索サービスです。
Cubecは、国内外のガイドラインや医学文献に加え、日本の臨床現場で必要となる添付文書、保険適用、国内医療ナレッジとの接続が期待される日本発の医療AIです。
これらのツールは、それぞれ強みが異なります。文献検索に強いのか、臨床コンテンツに強いのか、日本国内の制度対応に強いのかを見極める必要があります。
医師向けのエビデンスベースAIツールを比較したい方は、以下の記事をご覧ください。
エビデンスベースAIツールを選ぶときのポイント
エビデンスベースAIツールを選ぶときは、「有名かどうか」だけで判断しない方がよいです。
大切なのは、自分が解決したい業務課題に合っているかどうかです。
- 回答の根拠となる情報源を確認できるか
- 医学論文、診療ガイドライン、添付文書などのどれに強いか
- 引用元や参考文献にアクセスしやすいか
- 情報の更新頻度が十分か
- 日本の承認状況、保険適用、国内ガイドラインと照合しやすいか
- 患者情報を入力してよい設計・契約・運用になっているか
- 院内ルールや医療AIガバナンスと整合しているか
特に日本で医療AIを使う場合は、海外の医学情報をそのまま使えるとは限りません。
海外では承認されている薬剤でも、日本では未承認だったり、保険適用外だったりする場合があります。
そのため、AIの回答を確認するときは、国内ガイドライン、添付文書、PMDA情報、保険適用、院内ルールとの照合が必要です。
また、医療AIを安全に使うためには、ツール選びだけでなく、患者情報の取り扱い、AI回答の検証方法、責任の所在を含めた医療AIガバナンスも重要です。
医療AIガバナンスの基本や、患者情報の取り扱い、院内運用時の注意点については、医療AIガバナンスとは？患者情報・法規制・安全運用の基本で詳しく解説しています。
まとめ：医療AIにおけるエビデンスベースAIとは？
エビデンスベースAIは、医療者の判断を置き換えるものではありません。
AIができるのは、根拠を探し、要約し、比較し、不確実性を示すことです。最終的に判断するのは医療者です。
汎用生成AIは便利ですが、臨床判断や論文検索のように根拠の正確性が求められる用途では、根拠の明示、情報の新しさ、個人情報管理、制度対応、責任分界を確認する必要があります。
だからこそ、医療AIではエビデンスベースAIの考え方が重要です。
要点をまとめると、以下の通りです。
- 医療現場でAIを使うなら根拠を確認できることが重要
- 汎用生成AIは便利だが臨床判断や論文検索では慎重な運用が必要
- ハルシネーションは患者安全や研究の信頼性に関わるリスクになり得る
- エビデンスベースAIは信頼できる医学情報をもとに回答を支援する
- 重要なのは出典の明確さ、信頼できる知識基盤、不確実性の明示
- RAGは外部資料を検索し、根拠確認をしやすくする技術
- 代表的なツールにはOpenEvidenceなどがある
- 導入時は患者情報や国内制度との整合性を確認する必要がある
- 安全に使うためには医療AIガバナンスが欠かせない
- 最終的な診療判断はAIではなく医療者が担う
医療AI全体の基本や活用領域から整理したい方は、医療AIとは？活用領域と全体像の解説記事もあわせてご覧ください。