AIを活用した医療記事241本を専門医が検証、4割に医学的な指摘

AIの活用は必須だが、「最後の砦」として専門家の目が必要——検品を担当した専門医に聞く

近年のAIの進化は著しく、記事執筆やコンテンツ制作のコストは下がり、公開される本数も飛躍的に増えています。医療記事の分野も例外ではなく、クリニックや医療関連企業に限らず、AIを活用した記事の大量生産が見られるようになりました。

しかし、そこには一つ確認しておきたい点があります。それは「AIが書いた医療・健康の文章は、医学的に本当に正しいのか？」ということです。かつて、根拠のない不正確な医療記事が大量に公開され、大きな社会問題となった出来事もありました。

Medrockが実案件として請け負った、医療ライターが生成AIを活用して作成した医療記事241本のデータでは、全体の41％にあたる98本に専門医からの医学的な指摘が入り、指摘のあった記事では1本あたり平均6.8件の修正が必要でした。

この結果が意味するものは何なのか。実際に検証にあたった専門医に、現場で見た「AI活用記事の課題」について率直に語っていただきました。

インタビュイー

検証データ
2026年6月に実案件で監修した医療・健康記事241本、監修コメント計664件。対象記事は、医療ライターが生成AIを活用して作成したもの。

結果 — 「読めば分かる誤り」がないからこそ怖い

— 今回、全体の約4割にあたる記事に医学的な指摘が入りました。この数字を、先生ご自身はどう受け止めていらっしゃいますか？

監修医：4割という数字の大きさもさることながら、私が危機感を覚えたのはその「中身」なんです。AIが書いた原稿って、誤字脱字や不自然な日本語といった「誰でも見つけやすいミス」が少ないんですよね。文章としてはすごく綺麗で、いかにもそれらしい。

だからこそ怖いんです。表面上は自然な文章に見えるので、医学的な知識がなければ問題に気づきにくい。編集部の校正やディレクターの方のチェックだけで、すべてを拾うのは難しいんですよ。

— 専門家にしか見抜けない誤りとは、具体的にどのようなものだったのでしょうか？

監修医：例えば、救急対応の指示が誤っていたり、保険適用外の治療が選択肢として挙げられていたり、受診すべき診療科が違っていたりするケースです。どれも読者の受診や治療の判断に影響する可能性があるので、かなり慎重に見ないといけません。

ほかにも、「病気の原因を断定しているけれど、実際には特定されていない」「臨床ではよくある原因が抜けている」「日本の保険制度上の条件が違っている」といった指摘がありました。文章だけ読むと自然なので、医学的な知識がないと気づきにくいんです。

なぜAIは「もっともらしく」間違えるのか

— 検証されてみて、AIが陥りやすい間違いの傾向のようなものは感じましたか？

監修医：いくつか明確な傾向がありましたね。一番大きいのは「日本固有の制度」に関するものです。保険適用の条件などは、情報の更新時点や質問の条件によって、正確に反映されないことがあります。

あとは、臨床の文脈ですね。「臨床ではよくある原因が抜けている」といったように、教科書的な説明だけでは足りないケースがあります。こういう部分は、AIだけでは判断が難しいんです。

もう一つは、もっともらしく断定してしまうケースです。情報の更新時点や参照元、質問の条件、モデルの特性など、いくつかの要因が重なって誤りが出ると考えられます。原因を学習データの不足だけに決めつけないほうがいいですね。

— プロンプトの工夫や、AIツールの選び方次第で防ぐことはできないのでしょうか？

監修医：ある程度減らすことはできても、完全に防ぐのは難しいでしょうね。情報の更新時点や参照元、質問の条件、モデルの特性など、複数の要因があるからです。

実際、今回検証した241本も、医療ライターさんがAIを操作して作っているんです。人が介在してコントロールしようとしてもこの数字（41％）が出てしまった、という事実こそが、実測データとしての重みだと思います。

AIを否定するのではなく、正しく「検証」を挟む

— そうなると、医療記事の制作においてAIの活用は控えるべきなのでしょうか？

監修医：いえ、やめる必要は全くないと思います。むしろ活用していくべきです。ベースとなる記事の制作はAIで一気に効率化して、医学的な検証という「公開前の確認」を専門医に任せればいい。今回の241本も、そうやって私たちが指摘と修正を入れることで、最終的にきちんとした公開品質になりましたから。

その記事のテーマに合った診療科の医師が内容を見て、どこが間違っているのか、なぜダメなのか、どう直せばいいのかをフィードバックする。最初の書き手が人間であれAIであれ、私たちがやるべきフローは同じなんですよ。

— これからAI活用を本格的に進めようとしている企業は、まず何から始めるべきでしょうか？

監修医：まずは、すでに公開しているAI活用の記事を数本だけでも、私たちのような専門医の検証に出してみることですね。「専門家の目を通すと、こんな指摘が出てくるのか」というのを一度体感していただきたいんです。それを見れば、自社の記事でどのような確認が必要かが分かるはずです。もちろん、何も指摘が出なければ、それはそれで大きな安心材料になりますからね。

編集後記（Medrock）

本検証は、現役医師500名の監修ネットワークを持つMedrock（代表は現役医師）が、実際の案件において実施したものです。記載されている数字はすべて実データに基づいています。

今回の241本では、薬機法・医療広告ガイドラインのチェックもすべての記事で実施しました。

Medrockでは、診療科別の専門医のアサインから、薬機法・医療広告ガイドラインのチェックを含め、AIで制作したコンテンツの医学的検証を1記事から承っております。お気軽にご相談ください。
>>AIを活用した医療記事の監修について相談する