医療生成AIを「医師の能力評価」のように審査へ――FDA案の仕組み｜2026年8月21日版
米食品医薬品局（FDA）が、生成AIを組み込んだ医療機器について、従来型ソフトウェアとは異なる評価方法の検討に入った。
中心にあるのは、医師の能力を確認するように、非臨床ベンチマークと臨床環境での確認を組み合わせる「コンピテンシー評価」だ。生成AIは同じ入力でも出力が変わる場合があり、基盤モデルの更新によって動作も変化する。発売前の一度の試験だけでは、安全性を捉えきれないという問題に向き合う案である。
この記事の要点は次の3つだ。
- FDAは「実行する医療行為」と「誤答時の被害」を組み合わせた2軸のリスク評価を検討している
- 市販前評価では、ベンチマーク試験だけでなく臨床現場で意図どおり機能するかを確認する
- 市販後も、性能低下や基盤モデルの変更を継続的に監視する仕組みが重要になる
なお、2026年8月18日に公表された文書は、規制案を確定するガイダンスではない。FDAが外部の意見を集めるためのディスカッションペーパーであり、最終的な審査要件はまだ決まっていない。
FDAが示した評価案の全体像
FDAの検討は、生成AI医療機器のライフサイクルを大きく3段階に分けている。
- 利用目的と誤答の影響からリスクを分類する
- 市販前に技術試験と臨床確認を行う
- 導入後も実環境で性能を監視する
従来の判定型AIは、画像から病変候補を検出するなど、入力と出力の形式を比較的限定しやすかった。一方、生成AIは診療記録の要約、患者向け説明、臨床判断の支援など、自由度の高い文章や提案を生成できる。
便利になる半面、もっともらしい誤情報を出す可能性がある。会話の流れや利用者の指示によって回答が変わる点も、固定的な試験だけでは評価しにくい。
ここがポイント: FDA案は生成AIを単一の精度スコアだけで判定せず、「何を任せるのか」「間違えたとき患者に何が起きるのか」「現場で安定して使えるのか」を組み合わせて確認しようとしている。
2軸で「任せる仕事」と「誤答の重さ」を見る
リスク評価で重要なのは、生成AIという技術名そのものではない。医療現場でAIが担う役割と、出力が間違った場合の結果だ。
軸1：AIが実行する活動
同じ生成AIでも、用途によって患者への影響は大きく異なる。
- 診療記録を読みやすく整える
- 患者向けの説明文を作成する
- 検査結果を要約する
- 診断や治療の候補を提示する
- 他のシステムや機器を自律的に操作する
医師が内容を確認してから使う文章作成支援と、AIの出力が治療判断へ直接つながる機能を、同じ基準で扱うべきではない。人が介入できる位置や時間も評価条件になる。
軸2：間違った場合の結果
誤字を含む要約と、薬剤選択を誤らせる提案では被害の深刻さが違う。そこで、誤出力が患者に与え得る影響をもう一方の軸として組み合わせる。
この考え方なら、診断名や治療方針を生成する機器には厳しい確認を求め、限定的な事務支援にはリスクに見合った評価を設定できる。審査負担を一律に増やすのではなく、危険性の高い用途へ検証資源を集中させる仕組みだ。
「コンピテンシー評価」は何を変えるのか
FDAが市販前評価の候補として示したのが、医師の訓練・評価方法から着想を得たコンピテンシー評価である。
これはAIを人間と同一視する考え方ではない。試験問題で知識を測るだけでなく、実際の診療に近い条件でも能力を確認するという発想を、医療機器の評価へ応用するものだ。
非臨床ベンチマーク
最初の段階では、管理されたデータや課題を使って性能を測る。対象になり得るのは、正確性、再現性、特定の患者群での性能差、危険な指示への応答などだ。
ただし、一般的なLLMベンチマークで高得点を取るだけでは不十分になる。医療機器として申請された具体的な用途、利用者、診療環境に対応した課題が必要だ。
臨床確認
次に、実際の使用場面に近い環境で、機器が意図どおり機能するかを確かめる。
ここではモデル単体の精度だけでなく、医師や看護師が出力をどう理解するか、誤りを発見できるか、AIへの過信が起きないかといった人間との相互作用も重要になる。患者が直接使う機器なら、専門知識がない利用者にも誤解を招かない表現になっているかを確認する必要がある。
この二段階を組み合わせることで、「テストデータでは正解するが、現場の複雑な入力では機能しない」という落差を見つけやすくなる。
市販後の監視が欠かせない理由
生成AI医療機器の評価は、承認時点で終わらない。
実環境では、患者層、入力方法、接続先のシステムが試験時と異なる。時間の経過とともにデータ分布が変わり、性能が低下することもある。外部の基盤モデルを利用する製品では、提供元のモデル更新が出力へ影響する可能性もある。
市販後に確認すべき項目には、次のようなものがある。
- 誤出力や利用者からの苦情が特定条件に集中していないか
- 年齢、性別、人種、言語などの集団間で性能差が広がっていないか
- 基盤モデルやプロンプト、検索データの変更後も性能が維持されているか
- 医療従事者がAIの提案を過度に信用していないか
- 想定外の用途へ転用されていないか
FDAは、リスクに比例した市販後監視のあり方についても意見を求めている。高リスク用途ほど監視頻度や報告内容を厳しくする方向が考えられるが、具体的な基準は今後の議論になる。
基盤モデルとAIエージェントが残す難題
この検討が重要なのは、個別の医療アプリだけでなく、その下で動く基盤モデルやAIエージェントにも焦点を当てているからだ。
外部モデル更新を誰が管理するのか
医療機器メーカーが他社の基盤モデルをAPI経由で利用する場合、モデルの内部構造や学習データをすべて把握できるとは限らない。提供元による更新が、医療機器の性能を変えてしまう可能性もある。
そのため開発企業には、モデルのバージョン管理、変更検知、再検証、問題発生時の切り戻しを含む運用設計が求められる。APIが応答しているだけでは、医療機器として正常とは判断できない。
エージェントは誤りを連鎖させる
AIエージェントが外部ツールを呼び出し、複数の工程を自動実行する場合、一つの誤判断が後続処理へ広がる。診療情報の取得、要約、候補提示、予約や通知までが連動すれば、最終出力だけを調べても原因を追えない。
開発段階から必要になるのは、各工程のログ、権限の制限、人による承認ポイント、停止手段だ。自律性が高いほど、モデルの精度だけでなくシステム全体の制御可能性が問われる。
日本の開発者と医療機関への影響
FDAの文書は米国向けで、日本の承認制度を直接変更するものではない。それでも、米国市場へ医療機器を展開する企業や、海外製品を調達する医療機関には実務的な意味がある。
開発企業
モデル選定の段階から、次の情報を残しておく必要がある。
- 製品が担う医療上の役割と、担わない役割
- 学習・評価データの由来と対象集団
- モデル、プロンプト、検索基盤のバージョン
- 非臨床試験と臨床評価を結び付ける設計
- 更新後に再評価する条件
- 障害や性能低下を検知した際の対応手順
これらは承認申請だけでなく、病院への説明や導入後の監査にも必要になる。
医療機関
調達時には「生成AIを搭載しているか」だけでなく、どの行為を任せる製品なのかを確認したい。とくに、基盤モデルが更新された場合の通知、性能確認の責任分担、ログの保存範囲、現場で停止できる権限は契約前に詰めるべき項目になる。
患者・一般利用者
患者が直接使う機能では、AIが作成した内容であること、医療従事者が確認したかどうか、疑問や異常がある場合の連絡先が分かる表示が重要になる。生成文が自然であるほど、利用者が誤りに気づきにくい点には注意が必要だ。
継続ウォッチ
FDAは、文書への意見を2026年10月19日まで、規制情報番号「FDA-2026-N-7874」で受け付ける。
次に見るべきポイントは明確だ。
- 2軸のリスク分類に、どのような医療行為と被害区分が設定されるか
- コンピテンシー評価で共通ベンチマークが採用されるか
- 基盤モデル更新時の再審査・再検証を誰が担うか
- AIエージェントに人の承認や操作記録がどこまで求められるか
- 市販後監視の結果を医療機関や患者へどう開示するか
今回の文書は規制の結論ではなく、議論の出発点だ。だが、生成AI医療機器を「一度合格すれば終わるソフトウェア」ではなく、能力を継続的に確認する医療システムとして扱う方向は鮮明になった。開発者と導入側が今から備えるべきなのは、最高性能を示す一枚の成績表ではなく、更新のたびに安全性を再確認できる記録と運用である。