名大生ボイス

名大生ボイス

大学生活全般

2026.11.20

  • 大学生活全般

AIはどこまで信頼できる? 医療・創薬データから考える予測の限界

AIは、文章を作ったり、画像に写っているものを見分けたりと、私たちの身近な場面で使われるようになりました。医療の分野でも、レントゲン画像から病気の兆候を見つけたり、創薬の研究で物質の性質を予測したりする技術が発展しています。

 

一方で、AIが「90%の精度で予測できた」と聞いたとき、その数字をどこまで信頼してよいのでしょうか。私は大学院で生命科学に関わるデータの解析や機械学習に取り組む中で、予測結果そのものだけでなく、どのようなデータで確かめた結果なのかを考えることが重要だと感じています。今回は身近な例を入口に、AIを正しく評価するための考え方を紹介します。  

                                       AI.jpg

 

AIはデータから規則性を学ぶ

機械学習は、過去のデータに含まれる特徴と結果の関係を学び、新しいデータを予測する方法です。例えば、さまざまな商品の名前や内容量、価格を学習すれば、初めて見る商品の値段もある程度推測できるかもしれません。

 

ただし、AIは必ずしも人間と同じように、値段が決まる背景を理解しているわけではありません。学習データの中で答えと結び付きやすい特徴を見つけ、それを手がかりに予測しています。その特徴が別の場所や状況でも役立つかどうかは、別に確かめなければなりません。

 

 

駄菓子屋さんで考えてみる

例えば、名古屋市にある駄菓子屋さんを想像してみてください。仮に、A君が周辺のお店の商品情報と値段を集め、価格を予測するAIを作ったとします。その地域のお店のデータでテストすると、かなり良い成績が出ました。

 

では、このAIで一宮市や東京都内の駄菓子屋さんの値段も予測できるでしょうか。同じ商品でも、仕入れの条件や店の規模、販売時期、値付けの方針が違えば、実際の価格が変わる可能性があります。本山のデータでは良い成績でも、別の地域では予測が外れるかもしれません。

 

ここで大切なのは、東京のように遠い場所ほど必ず外れる、ということではありません。東京でも条件が似たお店なら当たる可能性がありますし、すぐ近くでも仕組みが大きく違うお店では外れる可能性があります。つまり、地理的な距離よりも、学習に使ったデータと予測したい対象の特徴がどれほど似ているかが重要なのです。

 

 

医療画像にも同じ課題がある

この問題は、医療画像を解析するAIにも当てはまります。ある病院のレントゲン画像を集めて病気の兆候を検出するAIを開発したとしても、別の病院で同じ成績になるとは限りません。撮影装置や画像処理の方法、検査を受ける患者さんの年齢構成などが異なるためです。

 

さらに注意したいのは、AIが病気そのものとは直接関係のない特徴を利用する場合です。例えば、画像に含まれる撮影条件の違いや、施設ごとの傾向が病気の有無と偶然結び付いていると、AIはそれを予測の手がかりにするかもしれません。開発した施設では当たっていても、環境が変わるとその手がかりが通用しなくなります。

 

実際に、複数の医療機関の胸部X線画像を用いた研究では、肺炎を予測するAIの成績が、開発時と異なる医療機関のデータで低下する場合があると報告されています。これはAIが役に立たないという意味ではなく、良い成績の背景まで検討する必要があることを示しています。

 

 

内部テストと外部テストの違い

では、どうすればAIの信頼性を確かめられるのでしょうか。まず行うのが、学習に使うデータと評価に使うデータを分けることです。学習に使わなかったデータで成績を調べれば、覚えた内容をそのまま答えているだけではないかを確認しやすくなります。

 

しかし、一つの病院から集めた画像を二つに分けた場合、学習用にも評価用にも、その病院に特有の特徴が残っているかもしれません。このような開発元のデータを用いた評価は、一般に内部検証と呼ばれます。内部検証で良い結果が出ても、それだけで別の病院での性能まで保証できるわけではありません。

 

そこで、開発時には使っていない別の病院や異なる時期のデータなどで評価する「外部検証」が重要になります。ただし、外部検証を一度通過すれば、世界中のどこでも使えるという意味でもありません。実際に利用する患者さんや施設に近い条件で、何が確かめられたのかを見極める必要があります。

 

また、全体の正答率が高くても、特定の年齢層や撮影条件の画像では誤りが多い場合があります。平均値だけを見ていると、その違いに気づけません。誰の、どのようなデータで評価した結果なのかを確認することは、医療AIの公平性や安全性を考えるうえでも欠かせません。

 

また、同じ患者さんから撮影した複数の画像が学習用と評価用に分かれて混ざると、成績を実際より良く見積もるおそれがあります。データの分け方そのものが、評価の信頼性を左右するのです。

 

 

創薬のデータではどうだろう

医療画像だけでなく、創薬で扱うデータにも同じ考え方が当てはまります。例えば、化合物の構造と実験で得られた性質を学習し、新しい化合物の働きを予測するAIを考えます。学習した化合物に似た候補では良い結果が得られても、構造が大きく異なる候補では精度が下がるかもしれません。

 

そのため、研究では予測の正確さだけでなく、どの範囲のデータに対して予測できるのかも重要です。似た化合物を学習用と評価用に分けるだけで十分なのか、性質の異なる候補でも確かめるべきなのか。研究の目的に合わせて評価方法を考える必要があります。

 

 

「ロバストなAI」とは何か

研究でよく使われる「ロバスト」という言葉は、日本語では「頑健な」という意味です。条件が多少変わっても予測性能が大きく崩れにくい性質を指します。例えば、撮影装置や画像の明るさが違っても安定して判断できるAIは、その違いに対してロバストだといえます。

 

ただし、ロバストであることは、あらゆる条件で正しいという意味ではありません。どのような変化に対して強いのかを具体的に確認することが大切です。また、医療では正解率が高いだけでは十分とはいえません。病気を見逃すことと、病気でない人を誤って疑うことでは影響が異なるため、用途に応じた評価が欠かせません。

 

 

AIを信頼するために

私がAIを使ううえで大切だと思うのは、結果の数字だけで判断しないことです。どのようなデータを学んだのか、どこで性能を確かめたのか、どのような場合に予測が難しくなるのか。こうした問いを重ねることで、AIの得意な範囲と限界が見えてきます。

 

AIは人間の判断を助ける強力な道具になり得ます。しかし、予測がよく当たることと、実際の医療現場で安全に役立つことは同じではありません。使う人が結果を確認し、必要に応じて専門家が判断する仕組みも重要です。

 

次にAIの高い精度を紹介する記事やニュースを見かけたら、「そのAIは、どのようなデータでテストされたのだろう」と考えてみてください。その一つの問いが、AIを過信せず、同時に可能性を正しく理解する第一歩になると思います。

Profile

所属:創薬科学研究科 修士2年

出身地:愛知県

出身校:愛知県立岡崎高等学校