制作：2023年12月

研修医 ［照］ 
「あー、賢一先生に○○診療ガイドラインのサマリーを作って報告するように言われてしまった。今週は忙しくて時間もないのにどうしよう…。」
「そうだ！ChatGPTっていう、AIツールがあるな！質問をAIに投げかけたらすぐに自然な文章で回答してくれるって噂を聞いたけど、本当かな？とりあえず使ってみよう！」

研修医  ［照］
▶○○診療ガイドラインのポイントを教えて！

ChatGPT
▶ ○○診療ガイドラインについて…。（古いバージョンの情報や一部間違った情報を含む回答）

研修医 ［照］
「うわ、すごいな。早い。」

研修医 ［照］
▶報告書の体裁にまとめて？

ChatGPT
▶ 一般的な報告書の体裁にまとめ、最後にサマリーを入れます…。（古いバージョンの情報や一部間違った情報を含む回答）　

研修医 ［照］
「おおおおーすごい！一瞬でできた。ありがとうChatGPT！！これで完璧だ！」

～翌日～

研修医 ［照］
「賢一先生、昨日ご指示頂いた○○診療ガイドラインのサマリーを作りました！確認をお願いできますか？」

指導医 ［賢一］
「ほう。仕事が早いな。どれどれ…」
(読み進めるうちに間違った情報に気づく)
「……一体どうなっているんだ、これは？」

研修医 ［照］
「え？○○診療ガイドラインのサマリーですが。」

指導医 ［賢一］
「（努めて冷静に）…いや、そういう事ではなくて…さ。」

研修医 ［照］
「どういう事ですか？」

指導医 ［賢一］
「………これ、間違った情報が含まれているぞ？」

研修医 ［照］
「え？そんなわけは？」

指導医 ［賢一］
「ひょっとしてAI使って書いた？」

研修医 ［照］
「……は、はい。少しだけ（嘘）使いました…。」

指導医 ［賢一］
「やはり。妙に仕事が早いし、文章の雰囲気もいつもの先生のものではないから、気になったんだよ。そもそもこれ、情報の裏取りをしていないだろう？」

研修医 ［照］
「…はい。」

指導医 ［賢一］
「（呆れて）…まったく…。ChatGPTのような言語モデルは、学習したデータを基に、次に続く確率の高い文章や文字を生成しているだけだ。例えば、『雨が』と入力すると、『降りそうですね』や『降りそう』と続けるのが自然なので、機械的にそれを出力しているだけ。」

研修医 ［照］
「え？そうなんですか？」

指導医 ［賢一］
「そう。言語モデルは、たくさんの文章を学習して、それらの文章の中でどの単語がどの単語の後によく来るか、という確率を学習する。そして、その確率に基づいて新しい文章を生成しているだけだ。」

研修医 ［照］
「なるほど…。」

指導医 ［賢一］
「それに、学習された時期が古く、最新の情報が学習されていない事もある。今回の報告書に参照されたガイドラインは、５年前のバージョンだぞ？」

研修医 ［照］
「ええーーっ！？（肩を落とし）そうでしたか…。」

指導医 ［賢一］
「念の為に確認するけど、個人情報は入力していないよね？」

研修医 ［照］
「流石にそれはやっていないです。」

指導医 ［賢一］
「良かった。モデルに学習されてしまう可能性があるから、機密情報や個人情報は入れないように。」

研修医 ［照］
「そんなリスクもあるんですね、気をつけます。」

指導医 ［賢一］
「ChatGPTのような言語モデルを利用する際は、ハルシネーションにも注意が必要だぞ。」

研修医 ［照］
「ハルシネーション？」

指導医 ［賢一］
「そう。事実のように見せかけながら、正しくない、あるいは不適切な情報を提供する事がよくある。これがハルシネーションと呼ばれる現象。」

研修医 ［照］
「確かに、今回のサマリーも、もっともらしい文章が生成されたので、事実だと思い込んでしまいました。」

指導医 ［賢一］
「ChatGPTをはじめとする生成AIは便利だが、出力された情報が医学的に正しいか、常識的に正しいかの裏取りをすることが必ず必要だ。しかしその手間や自分自身の勉強のことを考えると、今回のようなケースにChatGPTを使う事は、果たして適していたかな？」

研修医 ［照］
「いえ、適していないと思います。」

指導医 ［賢一］
「そうだろう。こういう仕事で手を抜くと、いずれ大きな事故に繋がってしまうかもしれない。患者さんに不利益が生じてしまったらどうする？」

研修医 ［照］
「すみませんでした…。でも毎日忙しくて、正直、猫の手でもAIでも力を借りたいのが本音なんです。」

指導医 ［賢一］
「まあ、気持ちは分からなくもない。おまけに医師の働き方改革の影響で、正規の業務時間は減らさざるを得ないしな。」

研修医 ［照］
「工夫して業務を効率化して、できる限り臨床に専念したいです。ChatGPTの利用に適したケースはないでしょうか？」

指導医 ［賢一］
「言語モデルの特性やリスクを踏まえると、裏取りの不要な作業に向いていると思う。例えば人への相談事とか。」

研修医 ［照］
「（乗り出して）どういう事か、詳しく教えていただけないでしょうか？」

（次回に続く）