第1回 ChatGPTの基本

制作:2023年12月

※登場する人物は架空であり、実在のものとは関係ありません。

研修医 [照] 
「あー、賢一先生に○○診療ガイドラインのサマリーを作って報告するように言われてしまった。今週は忙しくて時間もないのにどうしよう…。」
「そうだ!ChatGPTっていう、AIツールがあるな!質問をAIに投げかけたらすぐに自然な文章で回答してくれるって噂を聞いたけど、本当かな?とりあえず使ってみよう!」


研修医  [照]
▶○○診療ガイドラインのポイントを教えて!

ChatGPT
▶ ○○診療ガイドラインについて…。(古いバージョンの情報や一部間違った情報を含む回答)


研修医 [照]
「うわ、すごいな。早い。」


研修医 [照]
▶報告書の体裁にまとめて?

ChatGPT
▶ 一般的な報告書の体裁にまとめ、最後にサマリーを入れます…。(古いバージョンの情報や一部間違った情報を含む回答) 


研修医 [照]
「おおおおーすごい!一瞬でできた。ありがとうChatGPT!!これで完璧だ!」

~翌日~

研修医 [照]
「賢一先生、昨日ご指示頂いた○○診療ガイドラインのサマリーを作りました!確認をお願いできますか?」


指導医 [賢一]
「ほう。仕事が早いな。どれどれ…」
(読み進めるうちに間違った情報に気づく)
「……一体どうなっているんだ、これは?」


研修医 [照]
「え?○○診療ガイドラインのサマリーですが。」


指導医 [賢一]
「(努めて冷静に)…いや、そういう事ではなくて…さ。」


研修医 [照]
「どういう事ですか?」


指導医 [賢一]
「………これ、間違った情報が含まれているぞ?」


研修医 [照]
「え?そんなわけは?」


指導医 [賢一]
「ひょっとしてAI使って書いた?」


研修医 [照]
「……は、はい。少しだけ(嘘)使いました…。」


指導医 [賢一]
「やはり。妙に仕事が早いし、文章の雰囲気もいつもの先生のものではないから、気になったんだよ。そもそもこれ、情報の裏取りをしていないだろう?」


研修医 [照]
「…はい。」


指導医 [賢一]
「(呆れて)…まったく…。ChatGPTのような言語モデルは、学習したデータを基に、次に続く確率の高い文章や文字を生成しているだけだ。例えば、『雨が』と入力すると、『降りそうですね』や『降りそう』と続けるのが自然なので、機械的にそれを出力しているだけ。」


研修医 [照]
「え?そうなんですか?」


指導医 [賢一]
「そう。言語モデルは、たくさんの文章を学習して、それらの文章の中でどの単語がどの単語の後によく来るか、という確率を学習する。そして、その確率に基づいて新しい文章を生成しているだけだ。」


研修医 [照]
「なるほど…。」


指導医 [賢一]
「それに、学習された時期が古く、最新の情報が学習されていない事もある。今回の報告書に参照されたガイドラインは、5年前のバージョンだぞ?」


研修医 [照]
「ええーーっ!?(肩を落とし)そうでしたか…。」


指導医 [賢一]
「念の為に確認するけど、個人情報は入力していないよね?」


研修医 [照]
「流石にそれはやっていないです。」


指導医 [賢一]
「良かった。モデルに学習されてしまう可能性があるから、機密情報や個人情報は入れないように。」


研修医 [照]
「そんなリスクもあるんですね、気をつけます。」


指導医 [賢一]
「ChatGPTのような言語モデルを利用する際は、ハルシネーションにも注意が必要だぞ。」


研修医 [照]
「ハルシネーション?」


指導医 [賢一]
「そう。事実のように見せかけながら、正しくない、あるいは不適切な情報を提供する事がよくある。これがハルシネーションと呼ばれる現象。」


研修医 [照]
「確かに、今回のサマリーも、もっともらしい文章が生成されたので、事実だと思い込んでしまいました。」


指導医 [賢一]
「ChatGPTをはじめとする生成AIは便利だが、出力された情報が医学的に正しいか、常識的に正しいかの裏取りをすることが必ず必要だ。しかしその手間や自分自身の勉強のことを考えると、今回のようなケースにChatGPTを使う事は、果たして適していたかな?」


研修医 [照]
「いえ、適していないと思います。」


指導医 [賢一]
「そうだろう。こういう仕事で手を抜くと、いずれ大きな事故に繋がってしまうかもしれない。患者さんに不利益が生じてしまったらどうする?」


研修医 [照]
「すみませんでした…。でも毎日忙しくて、正直、猫の手でもAIでも力を借りたいのが本音なんです。」


指導医 [賢一]
「まあ、気持ちは分からなくもない。おまけに医師の働き方改革の影響で、正規の業務時間は減らさざるを得ないしな。」


研修医 [照]
「工夫して業務を効率化して、できる限り臨床に専念したいです。ChatGPTの利用に適したケースはないでしょうか?」


指導医 [賢一]
「言語モデルの特性やリスクを踏まえると、裏取りの不要な作業に向いていると思う。例えば人への相談事とか。」


研修医 [照]
「(乗り出して)どういう事か、詳しく教えていただけないでしょうか?」

 

(次回に続く)


関連ページ

アステラス製薬株式会社の医療関係者向け情報サイトに​アクセスいただき、ありがとうございます。​

本サイト(Astellas Medical Net)は、日本国内の医療提供施設にご勤務されている医療従事者を
対象としています。該当されない方はご登録・ご利用いただけませんので、予めご了承ください。

ご利用にはアステラスメディカルネット利用規約への同意が必要です。
ご同意頂ける場合は以下の該当ボタンをクリックしてお進み下さい。

本サイトでは、利便性向上、利用履歴の収集・集計のためCookieを利用してアクセスデータを取得しています。
詳しくは利用規約をご覧ください。オプトアウトもこちらから可能です。

アステラスの企業サイトをご利用の方はこちらからご覧ください。 

会員の方

会員登録されていない方

医療従事者の方は、会員限定コンテンツを除いたアステラスメディカルネットサイトの一部をご覧いただけます。
会員登録すると、製品に関する詳細な情報や領域ごとの最新情報など、会員限定のコンテンツが閲覧できます。

会員向けコンテンツをご利用の方

会員になると以下のコンテンツ、サイト機能をご利用いただけます。 

会員限定コンテンツの閲覧

ニュースや読み物、動画やWEBセミナーなど、
日々役立つ豊富な情報が閲覧可能になります。

情報収集サポート機能の利用

ブックマークやWEBセミナー予約など、手軽に、
効率的に情報を収集・共有いただける機能を
ご利用いただけます。