top of page

AIで作った個別機能訓練計画書は、運営指導で問題になりますか

執筆者の写真: meuxia 株式会社
meuxia 株式会社
11月9日
読了時間: 6分

「ChatGPTで計画書の下書きを作ってもいいですか」

若い職員からそう聞かれて、答えに詰まった。ダメだと言う根拠も、いいと言う根拠も、手元にない——。

先に、いちばん大事なところから書きます。

AI利用そのものを禁じる規定は見当たりません。ただし個人情報の扱いは別問題です

個別機能訓練計画書をAIで作成することについて、可否を明示した国の基準は、確認した範囲では見当たりません。

つまり、「AIを使ったから指摘される」わけではありません。

問題になるのは、AIの使い方のほうです。具体的には次の2つです。

  • 個人情報の入力:汎用の生成AIに利用者様の情報を入れると、外部に渡る可能性がある

  • 内容の妥当性:AIの出力をそのまま提出すると、実態と合わない計画書になる

運営指導で見られるのは、計画・記録・同意の整合が第三者に追えるかです。AIで作ったかどうかではなく、その計画が利用者様の実態に基づいているかが問われます。

汎用AIに利用者様の情報を入れてはいけません

ここがいちばん危ないところです。

汎用の生成AIに入力した内容は、そのサービスの提供者側に送信されます。学習に使われるかどうかは、サービスやプラン、設定によって異なります。「使われない設定にできる」ものもありますが、既定でどうなっているかは確認が必要です。

個人情報保護委員会も、令和5年6月2日に「生成AIサービスの利用に関する注意喚起等について」を公表しています。個人データを含む内容を入力する場合は、利用目的の範囲内か、入力した情報が機械学習に使われないかを十分に確認するよう呼びかけています。

いずれにしても、利用者様の情報を事業所の外に出していることに変わりはありません。

やってはいけない入力の例

✗「田中花子さん、82歳、右片麻痺、要介護2、〇〇市在住。この方の個別機能訓練計画書の目標を考えてください」

氏名・年齢・疾患・地域。これだけ揃えば個人が特定されます。事業所の外に出してはいけない情報です。

どうしても汎用AIを使うなら

○「右片麻痺のある80代の方について、屋内歩行の自立を目指す短期目標の書き方の例を教えてください」

氏名も地域も出さない。一般化して聞く。ただしこの場合、返ってくるのは一般論であって、その方の計画書にはなりません。

汎用AIへの入力例。個人が特定される入力はだめで、名前や地域を出さず一般化して聞く例を並べた図

事業所として決めておくべき3つのルール

個人任せにすると必ず事故が起きます。事業所のルールにしてください。

1. 汎用AIに利用者様の情報を入れない

氏名・生年月日・住所・疾患名・家族構成。ひとつでも入れない。「仮名にすれば大丈夫」も避けたほうが安全です。組み合わせで特定されます。

2. AIが作るのは下書き。確定は人が行う

出てきた文章を必ず読み、その方の実態と照らして直す。読まずに提出しない。これを口頭ではなく、手順として書いておきます。

3. どのツールを使ってよいか決めておく

「AIは禁止」ではなく「このツールなら可」と決めるほうが現実的です。禁止にすると、個人のスマホで使われて把握できなくなります。

この3つを決めておけば、運営指導で聞かれたときにも説明できます。

生成AIを使うときの3つのルール。利用者様の情報を入れない、AIは下書きで確定は人が行う、使ってよいツールを決めておく

なぜ私たちは「下書きまで」に留めているのか

ここからは、AI搭載ソフトを開発している立場からの話です。

私たちが開発している通所介護向けのシステム「リハクム」(株式会社meuxia)にも、計画書とモニタリングの下書きを作るAIが入っています。ただし最終的な判断は、計画を作成する事業所の職員(管理者・機能訓練指導員など)が行う運用を推奨しています。全自動にはしていません。

理由は2つあります。

1つ目:計画書は「同意を得る文書」だから

計画書はご本人とご家族に説明し、同意をいただく文書です。説明する人が内容を理解していなければ、同意は成立しません。AIが作った文章を読まずに提出するのは、同意の手続きとして成り立たないと考えています。

2つ目:AIは現場を見ていないから

記録に残っていることしか材料にできません。「最近よく笑うようになった」「送迎の車で話が増えた」——記録に書かれていない変化は、AIには分かりません。それを拾えるのは職員の方だけです。

それでもAIを使う価値はあります

ここまで注意点ばかり書きましたが、使わないほうがいいという話ではありません。

書類作成に追われて利用者様と話す時間が減っているなら、その状態のほうが問題です。下書きが短時間で出てくるなら、浮いた時間はフロアに戻せます。

大事なのは、AIに何をさせて、何をさせないかを決めておくことです。

AIは下書きまで、確定するのは人。AIに任せてよいことと人がやるべきことを左右に分けた図

AIに任せてよいこと

  • 記録から下書きを組み立てる

  • 目標の候補を並べる

  • 表現を整える

  • 書式に流し込む

人がやるべきこと

  • その方の実態と照らして直す

  • どの目標にするかを決める

  • ご本人・ご家族への説明と同意

  • 記録との整合を確認する

まとめ

AIを使ったこと自体が問題になるわけではありません。決めておくのは3つだけです。

  • 汎用AIに利用者様の情報を入れない

  • AIが作るのは下書き。読まずに提出しない

  • 使ってよいツールを事業所で決めておく

まず1つ目だけでも、今週のミーティングで共有してください。知らずに入力している職員がいる可能性があります。

よくある質問

Q. AIで作成した個別機能訓練計画書は、運営指導で指摘されますか。

A. AIの利用そのものを禁じる規定は見当たらず、可否を明示した国の基準も、確認した範囲では見当たりません。運営指導で見られるのは、計画・記録・同意の整合が第三者に追えるかです。AIで作ったかどうかではなく、計画の内容が利用者様の実態に基づいているかが問われます。

Q. ChatGPTに利用者様の名前を入れてしまいました。どうすればよいですか。

A. まず管理者へ報告し、入力した内容と日時を記録してください。サービスによっては会話履歴の削除や学習利用の停止設定が可能です。そのうえで、再発を防ぐために事業所としての入力ルールを定めてください。個人情報の漏えいにあたる可能性がある場合の対応は、個人情報保護委員会の指針に従います。

Q. 「AIが作成しました」と計画書に書く必要はありますか。

A. 記載を求める規定は見当たりません。作成者として記載するのは、内容を確認し責任を負う職員です。AIは作成の補助であり、作成者ではありません。

Q. 事業所で生成AIの利用ルールを作りたいのですが、何から決めればよいですか。

A. ①入力してはいけない情報(氏名・生年月日・住所・疾患名など)、②使用を認めるツール、③出力の確認者と確認方法、の3点から始めるのが現実的です。禁止にするより、使ってよい範囲を決めるほうが実態に合います。

Q. AIの下書きをそのまま提出してもよいですか。

A. おすすめしません。計画書はご本人・ご家族に説明し同意をいただく文書です。説明する職員が内容を理解していない状態では、同意の手続きとして成り立ちません。

コメント


bottom of page