01 / CONCLUSION
ハルシネーションとは、生成AIが事実と異なる内容を、もっともらしい文章で出力してしまう現象です。
現時点では、生成AIの出力から誤りを完全になくせるとは保証できません。だからこそ、「AIに事実を作らせない使い方」と「人が材料と照合する手順」の両方で備えます。
記録・計画・説明資料は、利用者の支援や事業所の説明に直結します。下書きはAIと。判断と支援は、人が。この線引きを、確認の手順として形にしておくことが大切です。
02 / WHY
障がい福祉の事務では、支援記録・個別支援計画の下書き・会議資料・ご家族へのお知らせなど、「事実を正確に書くこと」が前提の文書を多く扱います。
生成AIの出力は、文法が整っていて読みやすいぶん、誤りが混じっていても気づきにくいという特徴があります。手書きの下書きなら迷いながら書いた箇所が分かりますが、AIの文章は自信のある箇所も推測で埋めた箇所も、同じ調子で書かれます。
そのため、「AIを使うかどうか」より先に、「AIが書いた文章を、誰が・何と照らして確認するか」を決めておく必要があります。
03 / PATTERNS
福祉の書類で特に注意したい誤りは、次の4つです。以下の例はすべて、この記事のために最初から作成した架空のものです。
加算の要件、法令の条番号、手続きの期限などを尋ねると、実在しそうな内容を答えることがあります。数字や固有名詞が具体的であるほど正しく見えますが、具体的であることは正しさの根拠になりません。制度や数値に関わる内容は、AIの回答ではなく、所管の行政機関が公表している一次情報で確認します。
短いメモから記録の文章を整えてもらうと、メモにない様子や発言が自然な文章として足されることがあります。たとえば架空のメモ「午後、作業に集中できず離席2回」から、「表情が暗く、疲れた様子が見られた」のような、誰も観察していない記述が加わる場合です。記録では、書いていないことを足さないことが何より重要です。
「根拠となる通知を教えて」と頼むと、実在しない通知名や、開けないURLを示すことがあります。出典をAIに探させて、そのまま資料に書き写すのは避けます。出典は、人が公式サイトで実際に開いて確認したものだけを使います。
長い議事録や記録を要約すると、「〜の可能性がある」が「〜である」に変わったり、「実施しない」が抜け落ちたりすることがあります。要約は短くなるぶん、断定の強さや否定の有無が変わりやすいため、元の文章と突き合わせて確認します。
04 / PREVENT
ハルシネーションを減らす方法の一つは、AIへの頼み方を見直すことです。ポイントは、AIに事実を「作らせない」ことです。
AIに「知っていること」を答えさせるのではなく、人が用意した材料（架空ケースのメモ等）を渡し、その範囲だけで文章を整えてもらう使い方にします。材料にない内容を書かないよう、指示にも明記します。
AIは空白を推測で埋めがちです。「材料から分からない箇所は【要確認】と書き、推測で補わないでください」と指示しておくと、人が確認すべき箇所が見えやすくなります。
制度の要件や金額、期限は、AIに尋ねて確定させるのではなく、公式の資料で確認します。AIは、確認した内容を読みやすく整える役にとどめます。
指示文の例です（架空ケース）。
実在の利用者・ご家族・職員に関する情報は、この指示文の形であっても入力しません。入力してよい情報の線引きは、生成AIを使う前の4つの確認と事業所のAI利用ガイドラインの作り方で扱っています。
05 / HOW TO
AIの出力を使う前に、人が行う確認の手順です。慣れるまでは、この順番どおりに進めることをおすすめします。
AIの出力を、渡した材料と1文ずつ見比べ、材料にない記述がないかを確認します。
数字・日付・人名・制度名・資料名に印をつけ、一つずつ材料や公式情報と突き合わせます。
制度や法令に触れている箇所は、所管の行政機関が公表している資料で確認します。確認できない記述は削除します。
「〜である」「〜しない」など、断定や否定の表現が元の材料と同じ強さになっているかを確認します。
誰がいつ確認したかを残します。文書を確定するのは、確認した人と事業所です。
06 / AVOID
次の3つは、ハルシネーション対策のつもりで起こりがちな落とし穴です。
同じAIや別のAIに「この文章は正しいですか」と尋ねても、正しさの保証にはなりません。確認は人が材料と公式情報で行います。
ご家族へのお知らせや行政への提出書類に、確認前の出力をそのまま使うことは避けます。
誤りを見つけたいからといって、実在の記録や個人情報を入力することはしません。練習や検討は架空ケースで行います。
07 / FAQ
生成AIが事実と異なる内容を、もっともらしい文章で出力してしまう現象です。数字や固有名詞が具体的でも、正しいとは限りません。
現時点では、生成AIの出力から誤りを完全になくせるとは保証できません。使い方の工夫で減らしつつ、人が材料と照合して確認する手順を必ず組み合わせてください。
いいえ。存在しない資料名やURLが示されることがあります。出典は人が公式サイトで実際に開いて確認したものだけを使います。
文書の内容に責任を持つ担当者が行います。確認した人と確認日を残し、事業所の承認手続に沿って確定します。
この記事の5つの手順のように、確認の順番を決めて文書にしておくと共有しやすくなります。事業所のAI利用ルールに組み込んでおくのも一つの方法です。
08 / SUMMARY
ハルシネーションは、なくすことより「気づける手順」を持つことが大切です。材料を渡してその範囲で書かせる、分からない箇所は空欄で返させる、制度や数値は公式情報で確認する。そのうえで、人が5つの手順で照合してから使います。「下書きはAIと。判断と支援は、人が。」を、確認の手順として運用に落とし込んでください。
免責
本記事は2026年9月時点の一般情報です。生成AIサービスの仕様・規約は提供事業者によって改定されるため、必ず提供事業者の公式情報でご確認ください。記事中の例はすべて最初から作成した架空のものです。制度・法令の解釈や個別の法律判断は、所管の行政機関や弁護士等の専門家へご相談ください。
あなたの右腕、作りませんか。
下書きはAIと。
判断と支援は、人が。
障がい福祉に特化したAI研修「WelvieAI」。仮想モデル事業所のケース演習で、AIへの指示と確認の「型」を学びます。受講中に受講者の実業務や実データを扱うことはありません。
研修資料を無料で請求するこの記事を書いた人
杉本 悠飛（すぎもと ゆうひ）
株式会社フェアテクノロジーズ 取締役 ／ ウェルビーラーニング事業責任者 ／ WelvieAI事業責任者
株式会社テクキャリ 取締役
障がい福祉に特化した動画研修サービス「ウェルビーラーニング」を立ち上げました。ご契約中の法人1,000社・アクティブユーザー20,000名以上にご利用いただいています（2026年9月時点・当社調べ）。自社グループの株式会社テクキャリ（就労継続支援A型事業所）の運営に取締役として携わり、制度対応と現場運営の両方を実務として経験しています。虐待防止・身体拘束適正化・処遇改善加算・運営指導対策などの研修コンテンツ企画を統括。2026年からは障がい福祉特化のAI研修「WelvieAI（ウェルビーAI）」の立ち上げも担当しています。
