介護士がAIエンジニアを目指して、完全ローカルで動くRAGを作ってみた
この記事で分かること
完全ローカル環境でRAG（検索拡張生成）システムを構築する手順が得られる。介護士からAIエンジニアへのキャリアチェンジの過程で、ローカルLLMとベクトルデータベースを組み合わせたRAGを実装している。外部APIに依存しないため、コストを抑えつつプライバシーを保護できる点が実用的。
詳細要約
介護現場の知識を活かし、外部APIに依存しない完全ローカル環境でRAG（検索拡張生成）を構築した実践例。ローカル運用により、利用者の個人情報を外部送信せずに、施設独自のマニュアルや記録をAIに参照させられる点が最大の利点。構築時の具体点として、ベクトルデータベースには「ChromaDB」、埋め込みモデルには「E5」系の軽量モデルを選ぶことで、一般のPCでも動作可能な構成にしている。また、検索結果をAIが回答に使う際のプロンプトには「参照した文書のIDを必ず明記させる」指示を加えることで、回答の根拠を確認できるようにしている。