HOME / CASES / AI  ·  DRAFT

AIに、決めさせない

これまでに10件を超えるAI案件をお手伝いしてきました。ここに挙げた3件は、業種も技術構成もばらばらです。基幹システム、会計、介護。クラウドAIのものもあれば、社内に閉じたものもあります。それでも設計の考え方は同じです。AIに数字を作らせない。AIに最終判断をさせない。そして、設計書を残す。

An English version of this page is in preparation. The content below is currently available in Japanese only — please contact us for an English summary.

THREE PROJECTS

3件とも、「AIが間違えたらどうするか」から設計しています。

守秘義務により、お客様名は伏せて掲載しています。数字と設計の内容は、実際の設計書に基づくものです。

CASE 01

聞けば出てくるERPと、承認の自動突合。

お客様
大手システムインテグレーター様
国産ERPパッケージによる基幹システムの提案・構築・保守
領域
AIエージェント開発
状況
概念実証を経て、本開発に移行(継続中)
時期
2025年11月 設計着手 ―

課題

ERPパッケージで基幹システムを構築・運用されているお客様から、2つのご相談をいただきました。

  • 照会のたびに、画面と項目名を覚えなければならない。受注・売上・在庫・予算を見るのに、メニューをたどり、検索条件の項目名を知っている必要がある。標準にない集計が欲しくなるたび、帳票を1本追加開発していた
  • ワークフロー承認で、添付PDFと申請内容を目視で突合していた。見積番号、金額、数量——承認者が1項目ずつ目で追う。人によって見る深さが違い、転記ミスが後工程で発覚することもあった

ユースケース① ― 対話形式によるデータ抽出・参照

「今月の受注一覧を見せて」「大阪営業所の当初予算と最新見通しの差異は?」「この結果をExcelで出力して」。日本語のまま聞くと、エージェントが自分で適切な検索ツールを選び、ERPのREST APIを呼び、表にして返します。画面遷移も、項目名の知識も要りません。

  • 販売管理(見積/受注/出荷/売上)、購買管理(発注/入荷/仕入)、在庫管理、販売購買に対応
  • 会計側も、予算・見通し・業績管理まで同じ画面から照会できます
  • 結果はExcel/CSVで出力。件数の多いデータは、画面ではなくファイルで受け取れます
  • ERP側の権限をそのまま尊重します。指示した方が参照権を持たないデータは、出力対象になりません

ユースケース② ― ワークフロー承認チェック

承認ノードに到達した時点でエージェントが起動し、添付PDF(正本)とシステム上の伝票を、会社ごとに定義されたルールで項目単位に照合します。一致か、不整合か。不整合なら、どの項目のどの値が違うのかを明示して承認者に返します。

AIは、チェック結果を返すだけです。承認・差戻しの判断は、これまで通り承認者が行います。AIが自動で承認することはありません。

「安心して使える」ための、3つの設計

この案件でいちばん時間をかけたのは、機能ではなくここでした。

論点やったことなぜ
AIに件数を作らせないERPから取得した行は、AIに渡す前にシステム側で表に整形。AIにはその表を逐語でコピーさせるよう、プロンプトで強制しています「該当は42件です」とAIが数え間違える、あるいは作文することを、構造的に防ぐため
個人情報は項目単位でマスク管理者が指定した列だけを、セル単位で復元可能なトークンに置き換え。AIはマスク済みの表しか見ません。表示の直前に復元します文脈からの推測に頼らず、どの列を守るかを人が決められるようにするため
会社ごとに完全分離会社ごとのERP接続先とトークンを保持し、すべての検索に会社の識別子を付与。承認チェック用のエージェントは、使えるツールを限定して通常のツール群から分離しています1つの基盤を複数社で使っても、データも判断ルールも混ざらないようにするため

加えて、エージェントは読み取り専用です。ERPのデータを更新することはありません。取得したデータをAI側のデータベースに書き込むこともしません。

AIに渡す前に、表の整形・個人情報のマスク・用語の置き換えを済ませる出力パイプラインの図。
AIが触れるのは、すでに整形・マスクされた表だけです。生データには届きません。 (横にスクロールできます)

規模と構成

機能数34機能(システム管理・テナント管理・エンドユーザーの3ロール)
画面数34画面
ERP連携ツール13種(伝票検索8・財務検索3・突合1・帳票出力1)
管理API40以上
技術構成FastAPI(非同期)/ OpenAI Agents SDK / React・TypeScript・Vite / PostgreSQL(pgvector)/ AWS S3・Lambda / Terraform
成果物設計書 全21章(アーキテクチャ・データモデル・権限マトリクス・個人情報マスキング設計・エラーコード一覧・ライセンス一覧・ユースケース別フローチャート)

その後 ― 音声入力のご提案

運用が見えてきた段階で、「毎回プロンプトを手で打つのが負担」という声をいただきました。そこで、日本語に特化した音声認識モデルをローカルに載せる構成をご提案しています。

  • 既存サーバに同居させます。新規GPUの追加は不要です(INT8で1〜2GBのVRAM、CPUのみでも4〜8コアで動作します)
  • 短い指示なら1〜3秒でテキスト化。話してすぐ、レポートの実行へ進めます
  • 音声も社外に出しません。音声認識APIの従量課金も発生しません
  • 業務用語の誤認識は、社内用語の辞書とLLMによる正規化の2層で吸収します

CASE 02

記帳代行の判断を、画面の上に乗せる。

お客様
記帳代行・会計コンサルティング会社様
当社の担当範囲
UI/UX設計
RAGシステムの利用者インターフェース
領域
社内知識の検索・活用(RAG)
時期
2025年4月 ― 2026年3月

課題

記帳代行のご担当者が、日々こういう時間を使っていました。

  • お客様からの問い合わせに答えるのに、時間がかかる
  • 勘定科目や税区分の判断に、時間がかかる
  • 担当者によって判断が違う。属人化している
  • 法令や社内ルールを調べ直すのに、時間がかかる

会計ソフトと、お客様から届くPDF・CSVを横断して、「この支出はどの科目か」「この扱いは今の法令で合っているか」に答える仕組みが必要でした。お客様は、質問を受けて検索し、絞り込んでから回答を作る階層型のRAG構成を構想されていました。

私たちが担当したこと

当社は、この構想のUI/UX設計を担当しました。

RAGは、精度を上げれば上げるほど「もっともらしい答え」を返します。記帳代行のように、間違いがそのままお客様の決算に乗る業務では、答えの正しさよりも、担当者が自分で検証できるかどうかのほうが効いてきます。そこで設計の軸を、こう置きました。

AIが判断を代行するのではなく、担当者が5秒で確かめられる画面にする。

利用者主に使う機能設計上、いちばん気をつけたこと
記帳代行担当者自動仕訳候補の提示、財務データの検索・要約仕訳候補は必ず根拠とセットで出す。候補を鵜呑みにできる画面にしない
カスタマーサービス担当者問い合わせへの自動回答そのままお客様に転送できる回答と、社内確認が要る回答を、画面の上で区別する
経営層・役員顧客別レポート(月次報告・キャッシュフロー)数字より先に「どこが前月と違うか」が目に入る構成にする
従来と導入後の比較図。導入後もAIは候補と根拠を出すだけで、判断するのは担当者。
変えたのは調べる時間だけで、判断する人は変えていません。 (横にスクロールできます)

このシステムが目指したのは、浮いた時間を削減で終わらせないことでした。経営分析、創業支援、資金調達の相談といった、人にしかできない仕事に振り向ける。画面設計も、そこから逆算しています。

CASE 03

操作できない人のための、AIコンシェルジュ。

お客様
介護・見守りサービス事業者様
領域
ライフサポートサービス基盤の基本設計
状況
2025年7月より本番稼働、運用保守も継続
時期
2024年12月 ― 2025年7月

課題

見守りサービスの利用者は、タブレットのメニューを操作できない方です。文字が小さい、階層が深い、そもそも機器が怖い。便利な機能を足すほど使われなくなる、という矛盾がありました。

支援する側も、人手で回していました。安否確認は電話か訪問。転倒や異常は、起きたあとに気づく。

私たちが設計したこと

話しかけるだけで、全部動く。タブレット上のアバター(AIコンシェルジュ)に話しかけると、下に挙げたサービスすべてを呼び出せる構成にしました。機器が苦手な方のために、同じ操作をタッチパネルからもできるよう二重化しています。

アバターは季節・日時・曜日・喜怒哀楽をカテゴリー別に持ち、状況に応じて話し方を変えます。生成AIと音声解析を「高度な分析」ではなく「入口」として使ったのが、この案件の特徴です。

AIコンシェルジュを中心に、ヘルスケア・コミュニティ・自立支援・ウェルネスの機能が並ぶ構成図。緊急時は優先順位をつけて人へ通報する。
入口はひとつ。緊急時も、AIが対処するのではなく、決めた順番で人を呼びます。 (横にスクロールできます)

機能

ヘルスケア健康管理(スマートウォッチのセンサーで計測し、過去データと対比。ご本人と管理者へ通知、傾向を可視化)/リハビリ・認知・脳ケア(アバターと一緒に体操・脳トレ)/服薬管理(服薬時刻に声かけ、カメラで撮影して服薬の有無を判定)
自立支援緊急事態検知通報(転倒検知・指定エリア外検知 → 優先順位を設定した連絡先へ:ご家族 → 見守り責任者 → 公共機関)/移動・交通(音声で住所を指定してオンデマンドバス・タクシーを配車、行き先は5件まで登録)/買い物(ネットスーパーの注文・配送)
コミュニティ簡易型テレビ電話(双方向、映像のオン・オフ可)/伴走支援(世間話・カラオケ・クイズ・レクリエーションを質問形式で)/安否確認(離れて暮らすご家族や、施設の点呼にも対応)
ウェルネス家電のリモートコントロール(スマートリモコン経由)

16機能・5つの利用者ロール(システム管理者/会社/監督者/ご利用者/スマートウォッチ)について、システム構成図・機能一覧・画面遷移図・ER図・テーブル設計・ロール別の画面レイアウト・健康情報仕様書まで、基本設計を一式作成しました。

ここでも設計原則は同じです。AIは判断しません。転倒を検知したらAIが対処するのではなく、決めた優先順位に従って人を呼びます。健康データの傾向は表示しますが、診断はしません。

HOW WE WORK

3案件に共通していること。

3つの案件は、業種も技術構成もまったく違います。基幹システムはクラウドAI、介護基盤も生成AIの利用、会計は社内知識の検索。すべてをローカルAIで組んだわけではありません。

私たちは、外に出せないデータがある業務にだけローカルAIをご提案します。クラウドAIで足りる業務に、わざわざローカルを持ち込むことはしません。どちらも手がけているからこそ、「そもそもどちらが要るのか」から一緒に判断できます。

共通しているのは、3点だけです。

AIに、数字を作らせない。

件数も金額も、システム側で確定させてからAIに渡します。AIの仕事は、確定した数字に言葉を添えることです。

AIに、最終判断をさせない。

承認するのは承認者。仕訳を確定するのは担当者。緊急時に動くのは人。AIは、その判断が速くなるように材料を揃えます。

設計書を、残す。

動くものだけをお渡しして終わりにはしません。判断の根拠も構成も文書にします。あとから別の会社が引き継げる状態が、私たちの完成形です。

「AIが間違えたら」から、ご一緒します。

お困りごとが、この3件のどれかに似ているようでしたら、まずはお話をお聞かせください。ご相談・調査・お見積りまで、費用はいただきません。結論が「AIを入れないほうがよい」であっても、その理由を文書でお渡しします。

エスケージージャパン株式会社 東京都渋谷区代々木1-32-11 Kビル7F 080-6653-3473 sales@skg.com.vn