前回「士業事務所のAI利用ルールが「気をつける」で終わってしまう理由」では、AI利用の対策の多くが「送ったあとにどう扱われるか」に依存していること、そのなかで「そもそも送っていない」だけが事務所側の設計で完結する説明になることを整理しました。
今回はその「送らない」を、どう作るかという話です。自社で士業向けの業務ツールを作る過程で採った判断を、そのまま設計の考え方として書きます。たとえば職員45名規模の司法書士法人が扱う登記申請書類の下書きのように、入力される項目があらかじめ決まっている業務では、この設計がよく効きます。
なお本記事は業務設計の一般的な考え方の紹介であり、個別事案の適法性判断ではありません。実際の運用は、所属士業会の最新指針や顧問弁護士の見解、AIベンダーの最新の利用規約とあわせてご確認ください。
自由入力欄がある限り、何が入るかは防げない
最初に検討したのは、入力欄をどうするかでした。
一般的なAIツールは自由入力欄を持っています。使い方が広がる代わりに、そこに何が書かれるかを事前に決められません。職員が顧客名を貼ることもあれば、相談メモを丸ごと貼ることもあります。
さらに、自由入力欄は指示の上書き (プロンプトインジェクション) の入口にもなります。入力文の中に「これまでの指示を無視して」といった文を混ぜることで、想定と違う動作を引き出せる場合があります。この種の攻撃は、検査ルールを足していく形では追いつきません。書ける内容が無限にあるためです。
そこで採ったのは、自由入力欄を無くすという判断でした。
- 受け取るのは日付・数値・選択肢だけ
- AIに渡す指示文は、こちら側で組み立てる
- 職員が文章を書き込む場所を作らない
入力欄を無くせば、そこから入る問題は経路ごと消えます。検査を増やして防ぐより確実で、しかも作りは単純になります。
制約は当然あります。 想定していない業務には使えません。「どんな相談にも答えるAI」にはなりません。ただ、登記申請・許認可申請・給与計算のように定型的な判断を数多くこなす業務では、入力される項目はもともと決まっています。決まっているものを自由に書かせる必要は、実はあまりありません。
名称は「伏せる」のではなく「渡さない」
もう一つの判断が、事業場名・顧客名の扱いです。
前回書いたとおり、氏名や屋号は形が決まっていないため、機械で見つけて落とす方式では取りこぼしが残ります。そこで採ったのは、次の形でした。
1.受け取った名称を、内部の記号 (「事業場A」など) に置き換える 2. AIには記号のまま渡す 3.返ってきた文章の記号を、元の名称に戻してから画面に出す
AIから見えるのは記号だけです。名称は事務所の側から出ていきません。文章としては正しく名前入りで仕上がります。
この形にすると、名称の欄に何を書かれても、AIには届きません。実際に名称欄へ指示の上書きを試みる文字列を入れて動かし、結果が変わらないことを確認しています (自社実装での確認)。入力欄を無くした効果と、名称を渡さない効果が重なっている状態です。
形の決まったものは、受け取った時点で落とす
名称以外の個人情報については、受け取った時点で機械的に落とす処理を前に置きました。対象は形が決まっているものだけです。
- 電話番号
- メールアドレス
- 郵便番号
- 桁数の決まった番号 (法人番号など)
- 口座番号らしき数字の並び
- 敬称のついた氏名
ここで大事なのは、落としたことを画面に出すことです。黙って書き換えると、職員は自分が何を入力したのか分からなくなります。「この部分を除いて処理しました」と見えている方が、事務所として説明できます。
そして、この処理で氏名や屋号が拾えるとは言えません。形がないからです。だからこそ、名称は前段の「渡さない」設計で守る、という二段構えになります。
事務所がツールを見るときの確認項目
自分の事務所で使うツールを見るとき、この記事の観点はそのまま確認項目になります。この4点を1枚のメモにして、今使っているツール、あるいは検討中のツールに一つずつ当ててみてください。
| 確認すること | 望ましい答え |
|---|---|
| 自由に文章を書ける欄があるか | 無い、または業務に必要な範囲に絞られている |
| 顧客名は外部に送信されるか | 送信されない (置き換えている) |
| 個人情報を入力したとき、どうなるか | 除いたことが画面に表示される |
| 除ける情報の種類は何か | 答えられること自体が重要。「すべて」と答える相手は確認していない可能性がある |
4つ目が実務では効きます。できないことを答えられるかどうかが、確認の質を映します。この点は連載の4本目で改めて扱います。
使い勝手との兼ね合い
自由入力欄を無くすと、当然できることは減ります。この判断が向くのは、次のような業務です。
- 入力する項目が、もともと決まっている (登記申請・許認可申請・チェック業務)
- 同じ形の作業を、件数多く繰り返す
- 出てくる答えの形も決まっている
司法書士法人の登記申請書類のように、対象物件・当事者・登記原因といった項目があらかじめ決まっている業務は、この設計と相性が良い代表例です。逆に、内容が毎回異なる相談対応や調査業務では、この作り方は合いません。業務ごとに向き不向きがあるという前提で、向いている業務から先に設計を変えていくと、事務所全体でも無理なく進められます。件数の多い定型業務から始めるほど、早く効果を実感しやすくなります。
次回は、「そもそも生成AIを使わなくてよい部分」の切り分けについて書きます。法令で決まっていることは計算で答えが出るため、生成AIに任せる必要がありません。