AI体験記 Vol.22では、プライバシーを守るためにMac上へ作ったAIの部屋に、もう一段の囲いを設けた記録を紹介します。 囲いの仕組みや動作確認の方法、通信を制限する追加策、導入時に残った課題を整理し、自分の環境で安全性を確かめるための考え方もお伝えします。
プライバシーを守るための囲いとは
前回までに、AIを普段使いの環境から分けた別ユーザーで動かし、AIの記憶にあたるデータを保護する仕組みを整えてきました。けれども、ユーザーを分けるだけでは、AIが起動したプログラムの動作範囲まで細かく制限できるとは限りません。そこで今回は、macOSに備わるサンドボックス機構を使い、AIやAIが呼び出す道具を、許可した範囲の中で動かすことを目指しました。
この仕組みを、ここでは「囲い」と呼びます。macOSのサンドボックスは、プログラムごとにファイルへのアクセスや通信などを制限するための仕組みです。囲いのルールを設定ファイルに記し、そのルールに沿ってプログラムの行動を制限します。大切なのは、囲いを設けたという事実だけで安心しないことです。想定どおりにアクセスが拒まれるか、必要な機能は使えるかを、実際に確かめる必要があります。
囲いは、プライバシー対策のすべてを担うものでもありません。設定ミスや想定外の挙動があれば、制限が十分に働かない可能性があります。そのため、ユーザー分離やデータ保護といった既存の対策に追加する一層として考えました。一つの仕組みに頼り切らず、役割の異なる対策を重ねていくことが、今回の設計の出発点です。
囲いを目印にする方法
これまでAIの終了後に残っているプロセスを探す際は、プロセスに付けた目印を手がかりにしていました。しかし、macOSが管理するプログラムの中には、実行ユーザーの権限では目印を読み取れないものがあります。目印が見えない相手を一覧から探す方法では、AIが呼び出した処理を取りこぼすおそれがありました。
そこで着目したのが、個々の目印ではなく、そのプロセスが囲いの中にいるかどうかです。プロセスの環境情報が読めない場合でも、OSに所属を確認できるなら、囲いを基準にして関連する処理を見分けられます。AI本体だけでなく、AIが動かした道具も同じ囲いの中で起動する設計にすれば、後から残った処理の確認にも一貫した基準を使えます。
ただし、囲いの中にいるものをすべてAIの残りものとみなすのは危険です。実際に試すと、AIの処理と一緒にmacOSの裏方まで停止させてしまいました。ユーザーがログインすると、設定や認証情報などを扱うシステム側の処理も、そのユーザーに関連する形で動くことがあります。囲いへの所属だけで判定すると、こうした必要な処理まで誤って対象にしてしまうのです。
裏方を誤って止めないための見分け方
そこで、囲いへの所属に加えて、実行ファイルの置き場所も判定条件にしました。AIに使わせるプログラムを置いた場所は限定し、システムのプログラムが存在する領域とは分けます。プロセスの顔ぶれを固定の一覧にして除外する方法も考えられますが、OSの更新などで裏方の種類が変われば、一覧が古くなる可能性があります。
判定の考え方を整理すると、次のとおりです。
- 囲いの中で動いていることを確認する
- AIに許可した場所にあるプログラムかを確認する
- 両方の条件を満たす処理だけを、AI関連として扱う
- 対象を停止する前に、必要なシステム処理でないかを確認する
個別の名前を覚えるのではなく、比較的変わりにくい属性を組み合わせることで、環境の変化に対応しやすくなります。自動停止のように影響の大きい処理では、判定結果を記録して、最初は実際に停止させず確認だけを行う段階を設けるのも有効です。
囲いの中に住人を入れる前に試したこと
囲いは、設定ファイルを用意しただけでは完成ではありません。ルールに想定外の抜けがあるかもしれず、逆に必要な操作まで拒否しているかもしれないからです。そこで、AI本体を本格的に動かす前に、囲いが適切に働くかを確かめる自己点検を作りました。ファイルを読めるか、書けるか、外部へ通信できるかなど、実際の利用に関わる動作を検査対象にします。
点検では、特に「囲いの中で失敗した」という結果だけを合格扱いにしないようにしました。もともと機能が使えない環境だった場合、囲いが拒否したのか、サービス自体が動いていないのかを区別できないためです。同じ操作を囲いの外と中で試し、外では成功し、中では拒否されることを確かめます。この比較によって、制限が原因で拒否されたと判断しやすくなります。
最初の点検では、印刷関連の確認で判定に迷う結果が出ました。囲いの外でも印刷の受け口が動いておらず、内側で失敗した理由が囲いによるものか判断できなかったのです。そこで、単純な成功・失敗だけでなく、返されたエラーの種類も確認するようにしました。外側では受け口がないというエラー、内側ではアクセス制限による拒否という違いを見分けられれば、制御の効果を評価できます。
結果として、当初は52項目の自己点検を用意し、すべて合格、失敗ゼロ、判定不能ゼロとなる状態まで調整しました。ここでいう合格は、あらゆる危険がなくなったという意味ではありません。定めた試験項目に対して、期待した動作が確認できたという意味です。試験範囲を明確にし、未確認の項目を合格に見せない姿勢が重要だと感じました。
囲いの設定ファイルを改ざんから守る
囲いの強さは、ルールを記した設定ファイルが正しいことを前提にしています。もしファイルが意図せず書き換わっていたり、読み込めなくなっていたりすれば、以前に試験したときと同じ制限が働く保証はありません。設定内容が変わったことに気づかないままAIを起動すれば、囲いがあると思い込んでしまう危険があります。
そこで、正常な設定ファイルのハッシュ値をあらかじめ記録し、起動前に現在のファイルから計算した値と照合する方法を取り入れました。ハッシュ値は、ファイルの中身から計算する指紋のようなものです。ファイルに空白を一つ加えるだけでも通常は値が変わるため、意図しない変更を検知する手がかりになります。設定ファイルが見つからない場合や読み込めない場合も、検査を通過させず、起動を止める設計にします。
この確認で分かるのは、登録したファイルと現在のファイルが一致しているかどうかです。ハッシュ値の照合だけで、最初に登録した設定が安全だったと証明できるわけではありません。基準となる値の保管場所が書き換えられれば、照合の意味も薄れます。そのため、設定の変更手順を限定し、変更したときは内容を確認してから新しい値を登録する運用が欠かせません。
実装時には、起動のたびに確認することも大切です。一度だけチェックして、その後にファイルが変わる可能性を放置しては意味がありません。設定の変更履歴を残し、誰がいつ何を変えたかを追えるようにすれば、問題が起きた際の調査にも役立ちます。囲いのルールを守る仕組みと、ルール自体の完全性を確かめる仕組みは、セットで考える必要があります。
もう一枚の網として通信を制限する
サンドボックスの囲いを設けても、万一ルールに穴があった場合の備えは必要です。そこで追加の対策として、macOSに備わる通信制御機能pfを使い、AIを動かすユーザーから外へ出ていく通信を制限する方針を立てました。囲いがプログラムの行動範囲を管理するのに対し、pfはネットワークの出口で通信を制御します。役割の異なる仕組みを重ねることで、一方の設定ミスをもう一方で補える可能性があります。
運用上は、AIが必要とする通信先だけを許可し、それ以外の通信を止めることを目指します。ただし、通信ルールは環境ごとに調整が必要です。OSのバージョンや使用するAIの接続先、名前解決などの仕組みによって必要な通信が変わるため、許可先を安易に広げるのではなく、実際に必要なものを記録してから設定します。広すぎる許可は、通信制限の効果を弱めてしまいます。
また、遠隔から操作するMacで通信設定を変えると、自分自身の接続まで遮断する危険があります。設定を適用する前に、一定時間が経過したら変更を解除する仕掛けを用意し、元に戻ることを確認してから試験するのが安全です。設定を間違えても復旧できる手段を先に作ることは、遠隔管理では特に重要です。自己点検にも通信制御の確認を追加し、項目数を53に増やしました。
一方で、すべての通信を利用者単位で同じように制御できるわけではありません。この構成では、pingに使われる通信がTCPやUDPとは異なる扱いとなり、想定したユーザー単位の制限が及ばない部分が残りました。囲いの中のAIから簡単に実行できないことも踏まえ、今回はその制約を記録し、リスクと運用上の負担を比較して受け入れる判断をしました。制限できない点を隠さず明示することも、安全な設計の一部です。
まだ残っている課題と運用上の注意点
今回の自己点検では、囲いの動作や通信制御を一定の条件で確認できました。しかし、Macを再起動した後も同じ状態が自動で再現されるかは、別に確かめる必要があります。特に遠隔管理の環境では、ログイン前後で動く処理やネットワーク設定の適用タイミングが異なる場合があります。再起動後の確認をせずに、通常運転時の試験結果だけで十分と考えるのは危険です。
また、自己点検の合格は、試した範囲に限った結果です。新しいAIツールを追加したり、許可するフォルダや接続先を変更したりすれば、以前の結果をそのまま適用できません。変更後には、自己点検をやり直し、外側と内側の比較が成立しているかを確認します。特に、外側でも失敗する試験は、制限が効いた証拠として扱わず、環境要因を調べる必要があります。
安全性と使いやすさのバランスも課題です。厳しく制限すれば、AIが必要なファイルにアクセスできず、作業が止まることがあります。そこで、許可範囲を広げるときは、理由と対象を記録し、変更後に関連する試験を実施します。動かないからといって、設定全体を緩めるのではなく、どの操作に何が必要なのかを小さく切り分けることが大切です。
今回の記録では、再起動後の動作など、まだ確認できていない点を残しています。未確認を未確認のまま扱い、後日、画面の前で試験できるタイミングに検証する予定です。プライバシーを守る仕組みは、一度組み上げたら終わりではありません。OSの更新や構成変更に合わせて点検し、どこまで確かめたかを記録し続けることが、安心して使うための現実的な運用になります。
まとめ
AI体験記 Vol.22では、プライバシーを守るために用意したAIの実行環境へ、macOSのサンドボックスによる囲いを追加しました。プロセスに付けた目印だけに頼らず、囲いへの所属とプログラムの置き場所を組み合わせることで、AIの処理とmacOSの裏方を見分けやすくしました。
さらに、外と中で同じ操作を試す自己点検を作り、囲いが実際に拒否したことを確認しました。設定ファイルのハッシュ照合で変更を検知し、pfによる通信制限も加えて、異なる役割を持つ対策を重ねています。
一方で、試験に合格しても未確認の項目や仕組み上の制約は残ります。再起動後の確認、設定変更時の再試験、遠隔操作時の復旧策など、運用の中で確かめ続けることが欠かせません。安全性を高めるには、囲いを作るだけでなく、何を防げて何が未確認なのかを把握し、定期的に点検することが重要です。

ご質問はコメント欄からお願いします