「AIに学習させない設定にしたから安全」──その思い込みが危ない理由
「AIに入れた情報は学習に使われる、と聞いたので、設定でオフにしました。これで顧客のデータを入れても大丈夫ですよね?」
こうした質問を受けることがあります。学習をオフにするのは、それ自体としては正しい対策です。でも、実はこれだけでは足りません。今日は、意外と見落とされがちな、もう一つの論点についてお話しします。
気にすべきことは、実は2つある
AIに情報を入れるとき、確認すべきことは2つあります。多くの方は、これを1つだと思っています。
1つ目は、「学習に使われるか」。 入力した内容が、AIを賢くする材料として使われるかどうか。これは設定を変えたり、ビジネス向けの使い方をしたりすることで対処できます。世間でよく話題になるのは、こちらです。
2つ目は、「他人の個人情報を、外部に送ってよいか」。 こちらは、学習に使われるかどうかとは無関係です。学習に使われなくても、「他人の個人情報を、外部のサービス（多くは海外にあります）に送信した」という事実そのものが問われます。
たとえるなら、1つ目は「預けた荷物の中身を、勝手にコピーされないか」という話。2つ目は「そもそも、他人の荷物を勝手に外へ持ち出していいのか」という話です。まったく別の問題だと分かると思います。
学習オフの設定は、1つ目には効きます。でも、2つ目には何の関係もありません。ここが、見落とされがちなポイントです。
「自社のデータ」のつもりが、他人の情報だった
具体例を挙げます。
「レシートや領収書をAIに読ませて、経理を楽にしたい」。よくあるニーズです。自社の経費データですから、自社の情報を扱っているつもりになります。
でも、レシートに載っているのは、自社の情報だけでしょうか。取引先の会社名、店舗名、時には担当者の名前まで載っています。これらは、他人の情報です。
つまり、自分では「自社の経理データ」を扱っているつもりでも、中身には他人の情報が混ざっている。これを外部のAIサービスに送ると、先ほどの2つ目の問題が起こりえます。「学習オフにしたから安全」では済まない理由が、ここにあります。
同じことは、名刺、請求書、契約書、問い合わせメールにも当てはまります。仕事の書類の多くには、誰かの名前が入っているものです。
私自身も、思い込んでいました
ここで正直にお話しすると、私自身、この分野で一つ思い込みをしていました。
「仕事用の高度なツールを使っているのだから、当然、仕事用のルールが適用されているはずだ」と考えていたのです。でも、実際は違いました。どのルールが適用されるかは、使っているツールの種類ではなく、どのプランで契約しているかで決まります。個人向けのプランで契約していれば、どんなに専門的な使い方をしていても、適用されるのは個人向けのルールです。
こうした思い込みは、誰にでも起こります。だからこそ、「自分は大丈夫」と思っているときほど、一度、自分がどのプランで契約しているかを確認してみる価値があります。なお、こうしたルールの内容は変わることがあります（実際、過去にも変更がありました）。ときどき見直しておくと安心です。
まずは「他人の情報が入っていないか」を意識するだけでも
では、どうすればいいのか。
最初の一歩は、AIに何かを入れる前に、「この中に、他人の名前や会社名が入っていないか」と一度意識することです。それだけでも、大きな前進です。
含まれている場合の備えとしては、名前などの個人が特定できる部分を伏せてから使う、という方法があります。「A社」「B様」に置き換えてから読ませる、という、これまでの記事でもお伝えしてきたやり方です。
「専門家でも結論が出ていない」からこそ、安全側に
最後に、正直にお伝えしておきたいことがあります。
この2つ目の論点——他人の個人情報を海外のサービスに送ることが、法律上どう整理されるのか——について、私は複数の専門家に確認を進めてきました。その結果として言えるのは、この領域は、明確な結論がまだ固まっていない、ということです。
だから私は、自分の仕事では安全側に寄せる運用をしています。判断が難しい領域だからこそ、「たぶん大丈夫だろう」ではなく、「伏せてから使う」を基本にする。結論が出ていない以上、それが一番確実だと考えているからです。
「大丈夫です」と言い切る方が、聞く側は安心するかもしれません。でも、分かっていないことを断定するのは、誠実ではないと思っています。
まとめ
「学習に使われないこと」と「他人の個人情報を扱ってよいか」は、まったく別の問題です。前者をクリアしても、後者は残ります。
AIは便利ですが、「何を入れていいか」の線引きは、業種や扱う情報によって変わります。自社の場合はどこまで気をつければいいか迷ったら、お気軽にご相談ください。