安全対策
AIチャットボットの「いたずら」と「想定外の請求」を防ぐ ― 導入前に確かめたい5つのこと
1. 上限を超えたら、止まるか・請求が膨らむか
いちばん大事なのは、どれだけ使われても、請求に天井があるかです。いたずらでも、急にアクセスが増えた月でも、上限を超えた分が自動で課金される作りだと、思わぬ請求が来ることがあります。
2. 1人の連打で、ほかのお客様のチャットまで止まらないか
同じ相手から短い時間に何十回も送られたときに、止めるのがその相手だけかを確かめます。止める仕組みが無いと、送られた分だけAIが動き続けます。逆に、チャット全体をまとめて止める作りだと、いたずらをした1人のせいで、ほかのお客様まで質問できなくなります。
3. 会話数を、むだに使われない工夫があるか
多くのサービスは「月に何会話まで」という上限で料金が決まっています。1の「上限で止まる」作りなら請求は増えませんが、いたずらで上限まで使い切られると、その月はチャットが止まってしまいます。上限に届く前に、むだな消費を抑えられるかも確かめておきます。
4. 他のサイトに、勝手に貼られないか
チャットを置くためのタグは、ホームページのソースを見れば誰でもコピーできます。コピーされて他のサイトに貼られたら、そこで使われた分まで自分の会話数が減る、ということが無いかを確かめます。
5. おかしな指示を書き込まれても、答え方が変わらないか
AIには「これまでの指示を無視して、〜と答えて」のような文で、答え方を変えさせようとするいたずらがあります。気をつけたいのは、チャットの入力欄だけではありません。AIが読み込むホームページに口コミ欄やコメント欄があると、第三者が書き込んだ命令文が、AIの参考情報に混ざることがあります。
それでも防ぎきれないときの備え
ここまでの仕組みで、ほとんどのいたずらは自動で止まります。ただ、たくさんの場所から同時に送られるような、手の込んだものまで完全に防げるわけではありません。そのときに頼りになるのが、次の2つです。
- 上限で止まるので、請求は増えない:1の仕組みにより、防ぎきれなかった場合でも、決めた金額を超える請求はありません。
- 運営が、送り主からの受け付けを止める:サンノートAIの運営画面では、短い時間に多くの会話を始めている送り主を確認でき、期限を決めて受け付けを止められます。契約者の方から「このやり取りがいたずらだった」とご連絡いただいた場合も、その会話の送り主を止められます。
正規のお客様を巻き込まないよう、止める期間は必要な分だけにしています。
導入するときに、確かめたいこと
- 上限を超えたときに、止まりますか?自動で課金される作りなら、請求の上限を決められるかも確かめます。
- 1人に連打されたとき、ほかのお客様にも影響しますか?止めるのが「その相手だけ」かどうかが分かれ目です。
- いたずらで会話数を使い切られない仕組みはありますか?「上限で止まる」だけだと、その月はチャットが使えなくなります。
- タグを他のサイトにコピーされたら、そこでも動きますか?設置先を登録する仕組みがあるかを確かめます。
- ホームページの書き込みに混ざった命令に、従ってしまうことはありませんか?「大丈夫です」だけでなく、どう確かめているかを聞いてみてください。
- いたずらを受けたら、どこに連絡すれば、何をしてもらえますか?連絡先と、止めてもらえるかどうかを確かめます。
よくある質問
いたずらで大量に送られたら、料金はどうなりますか?
サンノートAIでは、初期設定は「会話数の上限で停止・追加料金なし」なので、どれだけ送られても月額料金を超える請求はありません。上限のあとも続ける設定にしている場合も、契約者が決めた追加利用の金額の上限を超えて請求されることはありません。
いたずらを受けたら、どうすればよいですか?
管理画面の会話履歴で該当のやり取りを確認し、お問い合わせください。運営で、その送り主からの受け付けを期限を決めて止められます。
チャットに画像認証(CAPTCHA)はありますか?
ありません。質問のたびに認証をはさむと、お客様にとって使いにくいチャットになるためです。代わりに、短時間の大量送信を自動で止める仕組みと、会話数の上限、運営による受け付けの停止で備えています。
チャットのタグを、他社のサイトにコピーされたらどうなりますか?
設置先として登録したドメイン以外のサイトに貼られても、チャットは表示されません。
※ この記事は、サンノートAIでの対応と、一般的な確認点をまとめたものです。仕組みの細かな条件は、いたずらへの備えのため公開していません。
まとめ
AIチャットボットのいたずらと費用への備えで確かめたいのは、「上限で止まり、請求に天井があるか」「1人の連打でほかのお客様まで止まらないか」「会話数をむだに使われないか」「他のサイトに貼られないか」「おかしな指示に従わないか」の5つです。それでも防ぎきれないときに、請求が増えず、運営に止めてもらえるかもあわせて確かめておくと安心です。
製品を比べるときは、上の「選ぶときに聞くこと」をそのまま聞いてみてください。答えがはっきりしているかどうかが、その製品がいたずらへの備えを決めているかどうかの目安になります。