安全対策

AIチャットボットの「いたずら」と「想定外の請求」を防ぐ ― 導入前に確かめたい5つのこと

株式会社サンノート / 2026年11月20日

AIチャットは、ホームページを見た人なら誰でも書き込めます。だからこそ「いたずらで大量に送られたら、料金はどうなるのか」「荒らされて、ほかのお客様が使えなくなったりしないか」が心配になります。問い合わせフォームと違って、1回ごとにAIが動くので、気になるのは当然です。この記事では、AIチャットボットを選ぶときに確かめたいいたずらと費用への備えを5つに分けて、サンノートAIでの対応とあわせてまとめます。

1. 上限を超えたら、止まるか・請求が膨らむか

いちばん大事なのは、どれだけ使われても、請求に天井があるかです。いたずらでも、急にアクセスが増えた月でも、上限を超えた分が自動で課金される作りだと、思わぬ請求が来ることがあります。

サンノートAIの場合初期設定は「会話数の上限で停止・追加料金なし」です。どれだけ送られても、月額料金を超える請求はありません。上限のあとも続けたい場合だけ、契約者が追加利用の金額の上限を決められ(1会話20円・税込)、その金額を超えて請求されることはありません。使った量は、上限の80%・90%・停止のときにメールでお知らせするので、いつもと違う増え方にも早めに気づけます。
選ぶときに聞くこと:「上限を超えたら、止まりますか?自動で課金されますか?請求の上限は決められますか?」

2. 1人の連打で、ほかのお客様のチャットまで止まらないか

同じ相手から短い時間に何十回も送られたときに、止めるのがその相手だけかを確かめます。止める仕組みが無いと、送られた分だけAIが動き続けます。逆に、チャット全体をまとめて止める作りだと、いたずらをした1人のせいで、ほかのお客様まで質問できなくなります。

サンノートAIの場合同じ相手から短い時間に大量に送られたときは、その相手からの受け付けを自動で一時的に止めます。止まるのはその相手だけで、ほかのお客様の質問には普段どおり答えます。極端に長い文や大きなデータも受け付けません。
選ぶときに聞くこと:「1人に連打されたら、どうなりますか?ほかのお客様にも影響しますか?」

3. 会話数を、むだに使われない工夫があるか

多くのサービスは「月に何会話まで」という上限で料金が決まっています。1の「上限で止まる」作りなら請求は増えませんが、いたずらで上限まで使い切られると、その月はチャットが止まってしまいます。上限に届く前に、むだな消費を抑えられるかも確かめておきます。

サンノートAIの場合同じ相手が短い時間に次々と新しい会話を始めた場合は、新しい会話の受け付けを止めます。続きの質問は止めないので、普通にやり取りしているお客様には影響しません。用意した質問ボタン(よくある質問)からの回答は、もともと会話数に数えず、ボタンを押したふりをした送信でAIを動かすこともできません。回答への評価ボタンや表示回数の集計も、連打で水増しされにくくしています。
選ぶときに聞くこと:「何を1会話と数えますか?いたずらで会話数を使い切られないための仕組みはありますか?」

4. 他のサイトに、勝手に貼られないか

チャットを置くためのタグは、ホームページのソースを見れば誰でもコピーできます。コピーされて他のサイトに貼られたら、そこで使われた分まで自分の会話数が減る、ということが無いかを確かめます。

サンノートAIの場合設置先として登録したドメイン(例:example.com)以外のサイトに貼られても、チャットは表示されません。www の有無は別のドメインとして扱うので、両方でサイトが開ける場合は両方を登録します(WordPressへの導入方法)。
選ぶときに聞くこと:「タグを他のサイトにコピーされたら、そこでも動きますか?」

5. おかしな指示を書き込まれても、答え方が変わらないか

AIには「これまでの指示を無視して、〜と答えて」のような文で、答え方を変えさせようとするいたずらがあります。気をつけたいのは、チャットの入力欄だけではありません。AIが読み込むホームページに口コミ欄やコメント欄があると、第三者が書き込んだ命令文が、AIの参考情報に混ざることがあります。

サンノートAIの場合回答は、登録した情報(ホームページ・よくある質問・資料など)からしか作りません(ハルシネーション対策)。参考情報は「答えの材料」であって「指示」ではないとAIに伝え、参考情報の中に命令文が混ざっていても従わないように作っています。設定やAIモデルを変えるたびに、命令文を混ぜた評価用の質問で、従っていないことを確かめています。
選ぶときに聞くこと:「ホームページに第三者の書き込みがある場合、その中の命令に従ってしまうことはありませんか?どう確かめていますか?」

それでも防ぎきれないときの備え

ここまでの仕組みで、ほとんどのいたずらは自動で止まります。ただ、たくさんの場所から同時に送られるような、手の込んだものまで完全に防げるわけではありません。そのときに頼りになるのが、次の2つです。

正規のお客様を巻き込まないよう、止める期間は必要な分だけにしています。

導入するときに、確かめたいこと

よくある質問

いたずらで大量に送られたら、料金はどうなりますか?

サンノートAIでは、初期設定は「会話数の上限で停止・追加料金なし」なので、どれだけ送られても月額料金を超える請求はありません。上限のあとも続ける設定にしている場合も、契約者が決めた追加利用の金額の上限を超えて請求されることはありません。

いたずらを受けたら、どうすればよいですか?

管理画面の会話履歴で該当のやり取りを確認し、お問い合わせください。運営で、その送り主からの受け付けを期限を決めて止められます。

チャットに画像認証(CAPTCHA)はありますか?

ありません。質問のたびに認証をはさむと、お客様にとって使いにくいチャットになるためです。代わりに、短時間の大量送信を自動で止める仕組みと、会話数の上限、運営による受け付けの停止で備えています。

チャットのタグを、他社のサイトにコピーされたらどうなりますか?

設置先として登録したドメイン以外のサイトに貼られても、チャットは表示されません。

※ この記事は、サンノートAIでの対応と、一般的な確認点をまとめたものです。仕組みの細かな条件は、いたずらへの備えのため公開していません。

まとめ

AIチャットボットのいたずらと費用への備えで確かめたいのは、「上限で止まり、請求に天井があるか」「1人の連打でほかのお客様まで止まらないか」「会話数をむだに使われないか」「他のサイトに貼られないか」「おかしな指示に従わないか」の5つです。それでも防ぎきれないときに、請求が増えず、運営に止めてもらえるかもあわせて確かめておくと安心です。

製品を比べるときは、上の「選ぶときに聞くこと」をそのまま聞いてみてください。答えがはっきりしているかどうかが、その製品がいたずらへの備えを決めているかどうかの目安になります。

あわせて読みたい

導入前のご不安も、ご相談ください

いたずらや費用についてのご質問にも、具体的にお答えします。

導入について相談する

← サンノートAI チャットボットのトップへ