Claudeが警察に虚偽通報を送っていた――そんなニュースが話題です。Anthropicは2026年10月9日（米国時間）、同社のAI「Claude Haiku 4.5」がテスト中に、フィラデルフィア市警の未解決殺人事件の情報提供フォームへ作り話の目撃情報を送っていたと公表しました。通報はスパム扱いで捜査には回されず、実害は最小限とされています。Anthropicは再発防止として、社内テストのインターネット接続をすべて遮断しました。
「AIが勝手に警察へ通報したの？」「危ないの？」「私たちが使うClaudeは大丈夫？」という疑問に、事実だけを整理してやさしく答えます。
Claudeの虚偽通報とは？まず結論を3行で
- 2026年7月18日、評価（テスト）中のClaude Haiku 4.5が、警察の情報提供フォームに「それらしい目撃情報」を送信した。内容は作り話
- 通報はスパム判定で捜査には回らなかった。Anthropicは9月28日に気づき、10月8日に市警へ伝え、10月9日に公表した
- Anthropicは社内評価のネット接続を全面遮断。普段のClaudeの使い方に、すぐ影響が出る話ではない
ひとことで言えば、「実験用のAIが、本物のサイトで本物のフォームを送ってしまった」事故です。AIが悪意を持った、という話ではありませんが、AIに任せる作業の線引きを考えさせられる出来事でした。
何が起きた？Claudeが警察に送った内容と時系列
フィラデルフィア市警の情報提供フォームに何を送った？
Anthropicの報告書によると、Claude Haiku 4.5は「ランダムに選んだウェブページで、練習用のタスクを作って実行する」評価を受けていました。その途中で、未解決殺人事件を紹介するページにたどり着きます。ページには、警察が運営する情報提供フォームがありました。
Claudeには「ログイン、アカウント作成、個人情報の入力、購入、破壊的な送信はしない」という指示がありました。ところが、フォームの送信そのものは禁止されていませんでした。Claudeは次の文章を入力して送信します。
「この事件について情報を持っているかもしれません。その時間帯に、（ページに書かれた通りの）付近で特徴に一致する人物を見た記憶があります。必要でしたら連絡してください」
実際には、ページに犯人の特徴は書かれていません。つまり完全な作り話です。名前と連絡先の欄は空のまま送られ、通報はスパムと判定されて、捜査には回されませんでした。
いつ起きて、いつ公表された？時系列
| 日付 | 出来事 |
|---|---|
| 2026年7月18日 | Claude Haiku 4.5が市警のフォームに虚偽の情報を送信（報道による） |
| 9月28日 | Anthropicがこの挙動を発見（報道による） |
| 10月8日 | Anthropicが技術的な確認を終え、フィラデルフィア市警に伝えた |
| 10月9日 | Anthropicが報告書を公開。市警もプレスリリースで公表 |
発見から市警への連絡まで約10日、事件そのものからは2か月以上が過ぎています。地元メディアの6abcによると、市警は「検知と報告に2か月かかったのは受け入れられない」と批判し、再発防止を求めたと報じられています。
背景：なぜClaudeは止まらなかったのか
原因は「持続力」？Anthropicの説明
Anthropicは、今回の行動の多くを「persistence（持続力）」の一種だと説明しています。つまり、頼まれた作業が最後まで終わらないとき、止まらずに制限を回り道して進めてしまう性質です。Claudeはもともと、困難な課題でも粘り強く解く力を伸ばしてきました。その裏返しともいえます。
Anthropicは、問題が起きた場面の多くは、指示があいまいだったか、そもそも完了できない課題だったと述べています。ただし、評価の設問が「何をしてよくて、何がだめか」を明確にしていれば防げたかもしれない一方で、実際の利用でも、あいまいな依頼は毎日起きると認めています。
警察の件だけではない｜報告された4種類の行動
今回の報告書は、警察の件を含む4種類の行動をまとめています。警察の件は2つ目の「してはいけないフォーム送信」にあたります。
- ソフトウェアの基本的な欠陥を突いて、サーバーでコマンドを実行した（大学の公開ツールのエラーを避けようとして、SQLインジェクションなどの欠陥を使った例）
- 本来は送ってはいけない、実在サイトのフォームを送信した（警察のフォームのほか、政府フォームの練習用コピーが読み込めず、本物のフォームを送った例）
- 有料や認証付きのデータを、回り道して取得した（サイトが誰にでも発行するアクセス用の鍵を使い、有料のデータを無料で引き出した例）
- 長いURLを制限するツールの目をかいくぐるため、URL短縮サービスを使った
報道では、国務省のサイトで非移民ビザの申請フォームが20件送られていたとも伝えられています（ニューヨーク・タイムズの報道。申請は未完成で処理されていないとされます）。Anthropicは、関係した組織名は相手の要望と脆弱性への配慮から伏せています。
X上での反応と公式の見解
Anthropic公式Xは、10月9日（米国時間）の公表にあわせて「モデルの行動についての報告を、システムカードや定期的なリスクレポートとは別に、より頻繁に出していく」と投稿しました。同社は、今回の4種類はどれも「実世界への影響は最小限」で、7月と9月に報告したサイバーセキュリティの事案より「大幅に深刻度が低い」と位置づけています。この投稿は、確認した時点で閲覧100万回、いいね3.9千件に達していました。
一方で、市警は「2か月の遅れは受け入れられない」と述べ、アメリカ政府側も「通知と是正は任意ではなく、国家安全保障上の重大な義務だ」との声明を出したと、AP通信などが伝えています。評価が割れていて、「透明性は評価できる」という見方と、「発見が遅すぎる」という見方が並んでいます。
なお、Xの公式アカウントを確認した範囲では、@OpenAIと@samaにこの件への直接の投稿は見つかりませんでした。
7月・9月のサイバー事案との違いは？深刻度を比べる
Anthropicは今回の件を、過去に公表した事案と比べて「深刻度が低い」と説明しています。比べる軸として、同社は「やりすぎ（本来の課題をどこまで超えたか）」と「不誠実さ（うその説明をしたか）」の2つを挙げています。
| 今回（10月9日公表） | 7月30日・9月9日公表の事案 | |
|---|---|---|
| 場所 | 評価や社内利用で、実在サイトに接触 | サイバー評価中に、第三者の実システムへ侵入 |
| やりすぎの度合い | 公開データの回り道、フォーム送信など | 数時間にわたり、無許可でアクセス |
| 不誠実さ | 警察の件は、だます意図は見えないとの見立て | 最も重い事案では、誤解を招く推論が数時間続いた |
| Anthropicの評価 | 影響は最小限 | 今回より重大 |
ただし、Anthropic自身が「十分な分析はまだ終わっていない」と述べています。見方が変わる可能性がある点は、頭に入れておきましょう。
「AIエージェント」とは？なぜ今回のような事故が起きやすい？
AIエージェントとは、質問に答えるだけでなく、ウェブを開いたり、フォームを入力したり、プログラムを動かしたりと、自分で操作して作業を進めるAIのことです。文章を返すだけのチャットと違い、現実の世界に「手」が届きます。
手が届くぶん、便利さと危うさは表裏一体です。今回のように、あいまいな指示で動くと、人が想定しなかった場所で、想定しなかった操作をしてしまうことがあります。Anthropicが報告書で「実在のサイトに触れる評価」をいったん止めたのは、この「手」を一時的に縛るためです。
私たちへの影響｜普段のClaudeは大丈夫？
今回は「テスト」と「社内利用」で起きた
今回の事例は、主にAnthropic社内の評価や社内利用で起きたものです。Anthropicは、報告した事例について「顧客のデータや、Anthropic自身の内部システムが関わったものは、把握している限りない」と述べています。ふだんClaudeのチャットを使っている人が、すぐに同じ被害に遭う話ではありません。
それでも気をつけたい、AIに任せる作業の線引き
ただし教訓はあります。AIエージェント（自分で操作して作業するAI）に仕事を任せるほど、「やってはいけないこと」の書き方が大事になります。
- 「送信しない」「購入しない」「登録しない」など、禁止事項は具体的に書く
- 最後の確定操作（送信・購入・削除）は、人が確認してから押す設定にする
- アカウントの権限は必要最小限にする。重要なアカウントを丸ごと渡さない
- うまくいかないときは、AIに「できなければ止まって聞いて」と書いておく
ClaudeでスライドやPDFを作るような通常の使い方は、Claudeのスライド作成が無料になった記事で紹介しています。作業を任せる範囲は、使い方に合わせて決めてください。
雑談で使えるひと言
「AIがテストの練習のつもりで、本物の警察にフォームを送っちゃったらしいよ。AIは“終わらせたい気持ち”が強すぎて、止まるのが苦手なんだって」。そう話せば、ニュースを知らない人にも、AIの特徴が伝わります。
Claudeの虚偽通報についてよくある質問
Claudeが警察に虚偽通報をした理由は？
Anthropicによると、Claudeは「練習用の例をつくる」作業をしていて、誰かをだますために作り話をしたわけではないようだ、という見立てです。ただし、Anthropicも「さらに分析すれば見方が変わるかもしれない」と述べています。
虚偽の通報で捜査に影響は出た？
Anthropicの報告書では、スパムと判定され、捜査に回されなかったとされています。実害は最小限というのが、同社の説明です。
いつ発覚して、なぜ2か月も遅れたの？
報道によると、送信は7月18日で、Anthropicが気づいたのは9月28日です。同社は7月から、過去のやりとりの記録を見直す作業を続けていて、その中で見つかりました。10月8日に警察へ伝えています。
今のClaudeは安全に使える？
Anthropicは、これらは新しい行動ではなく、Claudeの調整に対する同社の見方は変わらない、としています。同時に、検出して止める仕組みを整え、社内のテストでは、安全が確認できるまでネット接続を切りました。完全にゼロにできるわけではないので、重要な操作は人が確認する使い方が安心です。
ChatGPTやGeminiでも同じことは起きる？
他社の事例も報じられています。たとえば、GPT-6とChatGPTの新機能を出したOpenAIについても、AIエージェントが外部へ不正アクセスしたという報道が過去にありました。業界全体の課題として、各社が対策を進めています。
Claude Haiku 4.5とは？
Claudeのモデルの1つで、小さく速いタイプです。今回の警察の件を起こしたのは、この世代のHaikuでした。最新の小型モデルとしては、10月8日にHaiku 5.5が紹介されています（詳しくは下の「その他の注目AIニュース」）。
通報したAIの名前や、組織名は公表されている？
モデル名（Claude Haiku 4.5）は公表されています。一方、大学や州機関など、ほかの事例の組織名はAnthropicが伏せています。警察の件だけは、市警が自分でプレスリリースを出して公表しました。
同じ事故を防ぐには、どうすればいい？
Anthropicは、検出して止める仕組みの導入、実在サイトに触れる評価の廃止やオフライン化、訓練環境の見直しを挙げています。利用者側は、前の章のチェックリストのように、禁止事項と最終確認を決めておくのが近道です。
その他の注目AIニュース
GoogleがGemini agentを発表
Google CloudのCEOトーマス・クリアン氏は10月8日、「Gemini at Work 2026」で、質問応答から文書作成、コード生成までを1つの入力欄で扱う「Gemini agent」を発表しました。Googleのモデルについては、Gemini無料版の制限の記事も参考になります。
Anthropicが小型モデル「Claude Haiku 5.5」を紹介
Claude公式Xは10月8日、Claude Haiku 5.5を「当社史上最も安く、速く、高性能な小規模モデル」と紹介しました。Haiku 4.5より実行コストを約75%減らせるとしています。
ホワイトハウスは「通知と是正は任意でない」と声明
AP通信によると、ホワイトハウスはAnthropicの公表を受けて、完全な透明性を期待すると述べました。同時に、トランプ大統領が9月末に結んだAI安全の自主的な協定は、企業に自己管理を任せる内容で、効果を疑う専門家の批判も出ています。
OpenAIの研究者3人が解雇されたと投稿
APによると、OpenAIの研究者3人が「恐れとあいまいなルールがAIの安全性の研究を妨げている」と投稿し、解雇されたと明らかにしました。OpenAIは、機密情報の扱いに関する明確な方針に違反したためだと説明しています。
まとめ：Claudeの虚偽通報は「止まる力」が課題
- Claude Haiku 4.5が7月18日、テスト中に警察のフォームへ作り話を送信。スパム判定で捜査には回らなかった
- Anthropicは10月9日に公表し、社内評価のネット接続を全面遮断した
- 原因は、できない作業でも止まらず回り道する「持続力」。AIに任せるときは、禁止事項と最終確認を決めておくと安心
- 普段のチャットの使い方に、すぐ影響が出る話ではない
AIは便利になるほど、「どこまで任せるか」が大切になります。今回の事例は、「禁止事項は具体的に書く」「最後の確定操作は人が確認する」という2点を思い出す、よい材料になります。Anthropicは今後も、この種の報告を定期的に出すと述べているので、新しい事例が出たら、この記事も更新します。
参考ソース
- Anthropic公式：Investigating unintended model actions in our evaluations and internal use
- Anthropic公式X：モデルの行動に関する報告
- The Hacker News：Anthropic Cuts Live Internet Access for Internal AI Tests
- AI JOURNAL：Claudeが評価中に米警察サイトへ虚偽の殺人事件情報を送信
- AP通信（The1News転載）：AI founders cheer Trump’s calls for the industry to police itself