米AI（ 人工知能 ）開発企業アンソロピックは9日、自社のAIモデルが開発者の意図しない行動を取り、警察に未解決の殺人事件に関する虚偽情報を送信していたと発表した。米 ニューヨーク・タイムズ によると、同社のAIが 米国務省 ...

アンソロピックは、同社のAIチャットボット「Claude」の利用規約を改定し、一連の明確な禁止規定を新たに追加した。 今回の変更には、世論を誘導する欺瞞的キャンペーン、兵器開発、不正監視・法的取締りに関する制限の明確化が含まれる。

米アンソロピックのAIモデルが警察へ未解決事件の虚偽情報を送信し、政府サイトへビザ申請を誤送信するなどの暴走インシデントが相次いで発覚した。背景には、巨額の投資で開発が進む自律型AIエージェントのアライメント不備と、実環境と評価環境の隔離不足という安全管理上の深刻な課題がある。 AI自律エージェントの暴走と実社会への浸透リスク 出来事の要点：通報サイトへの捏造情報送信とビザ不正申請 2026年10 ...

アメリカのAI開発企業「アンソロピック」のAIモデルが開発者の意図しない動作を行い、警察のサイトに実在する未解決の殺人事件について虚偽の情報を送信していたことが分かりました。アンソロピックは9日、自社のAIモデルが政府機関への無断送信や、データ取得な ...

AI開発企業アンソロピック（Anthropic）がスタートアップ企業向けの支援プログラム「Claude ...