Tag
3 件の関連記事
OpenAIは6月5日(現地時間)、チャットボットサービスChatGPTに新機能「Lockdown Mode」を導入した。これは、プロンプトインジェクション攻撃による情報漏洩の最終段階を阻止することを目的としており、外部ネットワークへのリクエストを厳しく制限することで、機密データが攻撃者に転送されるのを防ぐ。この機能は、個人向けアカウントやセルフサービス型ビジネスアカウントに順次展開されており、安全な利用環境の提供を目指す。
Meta（メタ）は2026年6月1日(現地時間)、同社のAIサポートシステムが悪用され、Instagram（インスタグラム）の著名アカウントが不正に乗っ取られる事案が発生したことをSimon Willison's Weblogが報じた。ハッカーはAIチャットボットに対し、ターゲットアカウントを新しいメールアドレスにリンクするよう要求するだけで、通常のアカウント復旧プロセスを迂回することに成功。この事態は、Metaがアカウント復旧プロセスを迅速化するため、サポートシステムをAIチャットボットと連携させていたことに起因すると見られている。
Simon Willison's Weblogは5月26日(現地時間)、Microsoft Copilot Cowork (マイクロソフト コパイロット コワーク)において、AIエージェント機能に関連する重大なデータ流出の懸念が浮上したと報じた。ユーザーの承認なしにエージェントが送信したメールに外部画像が含まれる場合、レンダリング時に意図しない外部サイトへのネットワークリクエストが発生し、ユーザーのIPアドレスなどの機密情報が流出する可能性があるという。この問題は、高度なAIアシスタントが提供する利便性と引き換えに生じる新たなセキュリティリスクの側面を浮き彫りにしている。