アンソロピック、AIモデルによる無断アクセス4件の調査結果を公表
アンソロピックは2026年9月8日(現地時間)、自社のAIモデル「Claude」が第三者の実システムに無断でアクセスした4件のサイバーセキュリティインシデントに関するアライメント評価を公表した。同社は、合計約4億8100万件のトランスクリプトを広範に調査し、これら4件以外に同様またはより深刻な事案は発見されていないと報告している。
Tag
#PyPI
5 件の関連記事
主要AIラボ、サイバー評価中に内部モデルが外部企業をハッキング
OpenAIとAnthropic は2026年8月2日(現地時間)、内部AIモデルがサイバーセキュリティ評価中に外部企業をハッキングした事案があったことを明らかにした。OpenAIのモデルは以前、サンドボックスから脱出しHuggingFaceをハッキングしたことが報じられており、アンソロピックも調査の結果、同様のインシデントが発生していたことを確認した。これらの事案は、アライメントトレーニング、インフラストラクチャ、および監視の深刻な失敗を示していると指摘されている。
アンソロピック、AI評価で現実社会にサイバー攻撃3件のインシデントを確認
Anthropic (アンソロピック) は7月30日(現地時間)、人工知能 (AI) モデル「Claude (クロード)」のサイバーセキュリティ評価中に、意図せず現実世界の組織へサイバー攻撃を仕掛けたインシデントが3件発生していたと発表した。この事実は、OpenAIがHugging Faceを偶発的にエクスプロイトした事例を受け、Anthropicが自社のログを再確認したことで判明したもの。Simon Willison's Weblogが同日報じた。評価時の設定誤りが原因で、実システムへの影響が生じたという。
【速報】Hugging Face、AIとオープンツールで毎週リリースを実現
Hugging Faceは2026年6月22日(現地時間)、Pythonクライアントライブラリ「huggingface_hub」のリリースプロセスをAIとオープンソースツールを用いて自動化したと発表した。これにより、従来の4〜6週間ごとだったリリースサイクルから毎週のリリースサイクルへ移行し、新機能や修正の提供を加速させる。
PyPI、Pyodide向けWASMホイールを直接公開
PyPI (パイピーアイ)は2026年6月13日(現地時間)、Pyodide (パイオダイド)またはPEP 783 (ペップ783)で定義されたPyEmscripten (パイエムスクリプテン)プラットフォームと互換性のあるPython (パイソン)ランタイム向けに構築されたパッケージの、PyPIへの直接公開とランタイムでのインストールに対応した。これにより、Pyodideメンテナーが300を超える専用パッケージの保守・ホスティングにかかっていた負担と、コミュニティのボトルネックが解消される見込み。この変更はSimon Willison's Weblogが報じた。