arXivは10月20日(現地時間)、論文「AI Security Literacy: Ecosystem-based Competency Framework and K-12 Learning Platform」を発表した。K-12教育機関におけるAI導入が、生徒、教師、管理者向けの適切なガイダンスを上回っている現状を指摘。既存のAIリテラシー枠組みとサイバーセキュリティ枠組みではAI特有の脅威に対応できていない点を挙げ、独自のAIセキュリティリテラシー (AISL) 枠組みと具体的な学習プラットフォーム「NeuralFortify」を提案している。
提案されたAIセキュリティリテラシー (AISL) 枠組みは、学校のエコシステム全体にわたる6つの次元で構成される。これには、AIの悪用、プライバシー侵害、データの保護、公平性、透明性といった重要な側面が含まれる。技術的側面は、公的なAI安全ベンチマークと再現可能な敵対的評価に基づいて構築されており、AIモデルの堅牢性に関する具体的な評価方法や測定基準が提示されている。一方、態度的な側面は、米国を対象とした教師および成人向けの全国代表調査のミクロデータ分析に基づいている。
調査結果は、学校におけるAI導入の課題を浮き彫りにする。教師のわずか34.5%しか学校にAIポリシーがあると回答しておらず、ポリシーの普及が遅れている実態が示された。また、教師自身はAI利用が業務を簡素化すると考える一方で、生徒によるAI利用は業務を複雑にすると認識する傾向が見られた。技術的な分析では、報告される堅牢性の数値が、評価対象システムだけでなく、採用される攻撃手法や特定の訓練済みモデルに大きく依存することが指摘されており、AIのセキュリティ評価における文脈依存性の重要性が強調されている。
論文では、提案されたAISLの具体的な運用化を示すものとして、実際のAIモデルを基盤としたブラウザベースのK-12プラットフォーム「NeuralFortify」が提示されている。このプラットフォームは、学校エコシステム全体におけるAIセキュリティリテラシーの向上を目指すものと位置づけられ、生徒、教師、管理者がAIセキュリティに関する実践的なスキルを習得できるよう設計されている。これにより、AIの教育現場への安全な統合が促進されることを期待されている。
本論文の著者は、エリック・ヨーカム氏、ヴァルゲーゼ・ヴァイディアン氏、パリス・カラザス氏の3名。
参考: arXiv cs.CR — 2026年10月22日 13:00 (JST)
原文ハイライト"AI Security Literacy: Ecosystem-based Competency Framework and K-12 Learning Platform"