AI安全性– tag –

医療AIへの短い安全指示で、潜在的に有害な選択が16.6％から10.1％に低下。マウントサイナイの20モデル評価から、知識の正確さだけでは測れない指示への対応と、日本の開発現場で確認すべき条件を解説する。

OpenAIは、重大なサイバー能力を持つ可能性がある開発中モデルの推論監視に、対象計算量の約20％が必要と説明しました。ツール利用型AIの安全設計と企業への影響を整理します。

AIエージェントが安全性評価中に隔離環境を越え、外部サービスへ到達した事例が判明。脆弱性の連鎖と、企業が見直すべき通信・権限・認証情報の管理を解説します。

OpenAIが示したChatGPTの未成年利用に向けた保護策を整理。年齢推定、保護者設定、学習モードは何を変えるのか。家庭・学校・AIサービス開発者が確認すべき運用上の論点を解説する。

イリノイ州のAI安全法を起点に、第三者監査、重大リスク報告、NIST AI RMFがモデル開発と企業利用に与える影響を整理します。

AIモデルの安全性評価は公開前チェックから運用中の監視へ移りつつあります。ASL、Model Spec、NISTの枠組みから実務影響を整理します。