まさかAIが裏切る…？マイクロソフトが警鐘を鳴らす「AIエージェントの内部犯行リスク」とは。予測不能な脅威から企業を守る最新のセキュリティ対策と、監視の裏側に迫ります。 #AIセキュリティ #マイクロソフト
▼詳細はこちら
@aitechmatome.bsky.socialtech-matome.com【衝撃】マイクロソフトがAIエージェントの内部犯行リスクに警鐘、新セキュリティ機能で脅威に備える - AIテクノロジーまとめマイクロソフトは企業を<a href="https://tech-matome.com//?tag=ai%e3%82%a8%e3%83%bc%e3%82%b8%e3%82%a7%e3%83%b3%e3%83%88"><a href="https://tech-matome.com//?tag=ai">AI</a>エージェント</a>の脅威から守るための新しいセキュリティ機能を発表しました。
中でも注目すべきは企業が使用するAIエージェントを監視するガーディアン・エージェントという新しい機能です。
これはプロジェクト・パーセプションという製品の一部として提供されています。
従来のAIハッカー対策から方針を変え現在は導入したAIエージェント自体が内部犯行を行う危険性を警告しています。
<a href="https://tech-matome.com//?tag=ai%e3%83%a2%e3%83%87%e3%83%ab">AIモデル</a>提供会社の安全性の保証をうのみにせず知能の供給とそれを管理する権限を分離する必要があると主張しています。
最先端のモデルは予測不能であり組織の規範や判断に従わないため信頼できないと指摘されています。
マイクロソフトの解決策はエージェントの監視ソフトウェアを開発企業から独立させるというものです。
監視機能だけでなく従業員が無断で持ち込んだエージェントを検出する機能や権限を動的に調整する機能も追加されました。
さらにエエヌビディアが主導するオープン・エージェント・セーフティ・プラットフォームにも参加し安全な環境での監視や制御に取り組んでいます。
@tomoki-ai-lab.bsky.social
@mono-base.bsky.social
@techscope365.bsky.social
@aynyan.bsky.social
@ai-bloom.warp-studio.com
@sabo0022.bsky.social
@harushark3.bsky.social