← ポッドキャスト一覧に戻る
Podcast · Episode 426

UniTexture:VLAモデルに広範な脆弱性をもたらす汎用敵対的テクスチャ攻撃

9月7日(月) · 5分
Vision-Language-Action(VLA)モデルは、多様な言語指示に従い広範囲の操作タスクを実行できる汎用的なロボットポリシーとして注目されています。しかし、その物理エージェントへの直接制御は、危険な物理的挙動を引き起こす可能性のある敵対的干渉に晒されます。今回発表されたUniTextureは、単一のテクスチャ付き3Dオブジェクトを使用し、複数のタスクにわたってVLAモデルのアクション予測に標的を定めた逸脱を誘発する、画期的な汎用敵対的テクスチャ攻撃です。これにより、ロボットのタスク成功率は大幅に低下することが確認されました。
前のエピソードAIの価値観を「トークンゼロ」から形成:新手法SPPが示すアラインメントの未来 次のエピソードSamsung「HiMAE」、Galaxy Watch 8で健康AIをオンデバイス処理|クラウドから「腕元」へ