ニュースの要約
- 事前学習済み大規模視覚言語モデル(VLM)に対して、特定のドメインに属するデータだけを認識できないように”忘却”させる技術『近似ドメインアンラーニング(Approximate Domain Unlearning: ADU)』を世界初提案
- 『Domain Disentangling Loss(DDL)』と『Instance-wise Prompt Generator(InstaPG)』を新しく導入し、従来困難だったドメイン単位での選択的忘却を実現
- 4種類の標準的な画像認識テストデータにおいて、従来手法と比べ平均約1.6倍の性能向上を達成
概要
東京理科大学の研究グループは、事前学習済み大規模視覚言語モデル(VLM)に対して、特定のドメインに属するデータだけを認識できないように”忘却”させる新たな技術『近似ドメインアンラーニング(Approximate Domain Unlearning: ADU)』を世界で初めて提案・創出しました。
従来のVLMは、多様なドメインの画像を高精度に認識できる強力な汎化能力を持ちますが、あらゆるドメインの画像を区別なく認識できてしまうことで、用途によっては誤認識や信頼性上のリスクを生じることがありました。そこで、今回の研究では、特徴空間上で異なるドメインを分離する『Domain Disentangling Loss(DDL)』と、画像ごとのドメイン特性を適応的に捉える『Instance-wise Prompt Generator(InstaPG)』を新たに導入し、従来困難だったドメイン単位での選択的忘却を実現しました。
4種類の標準的な画像認識テストデータで評価した結果、この手法により従来技術と比べて平均で約1.6倍の性能向上が確認されました。特に、最も難易度の高い条件下では約1.7倍の性能改善が見られ、本手法の有効性が実証されました。この成果は、不要な知識を抑制しながら必要な知識を保持することで、利用目的に応じてAIを部分的に再構成できる新しい枠組みを提示しています。将来的には、AIモデルの安全性の向上や効率的な再利用にもつながることが期待されています。
編集部の感想
編集部のまとめ
学習済み知識の忘却技術 : さらに上手に”忘れる”AI へ ～ 学習済みの知識をドメイン単位で忘却可能な世界初の新技術 ～ 不要な誤認を防ぎ、さらに信頼できるAIへについてまとめました
東京理科大学の研究グループが開発した『近似ドメインアンラーニング(ADU)』は、事前学習済みのVLMから特定のドメインの知識だけを選択的に忘却する世界初の技術です。これまでの近似アンラーニング技術は、特定のデータやカテゴリを対象とする忘却でしたが、ADUではドメイン単位の忘却を実現しています。
具体的には、特徴空間上で異なるドメインを明確に分離する『Domain Disentangling Loss(DDL)』と、画像ごとのドメイン特性を適応的に捉える『Instance-wise Prompt Generator(InstaPG)』を新たに導入することで、従来困難だった選択的な忘却を可能にしました。この技術により、AIシステムの利用目的に応じて必要な知識だけを保持し、不要な誤認識を防ぐことができるため、より信頼性の高いAI活用への道が拓かれたと言えるでしょう。
今後、このADU技術が広く普及すれば、AIモデルの安全性向上や効率的な再利用にもつながることが期待されます。AIがより使いやすく信頼できるものになっていくことを期待したいです。
参照元：https://prtimes.jp/main/html/rd/p/000000209.000102047.html
人気記事