2019年10月9日15:00
KDDI総合研究所は、インターネット上のECサイトにおける推薦システムの信頼性向上を目的として、悪意のある攻撃者からデータポイズニング攻撃を受けた場合でも、意図的な閲覧履歴データを除去し、一般ユーザの通常の閲覧や購買などの行動履歴からユーザの嗜好を正しく学習する新たなAIの開発に成功したと発表した。同AIを用いることで、ECサイト運営者は攻撃者からの影響を受けずに、一般ユーザの嗜好に合った商品推薦を実現できる。
同AIは、攻撃者と一般ユーザの行動履歴が統計的に異なる性質を持つことを利用し、一般ユーザとは異なる特徴を持つ攻撃者の不正なデータを除去しながら学習を進めることで、安全性と信頼性の高い学習を実現する。映画の評価データを用いた評価実験を通して、既存の対策技術では7割程度の除去率だったが、同AIにより、ほぼすべての不正データを除去することができ、攻撃の前後で同等の学習結果が得られることを確認したという。同AIを用いることで、推薦システムにおいてデータポイズニング攻撃が行われた場合でも、攻撃者により推薦する商品を意図的に操作されることなく、一般のユーザの嗜好にあった商品推薦が可能となる。ユーザの嗜好に合わない商品が頻繁に推薦されるようなECサイトでは信頼性が著しく低下するが、同AIにより対策を行うことでユーザが安心してECサイトのサービスを利用できるとしている。
今後は社内外において同AIの有用性の検証を行う。特に、推薦システムでは、攻撃者がデータポイズニング攻撃により推薦される商品を操作する目的はさまざまななため、目的の異なる複数の攻撃に対しても同AIが対策として有効的であることを検証する。また、近年の推薦システムでは、行列分解だけでなく、深層学習を組み合わせたより複雑な学習方法が取り入れられている。このため、実用化に向けて、そのような複雑な学習方法をベースとした場合でも、攻撃者の影響を受けずに一般ユーザの嗜好を学習可能なAIの確立を目指す。
