メルカリAIチームの研究「Want robust explanations? Get smoother predictions first.」がCIKM 2022 ワークショップに採択されました

■概要

この度、メルカリAIチームのエンジニア・Deddy Jobsonによる論文「Want robust explanations? Get smoother predictions first. 」が、国際学会「CIKM2022」内のAIMLAIワークショップに採択されたことをお知らせいたします。CIKM2022（The Conference on Information and Knowledge Management）は、データマイニング・情報検索の分野で最も権威ある国際学会の一つで、世界中の研究者らによって毎年開催されています。

■発表内容のポイント

• LIMEやSHAPを使う前に、MLモデルの予測値を平滑化することで、解釈性の頑健性が改善します
• 我々の論文で紹介したLipshitzスコアを適用することで解釈性の頑健性を向上させることができました

■研究の背景

• LIMEやSHAPのようなモデルに依存しない解釈可能性手法は、複雑なMLアルゴリズムによる予測を説明するのに役立ち、その信頼性を高めることができます
• しかし、これらの手法は頑健性に欠け、入力に小さなノイズが加わると、出力予測が変化しないにもかかわらず、これらの手法によって提供される説明が大きく変化してしまいます
• そのため、説明に対する信頼が損なわれ、MLモデルの採用が妨げられてしまいます

■研究概要

• 今回、我々は説明の頑健性を向上させるための簡単なアプローチを提案しました
• 各データポイントについて、入力にガウスノイズを加え、それをモデルを通じて検証し、アウトプットを得ます。これを複数回行い、各データポイントの平均を計測しました
• 予測が滑らかになり、頑健なLIMEとSHAPの出力を得ることができ、その結果、解釈の信頼性が向上しました

■MDS Teamについて

MDS（マーケティングデータサイエンス）チームでは、統計学、機械学習、数学的最適化を用い、マーケティングキャンペーンの効率を向上させることを目的としています。