論文 https://pchandar.github.io/files/papers/Gruson2019.pdf Spotifyの中の人による、オフラインでのレコメンドエンジン評価方法に関する論文。 Off-policy Evaluationの実例を勉強したいな・・と思い、選択。 背景 オフライン評価の問題点は、オンライン…

論文 こちらの論文の内容を、要約。 arxiv.org 概要 Tranfer Learningは、２つのStageから構成 Pre-training: 汎用的な入力データのRepresentationを学習 (例：単語のベクトル表現を学習) Adaptation: そのRepresentationを新たな問題に提供 (例：そのベクト…

Netflixにおける因果推論の利用例が、以下のBlog記事にまとめられていたので、内容を要約。因果推論の応用先(What)を知るのに役立つ記事。ただ、因果推論をどのように応用したか(How)の部分は、あまり語られておらず。。。以下、一部、文脈からの推測を含め…

論文 arxiv.org 概要 Alipayでの不正検知に、Transfer Learning(転移学習)を適用。 通常、Transfer Learningといえば、ニューラルネットワークを用いたものが多いが、この論文では、XGBを利用。 Transfer Learningの分類 Instance based methods Source Doma…

論文 arxiv.org 目的 いかに、少ないメモリー量・計算量で、LLMを各問題に特化させるか？ 先行研究（LLMを各問題に特化させる方法） Fine-Tunning (FT)：全てのパラメータを問題に合わせて微調整。 Parameter-Effecient Fine Tunning (PEFT)： Adapter:問題…

Paper Title: Building a Credit Risk Model using Transfer Learning and Domain Adaptation Frontiers | Credit Risk Modeling Using Transfer Learning and Domain Adaptation Summary 概要 Transfer learningをCredit Scoringに応用 前提： Source Domai…

論文 arxiv.org GANとは GeneratorとDiscriminatorの2モデルを定義 Generatorは、模擬しようとしているデータを生成 Discriminatorは、来たデータが、Generatorによるデータか、本物のデータか判別。 この論文の目的 Asset return（今日の終値と昨日の終値の…

Paper Title: TransBoost: A Boosting-Tree Kernel Transfer Learning Algorithm for Improving Financial Inclusion [2112.02365] TransBoost: A Boosting-Tree Kernel Transfer Learning Algorithm for Improving Financial Inclusion Summary 概要 Gradie…

Paper Learning Triggers for Heterogeneous Treatment Effects 概要 Causal Tree (https://arxiv.org/abs/1504.01132 , Athey and Imbens 2016)に対して、以下2つの改良を実施。 改良1: 介入が連続値で定義されても大丈夫なように改良。 通常のCausal Tree…

Paper www.frontiersin.org Preparation ローン審査で、Defaultするユーザを予測するモデルを考える。 False Positive Rate = ローンでDefault「しない」ユーザに占める、Default「する」と予測されたユーザの割合。誤陽性とも呼ぶ。低いほどよい。 True Pos…

Paper arxiv.org Summary Causal Treeを、Random Forestのようにアンサンブル学習とした論文 Recursive partitioning for heterogeneous causal effects ==> 読後メモ - appricot’s diary 前提知識の準備 Sampling without replacement: 非復元抽出。重複を…

Paper arxiv.org Summary 概要 機械学習のモデルを運用するにあたり、必要なTipsを集めた論文。 企業で機械学習を利用している19名へのインタビューを元に構成。 (4.3.4) 機械学習のコードの変更は、可能な限り小さく抑える モデルに微修正が必要な場合、モ…

最近、Uplift Modelingという単語をよく耳にするので、概要を、ざっくりメモ。間違いなどあれば、お気軽にご指摘ください。 Uplift Modelingとは Xは、各ユーザの属性 Wは、各ユーザに対する介入。例えば、クーポン発行する(1)、しない(0)。 Yは、各ユーザの…

Paper arxiv.org Preparation 決定木（CART) 与えられたデータ（X,Y)について、葉ノードに含まれるデータ(Y)が均質になるように、木を作っていく。 例えば、あるデータを男性、女性に分類するタスクがあったとして、ある葉は男性ばかり、ある葉は女性ばかり…

Paper Causal Inference and Uplift Modeling / A review of the literature https://proceedings.mlr.press/v67/gutierrez17a/gutierrez17a.pdf 概要 定義 Y_i(1) = 顧客iに対する、介入ありの場合の効果 Y_i(0) = 顧客iに対する、介入なしの場合の効果 τ_i…