論文メモ
概要 こちらの論文を要約。FOMCのアナウンス文書を、ChatGPTを用いて、鳩派と鷹派に分類する論文。 papers.ssrn.com ChatGPTを用いたFOMC文書の分類 2010-2020年の間に実施されたFOMCのアナウンスを利用。FOMCは年8回。 そこからダンラムに500文を選び、Poli…
概要 以下の論文を要約。 papers.ssrn.com ChatGPTで、株価を予測。 各News headlineに対して、企業の株価の観点でPositive, Negative, Neutralというラベルを付与。この結果と、株価のDaily Returnに相関があることを確認。 ChatGPTによる結果は、既存のSen…
論文 arxiv.org Machine Learningモデルについて、どのようなドキュメントを残すべきか?を扱った論文。論文を執筆したのはGoogle所属のひとたち。 概要 MLモデルについて、そのパフォーマンス等を共有するための共通のドキュメンテーションフォーマットがな…
論文 https://pchandar.github.io/files/papers/Gruson2019.pdf Spotifyの中の人による、オフラインでのレコメンドエンジン評価方法に関する論文。 Off-policy Evaluationの実例を勉強したいな・・と思い、選択。 背景 オフライン評価の問題点は、オンライン…
論文 2023年にPublishされたCausal effect estimationにおけるサーベイ論文を、以下要約。主に、今現在、研究課題となっている部分を中心にPick-up。 arxiv.org 用語の整理 Confounder (交絡因子): TreatmentとOutcomeの両方に影響を与える変数 Counterfactu…
論文 https://www.jpmorgan.com/content/dam/jpm/cib/complex/content/technology/ai-research-publications/pdf-8.pdf J. P. Morganから2020年に出ている論文を、以下、要約。プライバシー問題を回避するためのデータ生成技術についてサーベイした論文。 問…
論文 こちらの論文を要約。2017年にGoogle Researchが出したMMM (Media Mix Modeling)に関するサーベイ論文。 research.google MMM(Media Mix Modeling or Marketing Mix Modeling)とは 広告主が広告投資の効果を計測するためのモデル 時系列の集計データ…
論文 こちらの論文の内容を、要約。 arxiv.org 概要 Tranfer Learningは、2つのStageから構成 Pre-training: 汎用的な入力データのRepresentationを学習 (例:単語のベクトル表現を学習) Adaptation: そのRepresentationを新たな問題に提供 (例:そのベクト…
論文 arxiv.org 概要 Alipayでの不正検知に、Transfer Learning(転移学習)を適用。 通常、Transfer Learningといえば、ニューラルネットワークを用いたものが多いが、この論文では、XGBを利用。 Transfer Learningの分類 Instance based methods Source Doma…
論文 arxiv.org 目的 いかに、少ないメモリー量・計算量で、LLMを各問題に特化させるか? 先行研究(LLMを各問題に特化させる方法) Fine-Tunning (FT):全てのパラメータを問題に合わせて微調整。 Parameter-Effecient Fine Tunning (PEFT): Adapter:問題…
Paper Title: Building a Credit Risk Model using Transfer Learning and Domain Adaptation Frontiers | Credit Risk Modeling Using Transfer Learning and Domain Adaptation Summary 概要 Transfer learningをCredit Scoringに応用 前提: Source Domai…
論文 arxiv.org GANとは GeneratorとDiscriminatorの2モデルを定義 Generatorは、模擬しようとしているデータを生成 Discriminatorは、来たデータが、Generatorによるデータか、本物のデータか判別。 この論文の目的 Asset return(今日の終値と昨日の終値の…
Paper Title: TransBoost: A Boosting-Tree Kernel Transfer Learning Algorithm for Improving Financial Inclusion [2112.02365] TransBoost: A Boosting-Tree Kernel Transfer Learning Algorithm for Improving Financial Inclusion Summary 概要 Gradie…
Paper Learning Triggers for Heterogeneous Treatment Effects 概要 Causal Tree (https://arxiv.org/abs/1504.01132 , Athey and Imbens 2016)に対して、以下2つの改良を実施。 改良1: 介入が連続値で定義されても大丈夫なように改良。 通常のCausal Tree…
金融系に特化したLLMとして、FinGPTとBloombergGPTがある。両者について、メモ。 FinGPTの特徴 arxiv.org Pre-trained model(LLM)は、既製品を利用。具体的にはMetaによるLLaMAなど。 BloombergGPTは、LLMの部分も、金融データを使って自前でやっている。そ…
Paper www.frontiersin.org Preparation ローン審査で、Defaultするユーザを予測するモデルを考える。 False Positive Rate = ローンでDefault「しない」ユーザに占める、Default「する」と予測されたユーザの割合。誤陽性とも呼ぶ。低いほどよい。 True Pos…
Paper American Economic Association https://www.aeaweb.org/conference/2023/program/paper/4frnFS39 Joseph Cooprider, Shima Nassiri, "The Science of Pricing Experimentation at Amazon", ASSA 2023 Annual Meeting, 2023 Summary 目的 新たに導入す…
Paper arxiv.org Summary Causal Treeを、Random Forestのようにアンサンブル学習とした論文 Recursive partitioning for heterogeneous causal effects ==> 読後メモ - appricot’s diary 前提知識の準備 Sampling without replacement: 非復元抽出。重複を…
Paper arxiv.org Summary 概要 機械学習のモデルを運用するにあたり、必要なTipsを集めた論文。 企業で機械学習を利用している19名へのインタビューを元に構成。 (4.3.4) 機械学習のコードの変更は、可能な限り小さく抑える モデルに微修正が必要な場合、モ…
Paper arxiv.org Preparation 決定木(CART) 与えられたデータ(X,Y)について、葉ノードに含まれるデータ(Y)が均質になるように、木を作っていく。 例えば、あるデータを男性、女性に分類するタスクがあったとして、ある葉は男性ばかり、ある葉は女性ばかり…
Paper Causal Inference and Uplift Modeling / A review of the literature https://proceedings.mlr.press/v67/gutierrez17a/gutierrez17a.pdf 概要 定義 Y_i(1) = 顧客iに対する、介入ありの場合の効果 Y_i(0) = 顧客iに対する、介入なしの場合の効果 τ_i…