appricot’s diary

日々の勉強のメモ

2023-07-01から1ヶ月間の記事一覧

NetflixにおけるQuasi Experimentation (準実験) ==> 読後メモ

元の記事 Netflixにおける準実験について書かれた記事を、要約。 Quasi Experimentation at Netflix. Colin McFarland, Michael Pow, Julia… | by Netflix Technology Blog | Netflix TechBlog Key Challenges with Quasi Experiments at Netflix | by Netfl…

Netflixにおける因果推論の利用例 ==> 読後メモ

Netflixにおける因果推論の利用例が、以下のBlog記事にまとめられていたので、内容を要約。因果推論の応用先(What)を知るのに役立つ記事。ただ、因果推論をどのように応用したか(How)の部分は、あまり語られておらず。。。以下、一部、文脈からの推測を含め…

Adapted Tree Boosting for Transfer Learning ==> 読後メモ

論文 arxiv.org 概要 Alipayでの不正検知に、Transfer Learning(転移学習)を適用。 通常、Transfer Learningといえば、ニューラルネットワークを用いたものが多いが、この論文では、XGBを利用。 Transfer Learningの分類 Instance based methods Source Doma…

LoRA: Low-Rank Adaptation of Large Language Models ==> 読後メモ

論文 arxiv.org 目的 いかに、少ないメモリー量・計算量で、LLMを各問題に特化させるか? 先行研究(LLMを各問題に特化させる方法) Fine-Tunning (FT):全てのパラメータを問題に合わせて微調整。 Parameter-Effecient Fine Tunning (PEFT): Adapter:問題…

Building a Credit Risk Model using Transfer Learning and Domain Adaptation ==> 読後メモ

Paper Title: Building a Credit Risk Model using Transfer Learning and Domain Adaptation Frontiers | Credit Risk Modeling Using Transfer Learning and Domain Adaptation Summary 概要 Transfer learningをCredit Scoringに応用 前提: Source Domai…

Quants-GAN ==> 読後メモ

論文 arxiv.org GANとは GeneratorとDiscriminatorの2モデルを定義 Generatorは、模擬しようとしているデータを生成 Discriminatorは、来たデータが、Generatorによるデータか、本物のデータか判別。 この論文の目的 Asset return(今日の終値と昨日の終値の…

TransBoost: A Boosting-Tree Kernel Transfer Learning Algorithm for Improving Financial Inclusion ==> 読後メモ

Paper Title: TransBoost: A Boosting-Tree Kernel Transfer Learning Algorithm for Improving Financial Inclusion [2112.02365] TransBoost: A Boosting-Tree Kernel Transfer Learning Algorithm for Improving Financial Inclusion Summary 概要 Gradie…

Learning Triggers for Heterogenous Treatment Effects ==> 読後メモ

Paper Learning Triggers for Heterogeneous Treatment Effects 概要 Causal Tree (https://arxiv.org/abs/1504.01132 , Athey and Imbens 2016)に対して、以下2つの改良を実施。 改良1: 介入が連続値で定義されても大丈夫なように改良。 通常のCausal Tree…

金融系に特化したLLM

金融系に特化したLLMとして、FinGPTとBloombergGPTがある。両者について、メモ。 FinGPTの特徴 arxiv.org Pre-trained model(LLM)は、既製品を利用。具体的にはMetaによるLLaMAなど。 BloombergGPTは、LLMの部分も、金融データを使って自前でやっている。そ…