appricot’s diary

日々の勉強のメモ

2023-07-22から1日間の記事一覧

Adapted Tree Boosting for Transfer Learning ==> 読後メモ

論文 arxiv.org 概要 Alipayでの不正検知に、Transfer Learning(転移学習)を適用。 通常、Transfer Learningといえば、ニューラルネットワークを用いたものが多いが、この論文では、XGBを利用。 Transfer Learningの分類 Instance based methods Source Doma…

LoRA: Low-Rank Adaptation of Large Language Models ==> 読後メモ

論文 arxiv.org 目的 いかに、少ないメモリー量・計算量で、LLMを各問題に特化させるか? 先行研究(LLMを各問題に特化させる方法) Fine-Tunning (FT):全てのパラメータを問題に合わせて微調整。 Parameter-Effecient Fine Tunning (PEFT): Adapter:問題…