📂 구글드라이브링크

데이터셋

Untitled

회의록

미니플젝2 회의록 (1)

멀티모달 파인튜닝 공부

멀티모달 (1)

일정

Untitled

프로젝트 소개 및 목적

Multimodal + LoRA fine-tuning을 이용하여, 흉부 X-ray 병명 진단 AI를 개발하는 프로젝트입니다.

프로젝트 구현 개요

1. LoRA(Low-Rank Adaptation )

(1) Multi Modal의 언어모델 fine-tuning의 어려움

LoRA는 MultModal이 아닌 LLM에 특화된 Fine-Tuning방식 따라서, MultModal을 LoRA방식으로 Fine-Tuning하기 위해서는

  1. Image모델과 Text 모델(LLM)이 구분되어 있는 형태에서