일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | |
7 | 8 | 9 | 10 | 11 | 12 | 13 |
14 | 15 | 16 | 17 | 18 | 19 | 20 |
21 | 22 | 23 | 24 | 25 | 26 | 27 |
28 | 29 | 30 |
- MLLM
- Instruction dataset
- Multimodal Large Language Model
- 논문리뷰
- Foundation Transformers
- pretrained model layer
- 특정 layer 추출
- cnn
- 파라미터 수 확인
- 특정 layer 동결
- 주식
- def validation
- 가상환경
- 논문 작성
- 3C4P
- 주식 용어정리
- Video Understanding
- 모델 동결
- 강화학습
- 모델 freeze
- KOSMOS-2
- mqtt
- 가중치 없이 모델 로드
- mPLUG-2
- layer 추출
- def train
- 모델 구조 변경
- 파라미터 수
- DeepNet
- 논문 작성 요령
- Today
- Total
목록전체 글 (112)
시작은 미약하였으나 , 그 끝은 창대하리라
1. 필요 모듈 설치 ➢ 중요한 모듈만 언급- torch (https://pytorch.org/get-started/previous-versions/) local 컴퓨터 버전에 맞게 알맞게 설치하기..# CUDA 11.7conda install pytorch==1.13.0 torchvision==0.14.0 torchaudio==0.13.0 pytorch-cuda=11.7 -c pytorch -c nvidia- transformerspip install transformers- pytorch-ligtningpip install pytorch-lightning 2. 데이터 셋 준비- 주의사항: DETR 의 데이터셋 format은 COCO format 으로 준비되어야 함. ..
1. 가중치 없이 모델 로드 ► 우리는 허깅페이스에서 weight, bias가 최적화 되어있는 pretrained된 모델을 사용한다. 하지만 모델의 weight, bias를 제외하고 아키텍쳐만 필요할 때가 있다. Hugging Face에서는 친절하게도 이러한 기능을 제공을 해준다. - Huggingface에 원하는 모델을 검색후 config를 사용하면 된다. (아래예시는 DETR예시) (상단 코드 weight load 안함, 하단 코드 weight load 함) # load without weight and bias # Initializing a DETR facebook/detr-resnet-50 style configuration from transformers import DetrForObjectDe..
논문은 작성하고 싶고, overleaf (latex) 양식 때문에 시간을 해매는게 참..비효율적이다. 자료도 별로 없고.. 잡다한 에러도 많고. 이번 포스팅에다가 Elsevier 양식 이것저것 정리해 보려한다 (투컬럼 기준, Applied energy 저널지 기준임으로 대략적으로 확인하고 하시길) , 원컬럼 자료도 갖고 있긴함.. 어디서 구했는지 몰라서 링크 첨부가 어렵.. 1. 엘스비어 투 칼럼 템플릿 다운 : https://www.overleaf.com/latex/templates/elseviers-cas-latex-double-column-template/hhzpymgjmxfk Elsevier’s CAS LaTeX Double-Column Template - Overleaf, Online LaTeX..
논문링크: https://arxiv.org/abs/2203.00555 DeepNet: Scaling Transformers to 1,000 Layers In this paper, we propose a simple yet effective method to stabilize extremely deep Transformers. Specifically, we introduce a new normalization function (DeepNorm) to modify the residual connection in Transformer, accompanying with theoretically derived i arxiv.org 논문링크: https://arxiv.org/abs/2210.06423 Foundat..
출처: David silver 교수님 자료. 내용 정리 : 교수님 수업 기반에 의한 정리 기타 팁 : 개념 그냥 이해안되도 암기부터 하고나면 이해되긴하더라... 머신러닝에 대해 큰 그림을 그려보면 아래[fig1]와 같을것이다. [fig2]에서 Agent, Environment 에 대해 설명을 해보겠다. Agent는 기본적으로 observation(t), reward(t) 를 받아 action(t)을 수행한다고 생각하면 된다. Environment는 agent의 행동에 대한 action(t)을 받을것이고 변한 다음 observation(t+1), 변한 다음 reward(t+1) 을 받게될것이다. History and State [fig3] History(H)란 말그대로 observation,action,r..
1. 적정 PBR 구하기. (단, ROE가 꾸준한 기업에 잘 맞는 방법임.) 적정 PBR = ROE / (COE- g) ROE : 자기자본이익률, Return of Equity 본인이 ROE를 어떻게 보느냐에 따라 계산 값이 다름. 즉, 과거 1년치를 활용할 수 도 있고, 과거 3개년의 평균값을 ROE로 활용할 수 있다는 의미. COE : 자기자본비용(=할인율), Cost of Equity COE = 국고채 3년 금리 +위험프리미엄(소비자 물가 상승률,인플레이션) g : 성장률 : 2~3%(보수적으로 계산하려면 0으로 잡으면 됨) → 즉, 적정PBR = ROE / (국고채 3년금리 +소비자 물가 상승률 - 영구성장률) 2. 적정 주가 구하기. (단 ROE가 꾸준한 기업에 잘 맞는 방법임) 적정주가= 적정..
1. 보호예수란? 공모후 유통가능 물량으로써 풀리는 매각 제한 기간이 지나면 물량이 풀림으로 주식의 하락 영향이 생길 수 있음. 2. 보호예수 확인. 방법1. 한국예탁결제원= (매월 마지막날 쯤 다음달꺼 보호예수 풀리는 날짜 자료 올라옴) : 많이 풀리면 안좋음 (주가하락) KSD소개 ->KSD소식 ->보도자료 -> 글선택: ‘의무뵤유등록 해제’ 방법2. 전자공시(DART) 기업검색 -> 기간1년 -> 상세조건: 보고서명 : 증권발행실적. (클릭)-> 2.청약 및 배정에 관한 사항 -> 5. 기관투자자 의무보유확약기간별 배정현황 방법3. 전자공시(DART) 기업검색 ->기간1년 ->상세조건:보고서명: 투자설명서. (클릭). -> 3. 투자위험요소 ->검색: ‘유통가능’ 입력
1. 전자공시 사이트 원하는 회사 검색 '투자설명서' 클릭. '사업의 내용 → 사업의 개요' 정독 '인수인의 의견(분석기관의 평가의견)' 정독 2. 38커뮤니케이션 사이트 '기관 수요예측 경쟁률' 확인 1000:1 이상인 것으로 하자 (글쓴이 기준) '의무보유확인비율' 확인 10% 이상인 기업들이 수익 거의 남. (10~30% → 수익률 +71%) (30% 이상 → 수익률 +99%) '유통가능 물량' 확인 (=보호예수) 상장하자마자 유통해버리면 주식 하락함.. 20% 이하면 좋음 30% 이상은 좀 많은 것. 공모가 밴드 의 가격을 넘어버리면 좋음 시초가에 팔자. (웬만한 것들은 다 떨어짐)