전체 글
-
Simplified version of attention 설명ML/DeepLearning 2025. 2. 4. 17:46
출처: Build a large language model from scratch, chapter 3 : coding attention mechanism # 3.0 3장에서 다룰 구조- 아래 메커니즘을 해당 챕터에서 다룸# 3.1 attention의 등장배경- encoder, decoder개념의 등장 배경1) 아래 번역해야할 문장이 있다고 하자. 직독직해하면 문제가 생기므로, 각 언어의 어순을 고려해서 해석해줘야한다. 2) 이를 위해서 encoder, decoder개념이 등장했고 이를 활용한 것이 RNN이다. RNN의 상세 로직을 알필요는 없으며, endoer decoder setup에 대해서만 알면 된다. - encoder, decoder 로직: encoder, decoder내부에서 각 hidden..
-
divergent branch Git카테고리 없음 2024. 12. 13. 16:35
https://wikidocs.net/151849 *사실 User2는 입사한지 얼마되지 않은 주니어 개발자이다. > User1은 User2가 작업한 내용을 검토한 후에 병합을 진행하고 싶다.* > `git pull…" data-og-host="wikidocs.net" data-og-source-url="https://wikidocs.net/151849" data-og-url="https://wikidocs.net/151849" data-og-image="https://scrap.kakaocdn.net/dn/xc2EE/hyXOm3Wpa8/oT7AwiX0x5ukNrSEVJgL20/img.png?width=100&height=114&face=0_0_100_114,https://scrap.kakaocdn.net..
-
econml const_marginal_effectML/XAI 2023. 9. 27. 14:50
https://econml.azurewebsites.net/_autosummary/econml._cate_estimator.html#econml._cate_estimator.LinearCateEstimator.const_marginal_effect CATE 값을 말하는 듯. CATE 적합한다음에 X Feature 들어갔을때의 예측값? X: confounder, T : treatment, Y : outcome subgroup with Treatment without Unit Causal eff ect man 10 5 5 woman 5 5 0 man 10 10 0 woman 0 10 -10 ATE = (5+0+0+-10)/4 CATE(man) = (5+0)/2 CATE(woman) = (-10+0)/2 wo..
-
DMLML/XAI 2023. 8. 25. 17:59
ref : https://matheusfacure.github.io/python-causality-handbook/22-Debiased-Orthogonal-Machine-Learning.html# 한국에서 아이스크림 가게 사장이라고 하자. 여름과 겨울에 따라 아이스크림을 찾는 손님이 많이 차이날 것이다. 그런데, 해외진출을 하게 되서 일년 내내 여름인 나라와 일년 내내 겨울인 나라 등등 여러 환경에서 아이스크림을 팔 수 있게 되었다. 그러면 온도에 관계 없이 순수한 가격에 의한 판매량을 알아서 가격을 잘 책정하고 싶다. 그런데, 왜 순수한 관계를 알고 싶은거냐? 하면.. 그니까 예를 들어 지금 있는 데이터로 넣어서 온도와 가격으로 못봐? 하면.. 예를 들어 온도가 높으면 여름에 사람들이 많이 찾아서 가격..
-
git reset git resetCS/git 2023. 6. 22. 19:18
도전하고 싶은것. 기존에는 무서워서 그냥 git reset hard 사용해서 커밋한 내용 삭제하고 내가 따로 메모했는데 이 커밋을 그대로 다른 이슈에 임시저장같이 사용하고 싶어졌다 1. 지금 git PUSH 한 걸 취소하고, UNSTAGED 상태로 돌린다. 지금은 git reset 사용. Unstaged 상태로 돌려야해서. ref : https://inpa.tistory.com/entry/GIT-⚡%EF%B8%8F-git-add-commit-push-취소하기-💯-정리-git-reset-restore-clean#git_reset_head_단계로_commit_취소 git reset {commit_id} 2. 새로운 이슈d 를 만든다음에 푸시한다. (임시저장) git checkout -b issue0000d ..