๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ
728x90
๋ฐ˜์‘ํ˜•

self-Supervised-Learning1

DINO: Emerging Properties in Self-Supervised Vision Transformers (2021) Self Supervised learning https://brunch.co.kr/@b047a588c11b462/45 : ๋น„์ง€๋„ ํ•™์Šต ๋ฐฉ์‹์˜ ์ผ์ข…์œผ๋กœ์„œ ๋ผ๋ฒจ๋ง๋˜์ง€ ์•Š์€ ๋ฐ์ดํ„ฐ์…‹์„ ํ™œ์šฉํ•˜์—ฌ ์ธ๊ณต์ง€๋Šฅ์ด ์Šค์Šค๋กœ ๋ถ„๋ฅ˜์ž‘์—…์„ ์ˆ˜ํ–‰ํ•˜๋„๋ก ํ•จ : ์Šค์Šค๋กœ ํƒœ์Šคํฌ๋ฅผ ์„ค์ •ํ•˜์—ฌ ๋ชจ๋ธ์„ ํ•™์Šตํ•œ๋‹ค๋Š” ์ ์—์„œ ๊ธฐ์กด์˜ ๋น„์ง€๋„ ํ•™์Šต ๋ฐฉ์‹๊ณผ ์ฐจ์ด๊ฐ€ ์กด์žฌํ•˜๋ฉฐ, ์ธํ„ฐ๋„ท์ƒ ํฌ๋กค๋ง์„ ํ†ตํ•ด ์ˆ˜์ง‘ํ•  ์ˆ˜ ์žˆ๋Š” ํ…์ŠคํŠธ, ์ด๋ฏธ์ง€, ๋น„๋””์˜ค ๋“ฑ ๋‹ค์–‘ํ•œ ์ข…๋ฅ˜์˜ ๋ฐ์ดํ„ฐ์…‹์„ ํ™œ์šฉํ•  ์ˆ˜๋„ ์žˆ์Œ : ๋ชจ๋ธ์ด ํ™•์žฅ๋˜๊ธฐ ์œ„ํ•ด์„œ๋Š” ๋Œ€๋Ÿ‰์˜ ๋ฐ์ดํ„ฐ๋ฅผ ํ•„์š”๋กœ ํ•˜์ง€๋งŒ, ๋ผ๋ฒจ๋ง๋œ ๋ฐ์ดํ„ฐ๋ฅผ ์ง€์†์ ์œผ๋กœ ํ™•๋ณดํ•˜๊ธฐ ์œ„ํ•ด์„œ๋Š” ๋งŽ์€ ๋น„์šฉ์ด ์š”๊ตฌ๋œ๋‹ค๋Š” ๋‹จ์ ์ด ์กด์žฌ : ์ž๊ธฐ ์ง€๋„ ํ•™์Šต์€ ๋ผ๋ฒจ๋ง๋˜์ง€ ์•Š์€ ํ•™์Šต ๋ฐ์ดํ„ฐ๋งŒ ํ™•๋ณดํ•˜๋”๋ผ๋„ ๋ชจ๋ธ์˜ ๊ทœ๋ชจ๋ฅผ ์ฆ๊ฐ€์‹œํ‚ฌ ์ˆ˜ ์žˆ์œผ๋ฉฐ ์ด์— ๋”ฐ๋ผ ์ •ํ™•๋„ ์—ญ์‹œ ํ–ฅ์ƒ์‹œํ‚ฌ.. 2023. 8. 10.
728x90
๋ฐ˜์‘ํ˜•