Better than alone

트랜스포머 소개 트랜스포머의 인코더 이해하기 셀프 어텐션의 작동 원리 입력 행렬 표현 각 단어의 임베딩 추출 ex) 단어 'I'에 대한 임베딩 $x_1 = [1.76, 2.22, ..., 6.66]$ (1 x 512) 단어 'am'에 대한 임베딩 $x_2 = [7.77, 0.63, ..., 5.35]$ (1 x 512) 입력 행렬(=임베딩 행렬) X ex) 쿼리행렬 $Q$, 키행렬 $K$, 밸류행렬 $V$ 생성 $X\cdot W^Q=Q$ //(3x512) · (512x512) = (3x512) $X\cdot W^K=K$ $X\cdot W^V=V$ * $W^Q, W^K , W^V $는 (512x512) 가중치 행렬로, 처음에 임의 값을 가지며 학습 중에 업데이트 되면서 최적값을 얻음. 셀프 어텐션의 작동 ..

Replace하고 싶을 때, Ctrl+Shift+F 이용했는데 이렇게 하면 열려있는 파일 모두에서 찾아서 replace하게 된다. 현재 파일만 바꾸고 싶으면 아래 단축키를 이용하면 된다. 윈도우: Ctrl+H (내가 해봤는데 됨) Mac: Command+Option+F (윈도우 써서 해보지는 못함)

스프링 하위 프레임워크로 어플리케이션의 인증(authentication)과 인가(authorization)를 담당하여 기본적으로 제공하는 기능들을 제공. 따라서 개발자가 보안에 해당되는 모든 부분을 구현하지 않아도 되는 장점이 있다. Spring Security Filter 는 Dispatcher Servlet 이전에 적용된다. 즉, request 는 Sprint Security Filter -> Dispatcher Servlet -> interceptor -> Controller 순으로 전달된다. Spring Security 를 통해 인증 과정을 거치고 나면, 특정 리소스에 접근을 하기 위한 권한을 확인한다.