이번 포스팅에서는 트랜스포머가 어떤 순서로 훈련과 예측을 수행하는지 알아보겠습니다. 트랜스포머 훈련과 예측 스텝 1트랜스포머 모델이 '어제 카페 갔었어'라는 한글 문장을 영어로 번역하는 과정을 살펴보겠습니다. 이 과정을 통해 트랜스포머의 훈련과 예측이 어떤 과정을 거치는지 이해할 수 있습니다. - 인코더 입력: 한글 소스 시퀀스 전체- 디코더 입력: 인코더의 출력 + 토큰 (시작 스페셜 토큰)- 최종 출력: 영어 번역 출력 I 이 단계에서 인코더는 한글 문장을 처리해 디코더로 전달하고, 디코더는 이 정보와 시작 토큰을 바탕으로 첫 번째 영어 단어 'I'를 예측합니다.좀 더 자세히 설명하면 인코더는 입력 소스 시퀀스를 압축해 디코더로 보내고, 디코더는 인코더에서 보내온 정보와 현재 디코더 입력을 모두 고..

파이썬으로 request 모듈로 https를 요청할 때 인증서 verify를 false로 하는 경우 발생하는 SSL 경고 메시지를 없애는 방법입니다. https 요청하기 python 으로 https 요청 할 때 ssl 인증서를 검증받지 않도록 하는 옵션을 사용할 수 있습니다. requests.post(url, data, verify=False) 이 경우 요청 시 에 다음과 같은 오류 메시지가 계속해서 출력됩니다. Unverified HTTPS Request...... request is being made to host '192.168.1.100'. Adding certificate verification is strongly advised. See: https://urllib3.readthedocs.i..

EBS 입이 트이는 영어 2024.3.22 Waiting for a Baby Waiting for a Baby 본문 Hearing the story of waiting for a baby among the topics in the April issue of 입트영 study material, I could relate to storyteller's feelings. I too went through challenging times due to infertility. When my husband and I couldn't conceive after 4 years of marriage, we went to get checked up. We were told at the clinic that chances w..

EBS 입이 트이는 영어 2024.3.21 Banyan Rubber Tree Banyan Rubber Tree 본문 A while ago I received a banyan rubber tree branch as a gift. The person who gave it to me said that if I place it in a water fine roots would grow from it after two weeks. Then I could move it to a flower pot. I immediately put the plan into action. I searched for information online and did the best I could to quickly obtain roots..

EBS 입이 트이는 영어 2024.3.20 Making Friend with a celebrity Making Friend with a celebrity 본문 Ten years ago in a TV drama I saw an actor portraying the role of a Korean dad in his late 40s. He was so convincing that I felt a strong connection with him. When I found out that the actor was the same ages me, I was struck with thought it would be nice to be friend with him. One day I learned about a cafe..

이번 포스팅에서는 트랜스포머의 인코더, 디코더에 대해서 더 상세하게 알아보겠습니다.  트랜스포머의 상세 구조트랜스포머는 크게 인코더와 디코더 두 부분으로 나뉩니다. 인코더, 디코더는 여러 개의 동일한 레이어로 구성되어 있으며, 이러한 레이어들이 N번 겹쳐 있는 구조를 가집니다(Nx). 이제 트랜스포머의 각 구성요소에 대해서 좀 더 자세히 알아보겠습니다.  포지셔널 인코딩 (Positional Encoding)트랜스포머 모델은 입력 시퀀스를 일련의 벡터로 변환해 처리합니다. 그러나 모델은 순서 정보를 자동으로 감지하지 못하기 때문에, 순서를 명시하지 않으면 'this is a cat'과 'cat a is this'를 구별할 수 없습니다. 즉, 모델에게 두 시퀀스가 동일한 벡터 표현을 가질 수 있음을 구분할..