AI 시대의 서막, Transformer (1)

요즘 ChatGPT, Gemini, Claude 같은

생성형 AI를 이야기할 때 빠지지 않고 등장하는 단어가 있습니다.

 

바로 Transformer(트랜스포머)입니다.

 

현재 우리가 사용하는 대부분의 대규모 언어 모델(LLM)은

Transformer를 기반으로 발전했습니다.

그 시작점으로 꼽히는 논문이 바로 2017년 Vaswani 등 연구진이 발표한

「Attention Is All You Need」

입니다.

제목을 직역하면

“어텐션만 있으면 된다.”

정도가 됩니다.

조금 도발적인 제목이죠.

당시 자연어 처리에서는 RNN이나

LSTM과 같은 순환신경망이 중심이었습니다.

 

---

그런데 연구진은 아예 이렇게 제안합니다.

“순환 구조를 없애고 Attention만으로 문장을 처리해보자.”

그리고 이 아이디어가 이후 생성형 AI의 구조를 바꾸게 됩니다.

---

왜 새로운 구조가 필요했을까?

기존의 RNN 계열 모델은 문장을 순서대로 처리했습니다.

 

RNN 나무위키

예를 들어,

“오늘 학교에서 친구와 축구를 했다.”

라는 문장이 있다면

오늘 → 학교에서 → 친구와 → 축구를 → 했다

처럼 앞의 정보를 처리한 다음 뒤의 정보를 처리합니다.

문제는 문장이 길어질수록 이런 순차적인 계산이

병렬처리를 어렵게 만든다는 것입니다.

논문에서도 RNN의 순차적 계산 구조 때문에

긴 문장을 학습할 때 효율적인 병렬화가 어렵다는 점을 중요한 한계로 지적합니다.

연구진이 선택한 해결책은 Self-Attention이었습니다.

문장을 처음부터 끝까지 순서대로만 읽는 것이 아니라,

문장 안의 각 단어가 다른 단어와 어떤 관계를 가지는지를 직접 계산하는 방식

입니다.

---

Transformer의 핵심은 Attention이다

Transformer에서 Attention은 쉽게 말하면

“현재 단어를 이해하기 위해 어떤 다른 단어를 얼마나 중요하게 봐야 하는가?”

 

를 계산하는 과정입니다.

예를 들어,

“민수는 사과를 먹었다. 그는 배가 고팠다.”

라는 문장이 있다고 해보겠습니다.

여기서 ‘그는’이라는 단어를 이해하려면 앞에 등장한 ‘민수’와의 관계가 중요합니다.

Self-Attention은 이렇게 멀리 떨어져 있는 단어 사이의 관계도 직접 계산할 수 있습니다.

논문에서는 Transformer가 순환신경망이나 합성곱신경망을 사용하지 않고
Attention만을 이용해 입력과 출력 사이의 전체적인 관계를 학습하도록 설계되었다고 설명합니다.

---

Model Architecture

 

Transformer를 이해할 때 가장 먼저 봐야 할 그림이 바로 위의

Model Architecture 입니다.

왼쪽은 Encoder,

오른쪽은 Decoder입니다.

 

Encoder는 입력 문장을 이해하는 역할을 하고,

Decoder는 그 정보를 이용해 새로운 문장을 생성합니다.

논문에서 제시한 기본 Transformer는

Encoder와 Decoder가 각각 6개의 레이어로 구성되어 있습니다.

Encoder에서는

Multi-Head Attention
→ Feed Forward Network

구조가 반복됩니다.

Decoder에서는 여기에 Encoder의 정보를 참고하는

Attention이 하나 더 추가됩니다.

지금 보면 익숙해 보이지만

당시에는 상당히 중요한 변화였습니다.

---

Multi-Head Attention은 왜 필요할까?

Transformer의 또 다른 핵심은 Multi-Head Attention입니다.

Attention을 한 번만 수행하는 것이 아니라

여러 개를 동시에 수행하는 방식입니다.

쉽게 말하면 한 문장을 여러 관점에서 바라보는 것입니다.

 

어떤 Attention Head는

“주어와 동사의 관계”

를 볼 수 있고,

또 다른 Head는

“대명사가 어떤 단어를 가리키는가”

를 볼 수 있습니다.

연구에서는 여러 Attention Head가 서로 다른 표현 공간에서

정보를 동시에 살펴볼 수 있다는 점을

Multi-Head Attention의 장점으로 설명합니다.

---

Scaled Dot-Product Attention과 Multi-Head Attention

Transformer의 Attention 구조를

조금 더 자세하게 보여주는 논문의 이미지인데요.

왼쪽이 Scaled Dot-Product Attention,

오른쪽이 Multi-Head Attention입니다.

여기에서 자주 등장하는 세 글자가 있습니다.

Q, K, V입니다.

Query
Key
Value

입니다.

아주 단순하게 생각하면,

Query는

“내가 찾고 싶은 정보”

Key는

“각 정보가 무엇과 관련되어 있는지 나타내는 기준”

Value는

“실제로 가져올 정보”

라고 이해할 수 있습니다.

Transformer는 Query와 Key의 관계를 계산한 뒤

중요한 Value에 더 높은 가중치를 부여합니다.

이 구조는 지금의 LLM에서도 핵심적인 역할을 하고 있습니다.

다음 시간에 이어서 살펴보겠습니다.

 

참고문헌

Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł., & Polosukhin, I. (2017). Attention is all you need. 31st Conference on Neural Information Processing Systems (NIPS 2017).