트랜스포머 기반 언어 모델의 특징을 올바르게 설명하는 설명은 무엇입니까?

트랜스포머 기반 언어 모델은 셀프 어텐션 메커니즘을 사용하여 입력 시퀀스 내의 단어들 간의 컨텍스트 관계를 효과적으로 모델링합니다. 이 메커니즘은 각 단어가 시퀀스의 다른 모든 단어에 얼마나 집중해야 하는지를 학습하여 장거리 의존성을 포착할 수 있게 합니다. 오답 설명: 컨볼루션 레이어는 주로 CNN(Convolutional Neural Network)에서 이미지의 로컬 패턴을 캡처하는 데 사용되며, 트랜스포머의 핵심 메커니즘이 아닙니다. 트랜스포머는 텍스트 외에도 오디오, 비디오 등 다양한 시퀀스 데이터를 처리할 수 있도록 확장되었습니다. 반복되는 주기에서 한 번에 하나의 요소를 시퀀스 처리하는 것은 RNN(Recurrent Neural Network)의 특징이며, 트랜스포머는 병렬 처리를 통해 효율성을 높입니다.