이 개념은 샵투스쿨의 “트랜스포머 모델로 GPT만들기” 학습 중 수강생분들이 더 자세히 알고 싶어하시는 용어들을 설명한 것입니다.
`reshape(-1)`은 해당 차원의 크기를 자동으로 조정하는데, 기준으로는 다른 차원의 크기를 유지하면서 조정됩니다.
예를 들어, 크기가 (2, 3, 1)인 3차원 텐서를 생각해봅시다.* 하단 설명 참고
“`
[[[1],
[2],
[3]],
[[4],
[5],
[6]]]
“`
여기서 `reshape(-1)`을 적용하면, 첫 번째 차원의 크기를 자동으로 조정하면서 다른 차원은 유지됩니다. 결과는 다음과 같습니다.
“`
[1, 2, 3, 4, 5, 6]
“`
즉, `reshape(-1)`은 해당 차원의 크기를 다른 차원의 크기에 따라 자동으로 조정하여 텐서의 구조를 유지하면서 편리한 연산을 가능하게 합니다.
*(크기가 (2, 3, 1)인 3차원 텐서는 다음과 같은 의미를 가집니다:
– 2: 첫 번째 차원의 크기는 2입니다. 이는 텐서가 2개의 요소(예: 문장, 문장)를 포함한다는 것을 의미합니다.
– 3: 두 번째 차원의 크기는 3입니다. 이는 각 요소가 3개의 하위 요소(예: 단어)로 구성되어 있다는 것을 의미합니다.
– 1: 세 번째 차원의 크기는 1입니다. 이는 각 하위 요소가 1개의 값(예: 숫자)으로 표현된다는 것을 의미합니다.
따라서, 크기가 (2, 3, 1)인 3차원 텐서는 2개의 문장을 포함하고, 각 문장은 3개의 단어로 구성되며, 각 단어는 1개의 숫자로 표현된다는 것을 나타냅니다.)