[선형대수] 내적 (Dot Product)

내적(Dot Product)를 수치적으로 보면, 같은 차원의 두 벡터에서 같은 좌표의 값들을 짝지어 곱한 뒤 모두 더해주는 것이다.

 

$$\begin{bmatrix} {\color{Red} 2} \\ {\color{Blue} 7} \\ {\color{Green} 1} \end{bmatrix} \cdot   \begin{bmatrix} {\color{Red} 8} \\ {\color{Blue} 2} \\ {\color{Green} 8} \end{bmatrix} = {\color{Red} 2} \cdot {\color{Red} 8}  + {\color{Blue} 7} \cdot  {\color{Blue} 2} + {\color{Green} 1} \cdot {\color{Green} 8}$$

 

왼쪽 벡터와 오른쪽 벡터를 각각 $\vec{v}$와 $\vec{w}$라고 표기할 때, 내적 값은 $\vec{v}$를 $\vec{w}$에 투영했을 때의 길이와 $\vec{w}$의 길이의 곱과 동일하다.

• 두 벡터가 같은 방향을 가리키면 내적 값은 양수, 서로 직각을 이루는 경우(투영했을 때 영벡터가 되는 경우)에는 내적 값이 0, 그리고 반대 방향을 가리키면 내적 값은 음수가 됨. 
• $\vec{v}$와 $\vec{w}$의 순서, 즉 어떤 것을 투영할지는 상관 없음.

그런데 이상하게 느껴져야 할 점은 왜 한 벡터를 다른 벡터에 투영한 길이와 다른 벡터의 길이의 곱(기하학적 해석)이

좌표값들을 곱하는 것과 같아지냐는 것(수치적 해석)이다. 

 

결론부터 말하자면 이것이 내적의 이중성(Duality)이다. 

 

먼저 2차원을 예시로 들면, 선형 변환은 2D 공간을 하나의 직선으로 축소 시킨다. 이 직선의 unit vector는 필연적으로 하나의 vector(기존 2차원의 unit vector인 $i$와 $j$로 표현되는)로 표현할 수 있다. 

 

그리고 이제 또 다른 하나의 벡터가 해당 선형 변환에 의해서 바뀌었다고 했을 때, 바뀐 벡터는 앞서 만들어진 직선 위에 안착할 것이다. 그런데 하나의 벡터로, 특히 원래 2차원의 단위 벡터로 표현되기 때문에 선형 변환한 벡터의 최종 값은 다음과 같아진다. 

 

( 선형 변환과 내적의 연산 과정을 비교하면 매우 유사한 것을 확인할 수 있다. 1x2 행렬은 2차원 벡터를 옆으로 눕힌 것과 동일하고, 반대로 2차원의 벡터는 1x2 행렬을 세운것과 같다. 앞에서 나온 예시를 선형 변환(행렬)으로 표시하면 다음과 같다.)

 

$$\begin{bmatrix}
{\color{Red} 2} & {\color{Blue} 7} & {\color{Green} 1} 
\end{bmatrix}
\cdot 
 \begin{bmatrix}
{\color{Red} 8} \\
{\color{Blue} 2} \\
{\color{Green} 8}
\end{bmatrix}
= {\color{Red} 2} \cdot {\color{Red} 8}  + {\color{Blue} 7} \cdot {\color{Blue} 2} + {\color{Green} 1} \cdot {\color{Green} 8}$$

 

* 모든 상수는 앞으로 빠질 수 있기 때문에 scaling의 경우는 어렵지 않다.

 

선형변환이라고 생각하면 이러한 수치적 해석이 들어맞는다. 그런데 하나의 직선 위에 투영한다는 점에서 기하학적 해석도 들어맞게 된다. 

 

따라서 벡터는 어떤 선형변환이 적용되는지를 시각적으로 표현한 것으로 이해할 수도 있다. 내적은 입력이 벡터고 출력이 숫자인 선형변환과 벡터 그 자체 두 가지의 어떠한 연결성과 내적의 이중성을 보여준다.