본문 바로가기
AI 수학/선형대수

내적 (Inner Product)

by 세인트 워터멜론 2020. 10. 21.

두 개의 벡터 사이의 덧셈은 각각의 구성 성분을 더하는 것으로 정의한다. 그렇다면 곱셈 연산은 어떻게 정의할까. 곱셈 연산으로 두 가지 방식이 있다. 바로 dot product와 cross product 연산이다.

 

 

두 벡터 \( \mathbf{a}= \begin{bmatrix} a_1 & a_2 & \cdots & a_n \end{bmatrix}^T \)와 \( \mathbf{b}= \begin{bmatrix} b_1 & b_2 & \cdots & b_n \end{bmatrix}^T \)가 있을 때, 두 벡터의 dot product 또는 내적(inner product)은 다음과 같이 정의한다.

 

\[ \mathbf{a} \cdot \mathbf{b} = a_1 b_1 + a_2 b_2 + \cdots + a_n b_n \]

 

내적은 위 식에서 보듯이 두 벡터의 성분을 차례로 곱한 다음에 모두 더하는 연산으로 정의한다. 보통 내적의 기호로 점(dot)을 이용하지만 다음과 같이 표기하기도 한다.

 

\[ \mathbf{a} \cdot \mathbf{b} =(\mathbf{a},\ \mathbf{b}) = \mathbf{a}^T \mathbf{b} \]

 

내적 연산의 결과로 스칼라 값이 나오기 때문에 내적을 scalar product라고도 한다.

정의에 의하면 내적은 다음과 같은 특성을 갖는다.

 

\[ \begin{align} & \mathbf{a} \cdot \mathbf{b} = \mathbf{b} \cdot \mathbf{a} \\ \\ & \mathbf{a} \cdot (q_1 \mathbf{b} + q_2 \mathbf{c}) = q_1 ( \mathbf{a} \cdot \mathbf{b}) + q_2 ( \mathbf{a} \cdot \mathbf{c}) \\ \\ & \mathbf{0} \cdot \mathbf{a} = 0 \end{align} \]

 

여기서 \( q_1 \)과 \( q_2 \)는 임의의 상수다. 내적은 교환 법칙과 분배 법칙이 성립한다는 얘기로서 증명하는 것은 어렵지 않다. 한편 내적을 이용해서 벡터의 놈(norm)을 다음과 같이 정의한다.

 

\[ \sqrt{ \mathbf{a} \cdot \mathbf{a} } = \| \mathbf{a} \| \]

 

norm에는 이것 말고도 몇 가지 정의가 더 있는데, 위와 같은 norm을 2-norm이라고 한다. 2-norm은 벡터의 길이(또는 크기)를 나타낸다.

내적에는 중요한 기하학적 의미가 있는데, 두 벡터 \( \mathbf{a} \)와 \( \mathbf{b} \) 사의의 각(angle) \( \theta \)를 다음과 같이 내적을 이용해서 계산할 수 있다는 것이다.

 

\[ \cos \theta = \frac{ \mathbf{a} \cdot \mathbf{b} } { \| \mathbf{a} \| \| \mathbf{b} \| } \]

 

증명해 보자. 여기서는 3차원 벡터에 대해서만 증명하지만 동일한 방법을 \( n \)-차원 벡터로도 확장시킬 수 있다. 원점 \( O \)에서 어떤 점 \( A \)와 \( B \)를 가리키는 벡터를 각각 \( \mathbf{a} \)와 \( \mathbf{b} \)라고 하자. 그러면 점 \( A \)에서 \( B \)까지의 벡터는 \( \mathbf{b}-\mathbf{a} \)가 된다. 3개의 점은 한 평면을 이루므로 세 개의 벡터는 한 평면 상에 존재한다.

 

 

두 벡터 \( \mathbf{a} \)와 \( \mathbf{b} \)의 사잇각을 \( \theta \)라고 하면, 코사인 법칙에 의해서 다음 식이 성립한다.

 

\[ \| \mathbf{b}-\mathbf{a} \|^2 = \| \mathbf{a} \|^2 + \| \mathbf{b} \| ^2 - 2 \| \mathbf{a} \| \| \mathbf{b} \| \cos \theta \]

 

그런데 여기서

 

\[ \begin{align} \| \mathbf{b}-\mathbf{a} \|^2 &= ( \mathbf{b}-\mathbf{a} ) \cdot ( \mathbf{b}-\mathbf{a} ) \\ \\ &= \mathbf{b} \cdot \mathbf{b} - 2 \mathbf{a} \cdot \mathbf{b} + \mathbf{a} \cdot \mathbf{a} \\ \\ &= \| \mathbf{b} \|^2 - 2 \mathbf{a} \cdot \mathbf{b} + \| \mathbf{a} \| ^2 \end{align} \]

 

이므로

 

\[ \mathbf{a} \cdot \mathbf{b} = \| \mathbf{a} \| \| \mathbf{b} \| \cos \theta \]

 

가 성립한다.

만약 두 벡터의 내적이 0이면 두 벡터는 서로 직각이다.

 

 

어떤 벡터 \( \mathbf{a} \)와 단위 벡터 \( \mathbf{i} \)간의 내적은 벡터 \( \mathbf{a} \)의 길이를 단위 벡터가 가리키는 방향으로 투사한 길이와 같다.

 

 

그런데 참고로 코사인 법칙은 다음과 같이 증명할 수 있다.

 

 

위 그림에서 녹색으로 칠한 직각 삼각형에 주목하자. 직각 삼각형의 높이는 \( b \sin \theta \)이고, 밑변의 길이는 \( a-b \cos \theta \) 이므로, 피타고라스의 정리에 의해서 다음 식이 성립한다.

 

\[ \begin{align} c^2 &= (b \sin \theta )^2 + (a- b \cos \theta )^2 \\ \\ &= b^2 \sin^2 \theta + a^2 -2 ab \cos \theta + b^2 \cos^2 \theta \\ \\ &= a^2 + b^2 -2ab \cos \theta \end{align} \]

 

 

 

 

'AI 수학 > 선형대수' 카테고리의 다른 글

행렬의 조건수 (Condition Number)  (0) 2021.03.02
놈 (norm)  (0) 2020.10.24
유사 역행렬 (Pseudo Inverse Matrix)  (0) 2020.10.19
특이값 분해(SVD)의 응용: 이미지 압축  (0) 2020.07.25
특이값 분해(SVD)의 증명  (0) 2020.07.23

댓글