Linear Algebra - 벡터 공간 (Vector space)

벡터 공간(vector space)는 벡터 객체들을 포함하는 집합과 두 가지 연산 (벡터 덧셈과 스칼라 곱셈)이 정의된 구조를 뜻합니다.

 

다음과 같은 공리들을 만족할 때 벡터 공간이라고 말할 수 있습니다.

1. 백터 덧셈의 닫힘성(closure): 임의의 두 벡터 u,v가 벡터 공간에 속할 대, 이들의 합 u+v도 벡터 공간에 속한다.

2. 벡터 덧셈의 결합 법칙: (u+v) + w = u + (v + w)

3. 덧셈의 항등원: 벡터 공간에는 모든 벡터 v에 대해 v + 0 = v를 만족하는 영벡터 0가 존재한다.

4. 덧셈의 역원: 모든 벡터 v에 대해 v + (-v) = 0를 만족하는 벡터 -v가 존재한다.

5. 벡터 덧셈의 교환법칙: u + v = v + u

6. 스칼라 곱셈의 닫힘성: 임의의 스칼라 a와 벡터 v에 대해 av도 벡터 공간에 속한다.

7. 스칼라 곱셈의 결합법칙: a(bv) = (ab)v

8. 스칼라 곱셈의 항등원: 1v = v

9. 스칼라 곱셈의 분배법칙: a(u+v) = au + av, (a+b)v = av + bv

 

다항식을 벡터로 간주할 수 있는 이유

 

위에서 말한 벡터 공간의 공리를 만족하는 것들은 벡터로 간주할 수 있습니다. 그렇다면 다항식 또한 벡터 공간의 공리를 어떻게 만족하는지 볼까요?
다항식 $ p(x) = a_n x^n + a_{n-1} x^{n-1} + \ldots + a_1 x + a_0 $는 계수 $ a_i $들이 벡터 공간의 성질을 만족하는지 살펴봅시다:
1. 덧셈: 두 다항식 $ p(x) $와 $ q(x) $의 덧셈은 또 다른 다항식 $ r(x) = p(x) + q(x) $를 생성합니다.
2. 스칼라 곱셈: 다항식 $ p(x) $에 스칼라 $ \lambda $를 곱한 결과 $ \lambda p(x) $도 또 다른 다항식입니다.

 

선형대수학에서 다항식 벡터들을 이용하면 우리가 다항식에서 근을 찾는 문제를 행렬과 션형 변환을 이용해 해결할 수 있습니다. 또한 주어진 데이터에 가장 잘 fit하는 다항식을 찾는 문제는 최소 제곱법을 사용해 근사할 수 있으며, 이는 선형대수학의 기본 연산에 기반한 방법입니다. 또한 다항식을 벡터로 취급하면 변수 변환이나 다항식의 기저 변환 등의 문제를 더 쉽게 처리할 수 있습니다. 

 

 

벡터 공간의 닫힘성(Closure)

 

벡터 공간에서 또다른 중요한 개념인 벡터 공간의 닫힘성에 대해서 알아봅시다. 

벡터 공간의 닫힘성은 벡터 공간 내의 두 벡터에 대해 정의된 연산(덧셈과 스칼라 곱셈)을 수행했을 때, 그 결과가 항상 같은 벡터 공간 내에 속한다는 성질을 말하며 벡터 공간이 완전하고 자족(?)적인 구조임을 보여줍니다.

 

벡터 덧셈의 닫힘성
$ \mathbf{u}, \mathbf{v} \in V $ 이면 $ \mathbf{u} + \mathbf{v} \in V $

벡터 공간 $ V $의 임의의 두 벡터 $ \mathbf{u} $와 $ \mathbf{v} $가 있을 때, 벡터 덧셈의 결과 $ \mathbf{u} + \mathbf{v} $가 다시 $ V $에 속합니다.

2차원 평면 상의 벡터 \( \mathbf{u} = \begin{pmatrix} 1 \\ 2 \end{pmatrix} \)와 \( \mathbf{v} = \begin{pmatrix} 3 \\ 4 \end{pmatrix} \)를 더하면, \( \mathbf{u} + \mathbf{v} = \begin{pmatrix} 4 \\ 6 \end{pmatrix} \)가 되며, 이는 여전히 2차원 평면 상의 벡터입니다.

 

스칼라 곱셈의 닫힘성
\( \mathbf{v} \in V \)이고 \( a \in \mathbb{R} \)이면 \( a\mathbf{v} \in V \).

벡터 공간 \( V \)의 임의의 벡터 \( \mathbf{v} \)와 스칼라 \( a \)가 있을 때, 스칼라 곱셈의 결과 \( a\mathbf{v} \)가 다시 \( V \)에 속합니다.

스칼라 \( 2 \)와 벡터 \( \mathbf{u} = \begin{pmatrix} 1 \\ 2 \end{pmatrix} \)의 곱 \( 2\mathbf{u} = \begin{pmatrix} 2 \\ 4 \end{pmatrix} \)도 여전히 2차원 평면 상의 벡터입니다.

다항식 벡터 공간의 닫힘성
  - 두 다항식 \( p(x) = 2x^2 + 3x + 1 \)과 \( q(x) = x^2 - x + 2 \)의 합 \( r(x) = p(x) + q(x) = 3x^2 + 2x + 3 \)는 여전히 다항식입니다.

  - 스칼라 \( 2 \)와 다항식 \( p(x) = 2x^2 + 3x + 1 \)의 곱 \( s(x) = 2p(x) = 4x^2 + 6x + 2 \)도 여전히 다항식입니다.

 

벡터 공간의 닫힘성은 연산을 반복하더라도 벡터 공간의 구조가 유지됨을 보장합니다.

이를 통해 벡터 공간에서 수행하는 연산의 결과를 예측할 수 있으며, 이는 수학적 분석과 알고리즘 설계에 도움을 줄 수 있습니다.
또한 벡터 공간은 내부적으로 자족적인 체계를 가지며, 외부의 추가적인 요소 없이도 완전한 구조를 형성합니다.

마지막으로 벡터 공간의 닫힘성은 벡터의 선형 조합이 항상 같은 벡터 공간 내에 속함을 보장하여, 벡터 공간의 기저를 정의하고 차원을 분석하는 데 중요한 역할을 합니다. 또한, 행렬의 벡터 공간에서, 행렬 덧셈과 스칼라 곱셈의 닫힘성은 연산 결과가 항상 행렬 공간 내에 속함을 보장하여, 선형 변환의 안정성을 유지하고, 머신러닝 알고리즘에서 벡터와 행렬 연산이 일관성 있게 수행될 수 있게 합니다.