向量空間、基底，與線性代數裡的一些概念
國立清華大學
《幾何原本》奠定了數學體系建立的基礎，影響後世的數學發展：一切都從公理開始。
也就是說，數學命題都是分析的（相對於此是綜合的，一個命題的結構可以看成主詞+述詞，分析和綜合的區別，在於對這個命題做判斷，是從主詞就能分析出述詞來，還是主詞與述詞要透過第三者來連接），從定義出發，從所求想起，推論的每一步都是依靠給定的條件，不能憑著某些直覺而沒有憑據操作。數學體系的建立，奠基於揭發隱而未顯的假設，把直觀化為給定的條件。
一、常見的那八/九條公設
我們說Vector Space V over Field F，向量空間V佈於體F之上
向量空間V上面有加法運算+:V×V→V，對加法是一個交換群，也就是對V裡面的任意的元素x,y,z（也就是向量），滿足
1.結合律：(x+y)+z=x+(y+z)
2.零元素：V裡面存在一個零向量0，x+0=0+x=x
3.反元素：對所有V裡面的x，存在-x，使得x+(-x)=(-x)+x=0
上面是群的定義，如果再加上交換律，即對任意x,y屬於V，x+y=y+x，這樣就是一個交換群
F是一個體，例如有理數ℚ、實數ℝ、複數ℂ、代數數，大二前不會遇到別的，就是一個集合F上面有兩個運算，加法+和乘法×，不過我下面省略乘法的記號。
F對加法是一個交換群，零元素寫做0，那對於0以外的元素，對於乘法構成一個交換群。再來是滿足分配律a(b+c)=ab+ac和(a+b)c=ac+bc，這樣就是一個體了。
然後體的乘法零元素（零元素通常也叫單位元，identity），通常記作1
向量空間上面還有係數乘法•:F×V→V，而我們希望向量空間能繼承F的一些結構，例如結合律、分配律，或是所有東西乘以0是0，乘以1不會變。數學家得到下面幾條，其他的都可以從這幾條推導出來：
對任意F裡面的係數a,b及乘法單位元1，V裡面的向量x,y
1. (a+b)•x=a•x+b•x
2. 2. a•(x+y)=a•x+a•y
3. 3. 1•x=x
4. 4. a•(b•x)=(ab)•x
上面就是係數乘法的定義了
總結一下就是你要檢查一個集合V是不是向量空間，要先確定它是佈於哪個體F。確立這兩個集合之後再驗證上面的運算
+：V×V→V
+•：F×V→V
是否滿足(V,+)是一個交換群，•滿足那四條，也就是總共有8條公理要驗證。
（註：V×V→V的符號，意思是兩個V當中的向量x,y可以組成一對(x,y)，(x,y)由加法函數送到V裡面的一個向量，但我們就直接寫x+y了。V×V是V和V的卡氏積，它是一個集合，從V會和V裡面各挑一個元素出來作為一對，可以簡寫成V²。
同理，•：F×V→V就是F和V裡面各挑一個元素組成一對，由乘法函數送到V裡面的一個元素。
如果是ℝ×ℝ×ℝ×ℝ，裡面的元素就是(a,b,c,d)，其中a,b,c,d都是ℝ裡面的實數。ℝ×ℝ×ℝ×ℝ可以直接簡寫成ℝ⁴，就不用寫四次ℝ。
再舉個例子，V*×V*×……×V*×V×V×……V，前面有p個V*相乘，後面有r個V相乘，可以簡寫為(V*)ᵖ×Vʳ，裡面的元素都是(x*,…,y*,v,…w)，前面p個分量是線性泛函，後面r個分量是向量）
二、另類定義
其實有別的方式來定義向量空間
先有一個集合B，我們待會叫它基底。B是什麼樣的集合都可以，裡面的元素可以是顏色，可以是ㄅㄆㄇ，可以是任何東西。下面茲舉B={x,y,z}
R是一個環，一個集合，跟整數一樣，上面有加法+，加法具備結合律、交換律，R裡面也有一個0，每個a屬於R都存在加法反元素-a屬於R使得a+(-a)=0
R也有乘法，只要有結合律就好，另外加法和乘法之間還有分配律，a(b+c)=ab+ac，(a+b)c=ac+b。
有些人的定義當中，環有一個乘法單位元1，對於所有a屬於R，a•1=1•a，下面一律假設R有1（像是所有偶數的環就沒有乘法單位元，這種東西叫rng）
接著在B上定義（形式上的）線性組合，首先先有係數積：a屬於R，ax就是一個形式上的乘法，把a跟x擺在一起。如果有另一個b屬於R，那b(ax)=(ba)x。R裡面特殊的兩個元素0跟1，運算比較特別，1x=x，0x=0 (等式右邊的0不是R裡面的0，而是形式上的0）
加法的部分，也是形式上的加法，ax+by就只是放在一起，中間擺一個等號，而且我們令ax+by=by+ax，所以這個加法就有交換性。另外它也有分配律，a(x+y)=ax+ay，(a+b)x=ax+ay。當然也少不了結合律ax+(by+cz)=(ax+by)+cz，c屬於R
歸納一下，我們讓係數依附在B裡面的元素上，做加法和係數乘法其實是對前面的係數操作，B裡面的不同元素只是做出一些區隔來，它是什麼並不重要。
把所有 ax+by+cz 這種形式的東西蒐集在一個集合M裡面，M搭配上加法與係數積，就是一個自由的R模（Free R-module），或直接叫自由模，B是它的基底，B裡面的元素的數量是M的維度。如果R的乘法也有交換律，除了0以外的元素a都有乘法反元素a⁻¹（a⁻¹a=1），那R也是一個體，此時M稱作向量空間，M裡面的東西叫做向量。
每個向量都是 ax+by+cz 的形式（v=ax+by+cz），是基底向量的線性組合，可以用一組數對 (a,b,c) 來表示，a, b, c 分別是 v 在 x, y, z 分量的係數。
用這樣的表示法，不難發現維度相同的向量空間，其實是同一個東西，而這樣的表示法給了它們之間的對應。
R×R×R=R³=所有長得像(a,b,c)的東西的集合，當中 a, b, c 屬於 R。當 M 是向量空間，其實可以直接當作是 R³。(0,0,0)即是形式上的0，被稱作0向量。
基底B有兩個性質很重要，第一個，它是生成集，即M裡面所有向量都是ax+by+cz的形式。第二個，它是線性獨立集，如果ax+by+cz是零向量，則(a,b,c)只能是(0,0,0)。（反過來說一組向量是線性相依的，如果存在一組不全為0的係數，使得它們的線性組合是零向量）
三、兩個版本的比較
在前面版本的定義中，原本沒有基底的定義。在那套定義下，基底是一個線性獨立的生成集，但是沒有說明可不可以找得到一個向量空間的基底。
生成集一定可以找到的，就直接選取整個向量空間。生成集如果是有限的，事情就簡單，例如{x,y,z,w}是一個生成集，ax+by+cz+dw=0，如果d不為0，我們就有ax+by+cz=-dw，w=(-d)⁻¹ax+(-d)⁻¹by+(-d)⁻¹cz，w可以被生成集裡其他向量生成，{x,y,z}依然是一個生成集。透過這種方式，能把生成集多餘的向量挑掉，直到它變成一組基底為止。
但是當所有生成集都是無窮大的集合的時候，這個方法就不管用了。線性組合只能對有限個向量做組合，無限次加法東西是沒有定義的。
如果你承認選擇公理，那就有一個定理：所有向量空間都存在基底。這代表，兩套定義是等價的。
有一個技術性問題，那就去這個定理只保證基底的存在性，但沒有說怎麼直接找到。因此在不需要基底的操作的情況下，我們會使用前面這套定義。
在高中討論的向量空間，都限制在R=ℝ或ℂ的情況，而且是有限維向量空間，所以你可以放心地說，向量都是(a₁,a₂,…,aₙ)這樣的東西，加法是每個對應的分量相加，係數乘法則是乘進去c(a₁,a₂,…,aₙ)=(ca₁,ca₂,…,caₙ)
四、雙線性形式
內積是這樣定義的：
對向量空間中任意的向量x,y,z,v，以及體當中的係數p， 從把兩個向量映射到ℂ的函數g滿足：
1.Hermitian 對稱：
g(x,y)=g(y,x)*(「*」表共軛複數）
2.共軛雙線性：
(1) g(x,y+z)=g(x,y)+g(x,z)
(2) g(a,pb)=pg(a,b)
3. 自身的內積非負(正定)：
g(v,v)≥0且g(v,v)=0只有在v=0的時候成立
註：複數都是a+bi的形式(a, b都是實數)，如果g(x,y)=a+bi，則g(y,x)=a-bi
任意用兩個向量決定一個複數的函數，如果它是雙線性的，它就叫雙線性形式（2-form）。
第三個條件叫正定性，它的用途是確保我們可以對g(v,v)開根號。√g(v,v)就定義為向量v的大小，也寫做||v||
在通常的情況下，尤其是高中或者是一些幾何，g(x,y)也寫做x•y或⟨x,y⟩
兩個相異非零向量x,y滿足x•y=0，則稱x,y正交，也就是x和y垂直。
向量都能由基底決定，如果基底向量之間的內積都決定好了，那任兩個向量之間的內積也決定了。
再用前面基底B的例子，如果每個基底向量的大小都是1，而且任兩個基底向量都正交，則(a,b,c)•(d,e,f)=ad+be+cf。
假設R=ℝ，沒有共軛的問題，而基底是{t,x,y,z}，相對論中，定義g(t,t)=1，g(x,x)=g(y,y)=g(z,z)=-1，一樣是雙線性的，但它就沒有滿足正定性的條件，參見Minkowski metric (2-form是Bilinear form的簡寫)更多的資訊可以看這裡列的文章關於內積的一些等式恰好與餘弦和角公式一樣，所以能反過來定義向量之間的夾角。外積也可以在這篇看到五、複習與延伸
向量空間都有一組基底，讓向量空間裡面的向量都可以用基底向量線性組合出來。例如體F上的n維向量空間V的基底是{x₁,x₂,...,xₙ}，那V裡面任意一個向量v都能寫成a₁x₁+a₂x₂+...+aₙxₙ的形式，其中aᵢ是F裡面的係數。
線性變換φ是滿足φ(ax+by)=aφ(x)+bφ(y)的映射，a,b,是F裡面的係數，x,y是V裡面的向量。而φ的特徵向量v是滿足Tφv)=λν的非零向量，λ是F裡面的係數，稱作特徵值。也就是說經過線性變換後，v只是變成常數倍。
內積是這樣定義的：
對向量空間中任意的向量a,b,c，以及體當中的係數p， 從把兩個向量映射到體的運算「•」滿足：
1.Hermitian 對稱：
a•b=(b•a)*(「*」表共軛複數）
2.共軛雙線性：
(1) a•(b+c)=a•b+a•c
(2) a•(pb)=p(a•b)
3. 自身的內積非負(正定)：
a•a≥0且a•a=0僅當a=0
不難驗證兩個函數其中一個取共軛，相乘後再積分，符合內積的定義。向量空間具備內積的定義後，稱作內積空間。相異兩個非零向量a,b滿足a•b=0，則稱a,b正交。
如果基底都是特徵向量，有這個好處：
φ(a₁x₁+a₂x₂+...+aₙxₙ)
=a₁φ(x₁)+a₂φ(x₂)+...+aₙφ(xₙ)
=̶a₁λ₁x₁+a₂λ₂x₂+...+aₙλₙxₙ
線性變換後，只要對基底乘以對應的特徵值。注意：a(λx)=(aλ)x=(λa)x=λ(ax)，雖然這件事很顯然。
基底是正交的，則有這個好處：(a₁x₁+a₂x₂+...+aₙxₙ)•(b₁x₁+b₂x₂+...+bₙxₙ)=a₁b₁|x₁|²+a₂b₂|x₂|²+...+aₙbₙ|xₙ|²，只需要把個別的係數相乘，因為相異的基底內積是零。
現在我們在[-π,π]上面考慮一組函數β={1,cosx, sinx, cos(2x), sin(2x),...}，定義內積為兩個函數相乘，並從-π積分到π，由積分的特性就能知道它滿足內積的特性。由積化和差可以推得，這組函數裡面的任意兩個函數是正交的，因此它們是一組線性獨立集。
現在，蒐集所有β裡面的函數的線性組合，記作span(β)，它是一個向量空間。而上面定義內積的方式給它一個內積，因此它是一個內積空間，β是它的基底，而且是正交基底。
但是span(β)它蒐集的β裡面的函數的有限線性組合，也就是說許多常見的函數都不在裡面，甚至連多項式也不在裡面！我們看似得到了無用的東西，但其實它可以拿來「逼近」[-π,π]上的連續函數。
兩個函數之間也能定義它們的距離，例如f和g兩個函數，d(f,g)定義為|f(x)-g(x)|的最大值（取不到最大值就去最小上界），x 取遍[-π,π]。定義了距離，就能討論函數構成的序列是否收斂了。Weierstrass Theorem說，任何一個[-π,π]上的連續函數，都能找到span(β)裡的一個序列去逼近它。換句話說，[-π,π]上的連續函數構成一個向量空間，β是它的 Schauder basis。
（前面等價選擇公理的「每個向量空間都有基底」的敘述，那種基底是 Hamel basis，每個向量都是基底裡有限個向量的線性組合。而所有 Schauder basis 裡有限個向量的線性組合線性，只構成一個稠密的子空間，也就是整個空間的任意一個向量，要用無限和去表示。有限維內積空間裡兩者是相同的，但無限維空間，如一般的希爾伯特空間──也就是量子力學使用的──基底，是指 Schauder basis，要特別小心）
