看到這邊大家也對GOOGLE這個品牌也相當的熟悉不過了，為了針對他們家的AI系統做更有效率化的升級，稱為「推理」(inference)的計算的需求正爆炸式增長，而針對它們的TPU這部分做全面性的升級。 什麼是TPU ? TPU (Tensor Processing Unit，張量處理單元) 簡單來說是由 Google 專門為「機器學習（AI）」量身打造的定製化加速器。 如果把電腦運算比作「交通工具」，我們可以這樣理解它們： 1.CPU (中央處理器)： 像是一輛萬能的瑞士軍刀越野車。它什麼路都能開，能處理文書、上網、開機，但速度不是最快的。 2.GPU (圖形處理器)： 像是一列超長通勤火車。它能同時載幾千個人（處理大量並行數據），最初是為了繪圖，後來發現處理 AI 也很強。 3.TPU (張量處理單元)： 像是一枚在專屬軌道上運行的火箭。它只跑一條線路（AI 運算中的線性代數），但在這條線路上，它的速度和效率遠超其他工具。 為什麼 Google 要開發 TPU？ TPU 屬於一種 ASIC (特殊應用積體電路)。Google 決定這樣做的原因主要大概如下： 1.極致的專一性： AI 的核心運算其實就是大量的「矩陣乘法」。TPU 捨棄了 CPU 那些複雜的控制電路，把所有空間都留給了專門處理矩陣的 MXU (矩陣乘法單元)。 2.打破「內存牆」： TPU 透過獨特的架構（脈動陣列），讓數據在晶片內部「像波浪一樣流動」，減少了反覆去記憶體取資料的次數，大幅降低功耗。 3.經濟規模： 對於 Google 這種等級的公司，與其向輝達（Nvidia）買幾十萬張貴森森的 GPU，不如根據自己的 AI 模型（如 Gemini、搜尋演算法）自研晶片，長期下來省下的電費和硬體成本非常驚人。 以下用這張圖來大致解釋讓大家更了解這個TPU的運作並讓你們可以更了解GOOGLE現在正在做甚麼!

根據GOOGLE的工程師阿明·瓦赫達特(Amin Vahdat)說公司正在接洽一些有興趣在Google Cloud平台之外使用其TPU的客戶，並說到客戶對算力的需求逐漸增加當中。 大概我自己看完TPU相關的內容後，我覺得很多人對於AI的使用逐漸貼近實際工作的運用，無論大家在甚麼樣的職位還是會需要AI的工具來輔助並協助大家來達成目的。