A Google egy éve beszélt először a gépi tanuláshoz használt titkos fegyveréről, amely lényegében egy TPU, azaz Tensor Processing Unit. Ez egy speciálisan gépi tanulásra használható fejlesztés volt, de első körben ez inkább volt egy kísérleti projekt. Emiatt az első generációs TPU még a merevlemezek helyére volt beépíthető, és x16-os PCI Express 3.0-s kapcsolattal kommunikálhatott a rendszerrel.
Az egy éve elérhető lapka 28 nm-es node-on készült, a fogyasztása pedig 40 watt, míg az órajele 700 MHz. Az első generációs TPU-n belül 65 536 darab úgynevezett MXU volt, ami 8 bites mátrixoperációkat hajtott végre. A lapka teljesítménye tehát 92 TOPS (teraoperáció/másodperc) volt, ami igen durván hatott, de lebegőpontos feldolgozásra nem volt képes, illetve a belső memória kapacitása is csak 28 MB volt. Mindemellett a fedélzeti tár szerepét egy 8 GB-os DDR3-as memória tölthette be, aminek a memória-sávszélessége nem lépte túl 30 GB/s-ot. A TPU tehát igen ambiciózus projekt a maga módján, de közel sem volt teljes.
[+]
A Google idén azonban rágyúr a lehetőségre, mivel a gépi tanulás piaca a cég számára nagyon fontos lesz. Emiatt kifejlesztették a második generációs TPU-jukat, amely már 45 TFLOPS-ra képes (állítólag 16 bites precizitás mellett), és ebből tudható, hogy a lebegőpontos számításokat sem veti meg. Ennél azonban sokkal fontosabb, hogy a fedélzeti tár mérete 64 GB-ra nőtt, ráadásul ez egy jóval gyorsabb elérésű memória, mint korábban, bár a cég azt nem árulta el, hogy mennyivel. A Google a fogyasztásról sem beszélt még, de annyit tudni, hogy a gépi tanulás piacán fontosnak tartott, csúcsteljesítményű gyorsítók töredékével is beéri az új lapkájuk.
A Google az új TPU-ra már nem csak kísérleti projektként gondol. Emiatt komplett alaplapdizájnt kapott. Egy ilyen alaplap négy darab lapkát tartalmaz, és így a számítási teljesítménye eléri a 180 TFLOPS-ot.
A Google az új TPU-t is csak saját célra használja fel, vagyis a Google Cloud Platform részeként lesz igényelhető valamikor a közeljövőben. A vállalat egyébként nem akar direkt versenyt az alternatív, gépi tanulásra szánt megoldásokkal. Emiatt a TPU mellett más hardverek is elérhetők maradnak a cég szolgáltatásainak részeként. A TPU-ra elsődlegesen a teljesítménye miatt van szükség. A vállalat emellett azt sem tervezi, hogy a TPU bármilyen formában is megvásárolható legyen a piac és ezzel a konkurensek számára.
