Hirdetés

Ezt tiltja konkrétan az USA új kormányrendelete

Kielemezzük, hogy milyen AI gyorsítók exportálása lesz engedélyhez kötve.

A tegnapi napon írtunk arról, hogy szigorít az AI gyorsítók Kínába történő exportálásán az USA, de a szabályozás esetenként nem fogalmazott túl egyszerűen, így nem teljesen láttuk át, hogy mire gondol a Biden-adminisztráció. Emiatt utánakérdeztünk a konkrét részleteknek, így mostanra ki tudjuk elemezni, hogy a jövőben milyen AI gyorsítók lesznek engedélykötelesek a keleti nagyhatalom felé.

Előjáróban érdemes leszögezni, hogy amíg a korábbi kormányrendelet leginkább a memória-sávszélesség szempontjából szabta meg a korlátot (konkrétan 600 GB/s-nál), addig az új már jóval kidolgozottabb. Utóbbi azért fontos, mert a friss követelmények teljesen általánosak, vagyis alapvetően nem számít, ha egy hardver a végfelhasználóknak, játékosoknak készült, ha nem felel meg az USA követelményeinek, akkor ugyanúgy engedélyköteles az exportálása. Ilyen szempontból már nincsenek specifikus piacokra vonatkozó kivételek, az egész konstrukció az összes megvásárolható, nyugati technológiát használó fejlesztésre vonatkozik.

Az új szabályozás alapegysége a TPP, ami a total processing performance rövidítése. Ezt viszonylag könnyen ki lehet számolni minden hardveren, ugyanis az AI-ra szabott adatformátumokon elért valós számítási kapacitást kell megduplázni, majd megszorozni az adattípuson belül tárolható bitek számával. Ha több ilyen adatformátumra van támogatás, akkor azt kell alapul venni, ami végeredményben a legmagasabb TPP-t adja. Van egy másik követelmény is, ami a teljesítménysűrűségre vonatkozik, és ezt úgy kell kikalkulálni, hogy az adott hardver, szabályok szerint számolt TPP-jét el kell osztani a lapka fizikai kiterjedésével. Fontos, hogy chiplet dizájnok esetében az összes chip számít, ami a tokozáson van.

Az USA kormányrendelete szerint azon hardverek exportja engedélyköteles, amelyek TPP-je legalább eléri a 4800-at, vagy a teljesítménysűrűség eléri az 5,92-t, miközben a TPP 1600 vagy nagyobb. Van egy alternatív rosta a régebbi, valamint az alacsonyabb fogyasztású gyorsítókra, ami a TPP-t 2400 és 4800 közé teszi, miközben a teljesítménysűrűségnek 1,6 és 5,92 közé kell esnie.

Számításaink alapján a szerverekbe szánt gyorsítók szempontjából lényegesen rosszabbul jár Kína, ugyanis a több éve kiadott, valamelyest erősebb hardverektől is elvágják az országot. Gyakorlatilag csak a kifejezetten alacsony fogyasztású alternatívákkal szemezhetnek, amelyek a maguk kategóriájában ugyan nem rosszak, de nem igazán a nagy nyelvi modellekre vannak szabva.

Azóta történt

Előzmények

Hirdetés