Hirdetés

Végre megérkezett az egységes neuronháló fájlformátum

A Khronos Group által fejlesztett NNEF 1.0-s szabvány a gépi tanulás piacának fragmentációját szüntetheti meg.

A Khronos Group már korábban elárulta, hogy dolgoznak az első, gyártófüggetlen neuronháló fájlformátum megvalósításán, ami rendkívül nagy lökést adhatna a gépi tanulásnak, mivel ma komolyan korlátozza az ipar fejlődését a tréning és a dedukció szakaszok közötti interoperabilitás hiánya. Jelenleg kifejezetten fragmentált ez a terület, ugyanis a különböző, neuronhálók létrehozását biztosító keretrendszereknek az összes elérhető gyorsítóra különálló támogatást kell írni. Ez nagyrészt amiatt van így, mert nincs az iparon belül megegyezés a hálózat formai szemantikáiról, a struktúrájáról, az adatformátumokról, illetve a sűrűn használt operációkról. Ezáltal minden keretrendszer eltérő ebből a szempontból, és egyedi hardveres támogatást kell tervezni a dedukció szakaszára is.

A Khronos Group a fenti problémát kezeli egy olyan új fájlformátummal, ami a fentebb felsorolt területeket egységesíti. Lényegéből erről szól az NNEF (Neural Net Exchange Format) 1.0-s szabvány, aminek jó esélye van arra, hogy széleskörű iparági támogatást nyerjen.

A konzorcium által kialakított modell szerint NNEF-et direkten célozhatnák a manapság használt keretrendszerek, amelyek az OpenCL, a SYCL, a CUDA, a HIP, és még más meg nem nevezett platformok alól gyorsíthatók a különböző hardvereken az ezekhez való könyvtárakon keresztül (NVIDIA cuDNN, AMD MIOpen, Intel MKL-DNN, stb.). Az NNEF-et használva lényegében a tréningre használt neurális hálók kimenete lesz egységes, amit elfogadnának a dedukcióra bevetett gyorsítók, függetlenül attól, hogy a tréning milyen platformon történt meg. Innentől kezdve már ismét számos gyártófüggetlen szabvány áll rendelkezésre a működés biztosítására, kiemelve az OpenVX-et, az OpenCL-t és a Vulkan API-t, amelyekkel a dedukció szakasza gyorsítható a különféle hardvereken.

Az NNEF lényege tehát a tréning és a dedukció szakasza közötti interoperabilitás jelentős javítása, hiszen ezzel a szabvánnyal nem kell többet figyelni, hogy az egyes gyorsítók milyen zárt formátumokkal tudnak működni, elég lenne mindenkinek az NNEF-et támogatni, és a gépi tanulás fragmentációja jelentősen redukálódna.

Az NNEF specifikációja egyelőre az úgynevezett átmeneti szakaszban van, vagyis maga a formátum működik, de a Khronos Group még elfogadja a visszajelzéseket, a véglegesítésig pedig a hasznos ötleteket és változtatásokat beépítik. A gyártók részéről egyelőre nagyon kedvező a fogadtatás, bár ez nem meglepő, elvégre a fragmentáltság egy súlyos iparági probléma minden esetben, így bármi ami ez ellen tesz csak jó a szegmens szereplőinek.

Azóta történt

Előzmények

Hirdetés