Új hozzászólás Aktív témák

• #31 DarkByte addikt Elmör #28

  Új Válasz 2024-02-04 12:29:01 #31

  Új hozzászólás

  Összes hozzászólása itt Válaszok az összes hozzászólására itt Válaszok erre a hozzászólásra

  Privát üzenet küldése

  

  DarkByte

  addikt

  válasz Elmör #28 üzenetére

  Nincs. 3090 volt az utolsó aminél még volt NVLink. A 4xxx szériáról már leszedték. Csak az enterprise hardvereken elérhető. Okkal, nehogy a konzumer kártyák itt is berondíthassanak a képbe. Azokon pöttyet vastagabban fog az Nvidia ceruzája, de így is viszik mint a cukrot, ki se tudják elégíteni.
  Ugyanez miatt nincs több mint 24GB VRAM sem, aminél tök jó lenne több, főleg nagyobb LLM-eknél.

  A következő szint kb. az RTX 6000 Ada 48GB lenne, 3 misiért
  Egyébként a lokál futtatható AI-knak nem fekszik a több kártyás felállás amúgy sem, bármi ami a VRAM-on kívüli adatforgalmat igényel az piszok lassú lesz.
  Inkább egy nagy kártya, csak hát tényleg nem sok opció van. Az AMD meg a ROCm-el nem rúg labdába egyelőre, gyenge a szoftveres támogatottság.

  Attila0: a legjobb alternatíva jelenleg NAS-t építeni (vagy homeserver-t és self-host-olni, a kettő mondjuk eléggé összemosódik mostanra), és HDD-ket tartani vetésforgóban backup-nak. Én is ezt csinálom. Kényelmesebb is, mint millió DVD-vel szenvedni.
  Tény, kicsit dolgozni kell érte hogy összeálljon.

  A self-host-olt szerverről ki is tudod osztani azt a valamit amit meg akarsz osztani mással, és te szabályzod kinek és meddig elérhető.

  Amúgy meg még mindig lehet kapni USB-s DVD írót, és üres DVD-t is, szóval meg lehet azt is oldani éppenséggel.

  [ Szerkesztve ]

Új hozzászólás Aktív témák