EdgeCortix SAKURA-II Edge AI accelerator med 60 TOPS og kun 8W

edgecortix-sakura-ii AI

EdgeCortix introducerer SAKURA-II, en AI-accelerator til Edge med en imponerende ydeevne på 60 TOPS (INT8) og et lavt strømforbrug på 8 watt. Chippen er designet til komplekse AI-opgaver, såsom behandling af store sprogmodeller (LLM), store visionsmodeller (LVM) og transformerbaserede multimodale applikationer, samt til applikationer på netværkskanten, såsom enheder IoT og autonome køretøjer .

Det giver fleksibilitet med hensyn til hardware, med mulighed for at integrere det i begge PCIe-udvidelseskort med et eller to SAKURA-II chips, eller også i M.2 2280-moduler (PCIe x8- eller x16-interface) Hvis du foretrækker det. Derfor kan kræfter på op til 120 TOPS opnås med INT8 eller 60 TFLOPS med BF16.

AI-platformen tilbyder også en del af banebrydende software med en MERA suite til programmering og optimering, en heterogen kompileringsplatform, avancerede kvantificeringsteknikker og modelkalibreringsmuligheder. Det byder også på integration med populære udviklingsrammer såsom PyTorch, TensorFlow Lite og ONNX samt adgang til et omfattende bibliotek af banebrydende transformative modeller og foldningsmodeller.

Derudover har virksomheden EdgeCortix også tænkt på at tage sine AI-acceleratordesigns videre, idet de kan integreres i SoC'er fra andre virksomheder, såsom AMD.

IA SAKURA-II tekniske specifikationer

Som EdgeCortix SAKURA-II tekniske specifikationer, er følgende:

  • NPU med DNA-II eller anden generation af Dynamic Neural Accelerator-arkitektur.
  • Ydeevne op til 60 TOPS med INT8 eller 30 TFLOPS med BF16.
  • DRAM-hukommelse med dobbelt 64-bit kanal type LPDDR4x (8 GB, 16 GB, 32 GB indbygget) med båndbredde op til 68 GB/s.
  • Integreret 20MB SRAM-hukommelse.
  • Effektivitet på op til 90% udnyttelse, med energiforbrug på 8W.
  • BGA emballage.

Hvis vi henviser til SAKURA-II modul med M.2 format, vi har:

  • DRAM hukommelse
    • 8GB (2x banker af 4GB LPDDR4)
    • 16GB (2x banker af 8GB LPDDR4)
  • PCIe Gen 3.0 x4 interface
  • Maksimal ydeevne på 60 TOPS på INT8, 30 TFLOPS på BF16
  • 10W moduleffekt
  • Dimensioner M.2 2280 (22x80 mm)

For PCIe udvidelseskort, specifikationerne er som følger for AI-acceleratoren:

  • PCIe Gen 3.0 x8 interface
  • For SAKURA-II single chip model:
    • 16 GB DRAM-hukommelse (2x banker af 8 GB LPDDR4)
    • Ydeevne på 60 TOPS på INT8, 30 TFLOPS på BF16
    • 10W effekt.
  • For modellen med to SAKURA-II chips:
    • 32 GB DRAM-hukommelse (2x banker af 16 GB LPDDR4)
    • Ydeevne på 120 TOPS på INT8, 60 TFLOPS på BF16
    • 20W effekt
  • 1 x slot
  • Inkluderer køleplade

Vedrørende priser, hvis du undrer dig, vil de ankomme fra andet kvartal af 2024 med:

  • M.2 8GB: $249
  • M.2 16GB: $299
  • PCIe 1xSAKURA-II: $429
  • PCIe 2xSAKURA-II: $749

Vær den første til at kommentere

Efterlad din kommentar

Din e-mailadresse vil ikke blive offentliggjort. Obligatoriske felter er markeret med *

*

*

  1. Ansvarlig for dataene: Miguel Ángel Gatón
  2. Formålet med dataene: Control SPAM, management af kommentarer.
  3. Legitimering: Dit samtykke
  4. Kommunikation af dataene: Dataene vil ikke blive kommunikeret til tredjemand, undtagen ved juridisk forpligtelse.
  5. Datalagring: Database hostet af Occentus Networks (EU)
  6. Rettigheder: Du kan til enhver tid begrænse, gendanne og slette dine oplysninger.