Qualcomm má stabilnú difúziu spustenú na telefóne s Androidom

Veľká časť vzrušenia okolo AI sa preniesla na chatboty, ale vytváranie obrázkov pomocou nástrojov ako Stable Diffusion zostáva populárne. Teraz sa ukázalo, že Stable Diffusion funguje na telefóne s Androidom bez potreby externých serverov.

Qualcomm ukázal niekoľko obrázkov, ktoré boli generované Stable Diffusion lokálne na telefóne s Androidom. Aj keď ste mohli vyhľadať nástroj na generovanie obrázkov, zadať výzvu a nechať ju vygenerovať v cloude, tieto sa generujú úplne lokálne pomocou AI Stack od Qualcommu a samozrejme hardvéru vášho smartfónu.

Dá sa na to ľahko zabudnúť, pretože si ich použitie v skutočnosti nevšímame, no mnohé smartfóny v súčasnosti prichádzajú s vyhradeným hardvérom na akceleráciu AI. Qualcomm hovorí, že na dosiahnutie týchto výsledkov používa AI Engine, ktorý sa dodáva so Snapdragon 8 Gen 2 SoC. Stačí zadať výzvu a Stable Diffusion pre vás vygeneruje obrázok, ktorý sa pokúsi presne zodpovedať tejto výzve.

Qualcomm v blogovom príspevku uviedol: „Použili sme priamy rámec Qualcomm AI Engine na mapovanie neurónovej siete do programu, ktorý efektívne beží na našom cieľovom hardvéri. […] Výsledkom tejto kompletnej optimalizácie je spustenie Stable Diffusion na smartfóne za menej ako 15 sekúnd na 20 inferenčných krokov na vygenerovanie obrázka s rozlíšením 512 × 512 pixelov – ide o najrýchlejšie odvodenie na smartfóne a porovnateľné s cloudovou latenciou.“

Stabilnú difúziu na svojom telefóne s Androidom zatiaľ nemôžete používať lokálne – toto je len technická ukážka. Nakoniec by sa to mohlo zmeniť na verejne dostupnú aplikáciu, ale Qualcomm zatiaľ nič nesľubuje.

Zdroj: Qualcomm