Millainen näytönohjain paikalliseen saneluun? Luultavasti nykyisesi

"Toimii näytönohjaimellasi" kuulostaa siltä, että tarvitaan pelikone. Ei tarvita. Ajoitimme oman sanelumoottorimme tavallisen vuoden 2025 kannettavan kahdella grafiikkapiirillä: erillisellä, kannettaville tarkoitetulla NVIDIA RTX 5070 Ti -näytönohjaimella ja suorittimeen integroidulla AMD Radeon 890M:llä, joka on juuri sellainen grafiikkapiiri, jota keskihintaisten kannettavien suorittimissa on. Kumpikin muuttaa tyypillisen puhutun kappaleen tekstiksi nopeammin kuin ehdit siirtää kätesi näppäimeltä hiirelle, ja pitkässä sanelussa sovellus kätkee suurimman osan jäljelle jäävästä odotuksesta tekemällä työtä jo puhuessasi. Tältä sivulta löydät luvut, kunkin mallin muistintarpeen ja sen yhden konetyypin, jossa paikallinen sanelu ei toimi.

Miten mittasimme

Ääni on 77 sekunnin pätkä synteettistä englanninkielistä puhetta tuotepalaverista, leikattuna pituuksiin, joita ihmiset oikeasti sanelevat: 5 sekuntia chat-vastaukseen, 15 kappaleeseen tai tekoälyagentille annettavaan kehotteeseen ja 60 pitkään sähköpostiin. Jokainen pätkä ajettiin täsmälleen saman moottorin läpi, joka AlphaDictate-sovelluksen mukana toimitetaan (Whisper, jota ajetaan whisper.cpp:llä Vulkanin päällä), kolme kertaa mittauspistettä kohden; taulukoissa on mediaani. Ajanotto kattaa vain litteroinnin siitä hetkestä, kun lopetat puhumisen, siihen hetkeen, kun teksti on olemassa, eikä siihen sisälly sekunnin murto-osa, jonka liittäminen vie. Jokainen ajo palautti koko tekstin, joten nopeat luvut eivät johdu siitä, että moottori ohittaisi osan äänestä.

Kolme mallia ovat sovelluksen kolme tasoa: Nopea on Whisper Small, Tasapainoinen on Whisper Medium ja Paras on Whisper Large v3, kaikki pakattuina 5-bittisiin painoihin.

Puhuttu kappale: 15 sekuntia puhetta

Erillisellä näytönohjaimella jokainen malli valmistuu alle sekunnissa, joten ei ole syytä valita muuta kuin Paras. Integroidulla näytönohjaimella Paras-malli vie noin kaksi sekuntia, minkä huomaa mutta mikä ei sähköpostia kirjoittaessa haittaa; Nopea-malli jää alle sekunnin ja hoitaa selkeän puheen yhä hyvin.

Pitkä sanelu ja miksi sitä harvoin odottaa kokonaan

Yhtenä palana litteroituna minuutti puhetta on kohta, jossa piirien tiet eroavat:

Yhdeksän sekunnin odotus minuutin puhumisen jälkeen ärsyttäisi, jos se toistuisi kymmenen kertaa päivässä. Harvoin siihen kuitenkaan päädytään, koska AlphaDictate ei odota, että lopetat. Kun ääntä on kertynyt kahdeksan sekuntia ja pidät tauon, oletuksena viisi sekuntia, se antaa siihen mennessä sanomasi näytönohjaimelle ja jatkaa kuuntelemista. Kun painat lopetusta, jäljellä on vain viimeisen tauon jälkeinen osa. Keskeytymätöntä puhetta ei koskaan jaeta, joten yksikään sana ei katkea kahtia.

Tämän mittaamiseksi rakensimme sanelun sellaiseksi kuin ihmiset oikeasti sanelevat: noin minuutti puhetta neljänä 13–18 sekunnin jaksona, joiden välissä on viiden sekunnin ajattelutauko, yhteensä 74 sekuntia. Toistimme sen sovelluksen oman jakologiikan läpi todellisessa tahdissa ja ajoitimme odotuksen lopetuksen jälkeen:

Jakaminen lyhentää odotuksen noin viidesosaan molemmilla piireillä. Tarkimmalla mallilla integroitu näytönohjain vastaa minuutin saneluun noin kahdessa sekunnissa, samassa ajassa kuin yksittäiseen kappaleeseen, koska lopettaessasi jäljellä on vain viimeinen kappaleesi.

Oma käyttömme tällä kannettavalla kertoo saman tarinan. Viimeisen viikon aikana noin puolessa yli 20 sekunnin saneluistamme oli jakamiseen riittävän pitkä tauko. Niissä lopetuksen jälkeen litteroitavaa puhetta jäi mediaanina 13 sekuntia, ja odotuksen mediaani oli 0,8 sekuntia. Pitkät sanelut, joissa tällaista taukoa ei ollut, odottivat mediaanina 1,7 sekuntia. Tauon pituus on asetus, Osan päättävä tauko kohdassa Tarkkuus ja nopeus, ja sen voi laskea kahteen sekuntiin asti, jos haluat tulokset nopeammin ja puhut epäröimättä.

Tallenne: 10 minuutin tiedosto

Tiedostot eivät saa etumatkaa, koska koko tallenne on valmiina ennen litteroinnin alkua, joten tässä erillinen näytönohjain lunastaa paikkansa. Tunnin palaveritallenne vie erillisellä näytönohjaimella Paras-mallilla noin kolme minuuttia, integroidulla noin yksitoista. Kumpikin on parempi kuin lähettää tunnin luottamuksellinen palaveri pilvipalveluun ja odottaa tulosta takaisin.

Paljonko muistia kukin malli tarvitsee

Luimme nämä Windowsin omista prosessikohtaisista GPU-laskureista kunkin mallin ollessa ladattuna, ja ne olivat samat molemmilla piireillä. Tästä seuraa kaksi käytännön asiaa. Mihin tahansa erilliseen näytönohjaimeen, jossa on 4 Gt muistia, mahtuu suurinkin malli väljästi, joten kortin ikä merkitsee enemmän kuin sen muistin määrä. Ja integroiduilla näytönohjaimilla ei ole omaa muistia: ne lainaavat keskusmuistia, joten 8 Gt:n kannettavassa Paras-malli vie siitä neljänneksen. Sellaisessa koneessa Tasapainoinen jättää muille ohjelmille enemmän tilaa; 16 Gt:lla tai enemmällä sillä ei ole väliä.

Miksi suoritinversiota ei ole

Ainoa kone, jota paikallinen sanelu ei palvele hyvin, on kone, jossa ei ole lainkaan käyttökelpoista näytönohjainta: etätyöpöytäistunto, virtuaalikone tai palvelin. Rakensimme version, joka toimi pelkällä suorittimella, ja mittasimme sen 5–20 kertaa hitaammaksi kuin integroidun näytönohjaimen, mikä tekee kahden sekunnin odotuksesta puolen minuutin odotuksen. Poistimme sen samana päivänä. Sanelutyökalu, joka vie hiljaa kolmekymmentä sekuntia, on huonompi kuin sellainen, joka kertoo suoraan tarvitsevansa grafiikkapiirin, joten AlphaDictate tarkistaa ensimmäisellä käynnistyksellä, onko koneessa näytönohjain, jolla on Vulkan-ajuri, ja kertoo, jos sellaista ei löydy.

Käytännössä lähes jokaisessa viime vuosina myydyssä Windows-tietokoneessa sellainen on, joko integroituna tai erillisenä. Yleensä esteenä on vanha näytönohjaimen ajuri, ja sen päivittäminen valmistajan sivuilta korjaa asian.

Mitä valita

• Pelikone tai kannettava, jossa on mikä tahansa erillinen NVIDIAn tai AMD:n näytönohjain: Paras. Kaikki valmistuu alle sekunnissa, ja saat tarkimmat tekstit.
• Uudehko kannettava, jossa on integroitu näytönohjain ja 16 Gt keskusmuistia: Paras. Lyhyet pätkät vievät noin kaksi sekuntia ja pitkät tuskin enempää, koska sanelu jaetaan tauoissa. Tasapainoinen, jos litteroit paljon pitkiä tallenteita.
• Kannettava, jossa on 8 Gt keskusmuistia: Tasapainoinen, tai Nopea, jos kone on vanhempi.
• Vanhempi tai vähävirtainen integroitu näytönohjain: aloita Nopea-mallilla. Emme ole vielä mitanneet vanhempia piirejä, joten pidä yllä olevia integroidun näytönohjaimen lukuja ylärajana sille, mihin integroidut näytönohjaimet pystyvät.
• Kannettava, jossa on molemmat piirit: sinun ei tarvitse valita. AlphaDictate käyttää erillistä näytönohjainta, kun se on käytettävissä, ja integroitua, kun erillinen piiri on sammutettu virran säästämiseksi, ja se vaihtaa niiden välillä sanelujen välisessä tauossa.

AlphaDictate-sovelluksen käyttöönottonäkymä kertoo, minkä näytönohjaimen se löysi, ja ehdottaa aloitusmallia: Paras koneille, joissa on NVIDIAn näytönohjain, muille Tasapainoinen. Mallin voi myöhemmin vaihtaa yhdellä napsautuksella, ja kaikki kolme sisältyvät hintaan, joka on 39 $/vuosi ilmaisen tunnin jälkeen. Oman tietokoneesi näytönohjaimet näet Tehtävienhallinnan Suorituskyky-välilehdeltä, jossa jokainen GPU on lueteltu muisteineen.

Jos sinulla on näytönohjain, jota emme ole mitanneet, varsinkin vanhempi Intelin tai AMD:n integroitu piiri, otamme lukusi mielellämme vastaan osoitteessa hello@alphadictate.com. Kirjoituksemme sanelusta Claude Codeen käyttää samoja mittauksia kehittäjän näkökulmasta.

Usein kysyttyä

Tarvitsenko pelinäytönohjaimen paikalliseen puheentunnistukseen? Et. Vuoden 2025 kannettavan integroidulla näytönohjaimella 15 sekunnin puhuttu kappale litteroituu Whisper Large v3:lla noin kahdessa sekunnissa ja pienimmällä mallilla alle sekunnissa.

Pitääkö pitkän sanelun litterointia odottaa alusta asti? Ei. AlphaDictate litteroi jokaisen tauon kohdalla sen, mitä olet jo sanonut, samalla kun jatkat puhumista. Minuutin taukoja sisältäneen sanelun jälkeen odotus oli tarkimmalla mallilla noin kaksi sekuntia integroidulla näytönohjaimella ja puoli sekuntia erillisellä.

Paljonko VRAM-muistia Whisper Large v3 tarvitsee? Noin 2,1 Gt siinä pakatussa muodossa, jota AlphaDictate käyttää. Whisper Medium tarvitsee noin 1,2 Gt ja Whisper Small noin 0,6 Gt.

Toimiiko Whisper integroidulla näytönohjaimella? Kyllä, Vulkan-ajurin kautta. Integroidut näytönohjaimet käyttävät keskusmuistia, joten mallin tarvitsema muisti otetaan koneesi RAM-muistista.

Toimiiko AlphaDictate ilman näytönohjainta? Ei. Se tarvitsee grafiikkapiirin, jolla on Vulkan-ajuri, joko integroidun tai erillisen. Pelkällä suorittimella toimiva versio oli 5–20 kertaa hitaampi kuin integroitu näytönohjain, joten emme julkaise sellaista.

Kauanko tunnin äänen litterointi kestää paikallisesti? Mittauksessamme tarkimmalla mallilla noin kolme minuuttia kannettavan RTX 5070 Ti:llä ja noin yksitoista minuuttia integroidulla Radeon 890M:llä.