Naar inhoud
Inloggen

Voice AI / bewijs

Scènematen en inhoudstype: wat ze je wel en niet kunnen vertellen

Kan AudioLab spraak van muziek en ruis onderscheiden, en de soort achtergrond achter een stem?

01 · De toets

Wat we deden

Alle vier de studies legden hun slagingscriteria vooraf vast.

  • CT-1, inhoudstype. 600 fragmenten van 20 s uit MUSAN: 200 spraak, 200 muziek en 200 ruis.
  • CT-2, een tweede inhoudstypemodel. Dezelfde 600 fragmenten plus 90 fragmenten uit drie DEMAND-omgevingen die het model nooit had gezien: een stadsplein, straatverkeer en een metro.
  • MX-1, spraak over muziek. 500 MUSAN-fragmenten: 100 spraak, 100 instrumentale muziek, en spraak met muziek op 0, -6 en -20 dB.
  • SC-1, scènematen. 1.344 opnames: negen DEMAND-omgevingen, drie niveaus en 48 synthetische uitingen, plus 48 controlebestanden.
02 · Wat eruit kwam

De uitkomst

CT-1, het eerste inhoudstypemodel, miste. Spraak werd gevonden met een recall van 0,82 en een precisie van 0,56; muziek met 0,46 en 0,65; ruis in 3 van 200 fragmenten (recall 0,015). Muziek en ruis werden vaak spraak genoemd: 55 van 200 muziekfragmenten en 75 van 200 ruisfragmenten. De zekerheid daalde nauwelijks als het antwoord fout was (0,76 naar 0,62). Op schone voorgelezen spraak was het antwoord in 98 tot 100% van de gevallen goed.

CT-2, het tweede model, is beter maar haalde zijn criterium niet. Spraak: recall 0,985 en precisie 0,952 (eerste model: 0,820 en 0,558); muziek 0,950 en 0,864 (eerste model: 0,455 en 0,495); stationaire ruis: recall 0,444 (40 van 90: stadsplein 23 van 30, straatverkeer 4, metro 13) met precisie 1,000. De 50 missers worden allemaal onbekend genoemd, nooit spraak of muziek. Het versloeg het eerste model in elke klasse; ruis was de klasse die zijn lat niet haalde. Het is een opt-in in de API, en het eerste model blijft daar de standaard tot 15 januari 2027.

MX-1: het label "gemengd" wordt nauwelijks gebruikt waar het hoort. Voor spraak over muziek die 6 dB zachter is werd het gebruikt in 29 van 100 gevallen (de lat was 80), en voor muziek even hard als de spraak in 36 van 100. Het werd ten onrechte gebruikt bij 23 van 200 opnames die geen mengsel waren (0,115, de lat was hooguit 0,10). Pure instrumentale muziek werd in 34 van 100 gevallen muziek genoemd.

SC-1: twee scènematen werken, een werkt achterstevoren. Het aandeel van de energie van de pauzes in de spraakband en in de lage band scheidt geroezemoes van machineruis: AUC 0,803 en 0,807 bij 20 dB, 0,867 en 0,919 bij 10 dB (met de tweede spraakdetector 0,878 en 0,901, en 0,943 en 0,968). De stationariteitsscore faalde en leest achterstevoren: AUC 0,23 bij 20 dB en 0,27 bij 10 dB tegen een lat van 0,80, omdat dicht geroezemoes als stationairder scoort dan een wasmachine. De maat voor het soort achtergrond faalde ook: een machine leest meestal als onrustig.

Al deze maten zijn Proxy: alleen informatie, nooit een slaag-of-faalcontrole. De stationariteitsscore heet nu "Constante achtergrondruis", niet "machine".

03 · Het bereik

Hoe ver dit reikt

Inhoudstype geldt voor schone voorgelezen spraak en is een eerste indicatie voor muziek en ruis. De scènematen zeggen iets over groepen omgevingen, niet over één bestand.

04 · De grenzen

Wat we niet hebben getoetst

  • Een televisie of muziek achter een spreker in een echte ruimte: de scènestudie gebruikte synthetische spraak en geen televisie of muziek.
  • Echte gesprekken, en andere talen.
  • AudioLab herkent geen machineruis, en detecteert geen tweede stem of televisie.

Bronnen en volgende stappen

Studies in ons register: CT-1, CT-2, MX-1, SC-1. De status van elke maat staat op /lenses en hoe we toetsen staat op /methodology.

Ander bewijs