Moderne tekst-naar-spraak-algoritmen beschikken over verbazingwekkende mogelijkheden. Het duidelijkste bewijs zijn twee open source-tools genaamd SpecAugment en Translatotron, onlangs uitgebracht door Google. In het bijzonder kan Translatotron de toespraak van een persoon volledig rechtstreeks in een andere taal vertalen, terwijl de toon en intonatie van de zin behouden blijven. De creativiteit in technologie is echter grenzeloos en er is altijd ruimte voor meer bijzondere dingen.

Onderzoekers op het gebied van kunstmatige intelligentie bij Microsoft presenteerden onlangs een artikel met de titel ‘Almost Unsupervised Text to Speech and Automatic Speech Recognition’, waarin een AI-systeem wordt beschreven dat gebruik maakt van onbewaakt leren. Onbewaakt leren – een tak van machine learning-technologie, helpt AI om kennis te leren van ongelabelde, geclassificeerde en ongeformatteerde testgegevens. Dit AI-systeem van Microsoft maakte grote indruk toen het een nauwkeurigheid bereikte bij begrijpend lezen en tekstverwerking tot 99,84%, en tegelijkertijd werd het automatische spraaksimulatievermogen ook verbeterd tot 11,7%. Nog indrukwekkender is dat dit geavanceerde machine learning-model slechts 200 audiofragmenten en bijbehorende transcripties hoeft te gebruiken als invoertrainingsgegevens.
De sleutel tot de ontwikkeling van dit AI-model is Transformers, een type neurale architectuur gebouwd door een team van wetenschappers van Google Brain, de AI-onderzoeksafdeling van Google, en geïntroduceerd in een diepgaand technologieartikel in 2017. Net als alle diepe neurale netwerken zijn Transformers bevatten neuronen (wiskundige functies die “losjes” worden gemodelleerd door biologische neuronen) zijn gerangschikt in onderling verbonden lagen om “signalen” uit invoergegevens over te brengen en geleidelijk de synaptische sterkte – het gewicht – van elke verbinding aan te passen (dat is hoe de modellen kenmerken extraheren en leren om voorspellingen maken). Transformers bezitten echter ook een unieke eigenschap: elk uitgangselement wordt verbonden met alle ingangselementen en de gewichten daartussen worden uiterst flexibel berekend.
![De AI van Microsoft creëert realistische stemmen met slechts 200 trainingsvoorbeelden De AI van Microsoft creëert realistische stemmen met slechts 200 trainingsvoorbeelden]()
Vanuit deze realiteit zijn Microsoft-onderzoekers overgegaan tot het opnemen van een Transformer-component in hun AI-systeemontwerp, waardoor het mogelijk wordt spraak of tekst te ontvangen als invoer- of uitvoergegevens. En de onderzoekers besloten de publiekelijk beschikbare LJSpeech-databron – die 13.100 Engelse audiofragmenten en bijbehorende transcripties (transcripts) bevat – te gebruiken als trainingsgegevens voor het AI-systeem. Vervolgens selecteerde het onderzoeksteam willekeurig 200 van de 13.100 hierboven genoemde audiofragmenten om een trainingsdataset te creëren, en maakten ze ook gebruik van een automatische ruisonderdrukkingscoderingscomponent om de gegevens te reconstrueren. Spraak- en tekststructuren zijn verbroken.
De resultaten zijn helemaal niet slecht. Bij het bekijken van elk klein fragment ontdekten de onderzoekers dat het betere resultaten opleverde dan de basisalgoritmen die in de tests werden gebruikt. En een paar van de resulterende samples klinken vrijwel alsof ze door mensen zijn gemaakt.
De zin: "De vormen van gedrukte letters moeten mooi zijn en hun rangschikking op de pagina moet redelijk zijn en een bijdrage leveren aan de vormelijkheid van de letters zelf" zou als volgt worden gelezen:
Of de zin: "vooral omdat er geen tijd of kosten meer worden besteed aan het gieten van het zetten of afdrukken van mooie letters":
In de toekomst is het doel van de onderzoekers om de grenzen van de technologie voor onbewaakt leren te verleggen door volledig gebruik te maken van ongepaarde tekst- en spraakgegevens, met behulp van geavanceerde methoden. “Voor deze taak hebben we een vrijwel onbewaakte aanpak voor tekst-naar-spraak en automatische spraakherkenning voorgesteld, die slechts een paar aaneengeschakelde tekst- en spraakgegevens gebruikt en een kleine hoeveelheid aanvullende niet-aaneengeschakelde gegevens. Zoals aangetoond in de experimenten zullen onze ontwerpcomponenten essentieel zijn om het vermogen te ontwikkelen om spraak en tekst om te zetten met enkele aaneengeschakelde gegevens.
Details van dit project zullen door Microsoft worden gepresenteerd op de Internationale Conferentie over Machine Learning die van 10 tot 15 juni in Long Beach, Californië plaatsvindt, en het onderzoeksteam is ook van plan om de komende weken een open source-release uit te brengen.