Aperçu de l’architecture fiwGAN (Beguš, 2021b) et des données utilisées dans la formation. La figure illustre trois réseaux : le générateur avec 5 couches convolutives, le réseau Q avec 5 couches convolutives et le discriminateur avec 5 couches convolutives. —stat.ML
Cet article propose une méthodologie pour découvrir des propriétés significatives dans les données en explorant l’espace latent de modèles génératifs profonds non supervisés. Nous combinons la manipulation de variables latentes individuelles jusqu’à des valeurs extrêmes en dehors de la plage d’entraînement avec des méthodes inspirées de l’inférence causale dans une approche que nous appelons démêlage causal avec des valeurs extrêmes (CDEV) et montrons que cette approche fournit des informations sur l’interprétabilité du modèle. En utilisant cette technique, nous pouvons déduire quelles propriétés de données inconnues le modèle code comme significatives.
Nous appliquons la méthodologie pour tester ce qui est significatif dans le système de communication des cachalots, l’un des systèmes de communication animale les plus intrigants et les moins étudiés. Nous formons un réseau dont il a été démontré qu’il apprend des représentations significatives de la parole et testons si nous pouvons tirer parti d’un tel apprentissage non supervisé pour déchiffrer les propriétés d’un autre système de communication vocale pour lequel nous n’avons aucune vérité fondamentale.
La technique proposée suggère que les cachalots codent des informations en utilisant le nombre de clics dans une séquence, la régularité de leur timing et des propriétés audio telles que la moyenne spectrale et la régularité acoustique des séquences. Certains de ces résultats sont cohérents avec les hypothèses existantes, tandis que d’autres sont proposés pour la première fois.
Nous soutenons également que nos modèles découvrent des règles qui régissent la structure des unités de communication dans le système de communication des cachalots et les appliquent tout en générant des données innovantes non présentées lors de l’entraînement.
Cet article suggère qu’une interprétation des résultats des réseaux de neurones profonds avec une méthodologie causale peut être une stratégie viable pour aborder des données sur lesquelles on sait peu de choses et présente un autre cas de la façon dont l’apprentissage profond peut limiter l’espace des hypothèses.
Enfin, l’approche proposée combinant manipulation d’espace latent et inférence causale peut être étendue à d’autres architectures et ensembles de données arbitraires.
Gašper Beguš, Andrej Leban, Shane Gero
Commentaires : 25 pages, 23 figures
Sujets : Apprentissage automatique (stat.ML) ; Apprentissage automatique (cs.LG); Son (cs.SD); Traitement audio et vocal (eess.AS)
Citer comme : arXiv:2303.10931 [stat.ML] (ou arXiv :2303.10931v1 [stat.ML] pour cette version)
https://doi.org/10.48550/arXiv.2303.10931
Concentrez-vous pour en savoir plus
Historique des soumissions
De : Andrej Leban
[v1] Lun. 20 mars 2023 08:09:13 UTC (8 148 Ko)
https://arxiv.org/abs/2303.10931
Astrobiologie, SETI, CETI,
2023-12-10 02:16:11
1702165269
#Discours #des #baleines #approche #dun #système #communication #inconnu #par #lexploration #spatiale #latente #linférence #causale
