A Preliminary Study on Environmental Sound Classification Leveraging Large-Scale Pretrained Model and Semi-Supervised Learning

�� ���������������� ���������������� ���������������� ���������������� ���������������� ����������������� ���������������� ������(Transfer Learning)��� ���������� FixMatch �� ����� SpecAugment ����� ���������������� �������� UrbanSound8K �� ���������������� ������ 2.4%������ Abstract With the widespread commercialization of smart devices, research on environmental sound classification has gained more and more attention in recent years. In this paper, we set out to make effective use of large- scale audio pretrained model and semi- supervised model training paradigm for environmental sound classification. To this end, an environmental sound classification method is first put forward, whose component model is built on top a large- scale audio pretrained model. Further, to simulate a low-resource sound classifica- tion setting where only limited supervised examples are made available, we instanti- ate the notion of transfer learning with a recently proposed training algorithm (namely, FixMatch) and a data augmenta- tion method (namely, SpecAugment) to achieve the goal of semi-supervised model training. Experiments conducted on bench- mark dataset UrbanSound8K reveal that our classification method can lead to an accuracy improvement of 2.4% in relation to a current baseline method. �������������������� Keywords: Environmental Sound Classification, Transfer learning, Semi-supervised learning 1 �� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ����� ������� (Audio Tagging) ����� �� (Environmental Sound Classification) �� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ���������������� ����������� (Target Domain) � ������������������� ���������������������������� A Preliminary Study on Environmental Sound Classification Leveraging Large-Scale Pretrained Model and Semi-Supervised Learning You-Sheng Tsao, Tien-Hong Lo, �Jiun-Ting Li, �Shi-Yan Weng, �Berlin Chen Department of Computer Science and Information Engineering, National Taiwan Normal University The 33rd Conference on Computational Linguistics and Speech Processing (ROCLING 2021) Taoyuan, Taiwan, October 15-16, 2021. The Association for Computational Linguistics and Chinese Language Processing 103 ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� ������������������� PANN (Pretrained Audio Neural Networks) (Kong et al., 2020) �������������� ������������������� ��������� FixMatch (Sohn et al., 2020) ����������������� FixMatch ��������������� ������������������� �� SpecAugment (Park et al., 2019)����� � � � � � � � � � � UrbanSound8K (Salamon et al., 2014) ��������� FixMatch ��������������� ������������������� ������������������� ���� FixMatch ���������� ������������������ ������������������� ������������������� ������������������� ������������������� ������������ 2 � ���� ������������������� ������������������� ������������� 2.1 ���� ������������������� ������������������� ������������������� ���� (Gaussian Mixture Model, GMM) �� ������� (Hidden Markov Model, HMM) (Vuegen et al., 2013; Mesaros et al., 2010) ��� ������������������� 1 http://dcase.community/challenge2020/index ������������������� ������� (Convolutional Neural Network, CNN) ����������������� ����������CNN ������� ��� (Krizhevsky et al., 2017)������� ������������������� �������� DCASE1 ������� ������� CNN ���������� ���������������� (Su et al., 2019; Sharma et al., 2020) ��������� � Google ��� Audioset ������� ������������������� � 5000����� Youtube �������� ��� 527 �������������� ImageNet (Deng et al., 2009) �������� ������������������� ������������������ ������������������ ����������� PANN ����� ����� PSLA (Gong et al., 2021) ���� ���������������� Audioset ������������������� ������������������� ������������������� ���������� (Jaegle et al., 2021; Guzhov et al., 2021) ����������� �������� Palanisamy et al. (2020) �� ���������� ImageNet ����� ������������������� ������������������� �� PSLA ��������������� ������������������� ����� PANN �������� 2.2 ����� ������������������� ������������������ ������������������� ������������������� ������������������� ������������� ������������������ (Pseudo-Label) ������������� ������������������� The 33rd Conference on Computational Linguistics and Speech Processing (ROCLING 2021) Taoyuan, Taiwan, October …

Content truncated to 500 words