Toxic Span Detection

Entity ID

toxicspandetection

Entity Type

Task

English Label

Toxic Span Detection

Russian Label

Обнаружение токсичных фрагментов

Kazakh Label

Уытты бөліктерді анықтау

Frequency

6

English Description

Detecting toxicity of contents in the granularity of tokens.

Russian Description

Обнаружение токсичных фраз — это задача в области обработки естественного языка. Ее цель заключается в автоматическом выявлении вредного или оскорбительного контента в текстах. Эта задача основывается на понимании контекста и нюансов языка, поскольку токсичное содержание может проявляться в различных формах, таких как ненависть, оскорбление или агрессия. Системы для обнаружения токсичных фраз часто используют глубокие нейронные сети и языковые модели, такие как BERT или GPT-3. Эта задача имеет большое значение для мониторинга и управления вредным контентом на онлайн-платформах, социальных сетях и форумах, поскольку помогает снижать количество негативных комментариев и ненависти в обществе.

Kazakh Description

Токсикалық фразаларды анықтау — табиғи тілдерді өңдеуде қолданылатын тапсырма. Оның мақсаты — мәтіндегі зиянды немесе қорлайтын фразаларды автоматты түрде анықтау. Бұл тапсырма контекстті түсіну мен тілдің нюанстарын тануға негізделген, өйткені токсикалық мазмұн әртүрлі формаларда, мысалы, жеккөрушілік, қорлау немесе агрессия түрінде пайда болуы мүмкін. Токсикалық фразаларды анықтау жүйелері көбінесе терең нейрондық желілер мен тілдік модельдерді, мысалы, BERT немесе GPT-3, пайдаланады. Бұл тапсырма онлайн платформаларда, әлеуметтік желілерде және форумдарда зиянды контентті бақылау мен басқару үшін маңызды, себебі ол қоғамдағы жағымсыз пікірлер мен жеккөрушілікті азайтуға көмектеседі.