Скрытая токсичность

ID сущности

veiledtoxicity

Тип сущности

Task

Английская метка

Veiled Toxicity

Русская метка

Скрытая токсичность

Казахская метка

Жасырын токсикантылық

Частота

1

Английское описание

The challenge of recognizing disguised offensive language that avoids known toxic lexicons.

Русское описание

Veiled Toxicity - это задача в области обработки естественного языка (NLP), направленная на обнаружение токсичного контента, такого как ненависть, агрессия или предвзятость, который может быть замаскирован. Цель задачи - обеспечить безопасность пользователей, особенно на онлайн-платформах. Задача основывается на контекстуальных языковых моделях, которые обучаются на выявлении неявно токсичных, но потенциально вредных высказываний. Эта задача важна для понимания и генерации языка, поскольку она помогает в выявлении скрытого, но опасного контента.

Казахское описание

Veiled Toxicity - бұл табиғи тілдерді өңдеуде (NLP) араздық, жеккөрушілік немесе агрессия сияқты улы контентті анықтау тапсырмасы. Оның мақсаты - пайдаланушылардың қауіпсіздігін қамтамасыз ету, әсіресе онлайн платформада. Бұл тапсырма контекстуалды тілдік модельдерге негізделген, олар токсикалық емес, бірақ жасырулы түрде зиянды сөйлемдерді тану үшін тренинг алады. Бұл тапсырма тілдік түсінік пен генерацияны жақсарту үшін маңызды, себебі ол жасырын, бірақ зиянды контентті анықтауда көмектеседі.