Backdoor Attack

Entity ID

backdoorattack

Entity Type

Method

English Label

Backdoor Attack

Russian Label

Атака через заднюю дверь

Kazakh Label

Артқы есік арқылы шабуыл

Frequency

3

English Description

A security threat where models are manipulated to perform well on clean data but poorly on data with specific triggers.

Russian Description

Атака с задней дверью (Backdoor Attack) в контексте обработки естественных языков (NLP) представляет собой метод атаки, при котором скрытая информация внедряется в модели для манипуляции их поведением. Цель этого метода - заставить модели выполнять определенные команды без контроля. Например, злоумышленник использует специальные триггеры во время обучения модели, которые остаются скрытыми. В результате, когда модель обнаруживает триггер, она выполняет заданное действие, позволяя злоумышленнику достигать своих целей. Атака с задней дверью может подрывать языковое понимание и генерацию в NLP, поскольку она изменяет прогнозы модели в нежелательном направлении, снижая надежность выполнения языковых задач.

Kazakh Description

Backdoor шабуылы - табиғи тілдерді өңдеу (NLP) контекстінде, модельдерге жасырулы ақпарат енгізу арқылы шабуыл жасау әдісін білдіреді. Бұл әдістің мақсаты - модельдерге бақылаусыз түрде белгілі бір командаларды орындауға мәжбүрлеу. Мәселен, шабуылдаушы модельді жаттықтыру кезінде арнайы триггерлерді пайдалана отырып, оны бағдарламау барысында жасырады. Нәтижесінде, модель триггерлер байқалған кезде, оны дұрыс орындап, шабуылдаушының мақсаттарына жетуге мүмкіндік береді. Backdoor шабуылы NLP-те тілдік түсіну мен генерацияны бұзуы мүмкін, себебі ол модельдің болжамдарын теріс бағытта өзгерту арқылы тілдік тапсырмаларды орындаудағы сенімділікті нашарлатады.