Артқы есік арқылы шабуыл

Нысан ID

backdoorattack

Нысан түрі

Method

Ағылшын белгісі

Backdoor Attack

Орыс белгісі

Атака через заднюю дверь

Қазақ белгісі

Артқы есік арқылы шабуыл

Жиілік

3

Ағылшын сипаттамасы

A security threat where models are manipulated to perform well on clean data but poorly on data with specific triggers.

Орыс сипаттамасы

Атака с задней дверью (Backdoor Attack) в контексте обработки естественных языков (NLP) представляет собой метод атаки, при котором скрытая информация внедряется в модели для манипуляции их поведением. Цель этого метода - заставить модели выполнять определенные команды без контроля. Например, злоумышленник использует специальные триггеры во время обучения модели, которые остаются скрытыми. В результате, когда модель обнаруживает триггер, она выполняет заданное действие, позволяя злоумышленнику достигать своих целей. Атака с задней дверью может подрывать языковое понимание и генерацию в NLP, поскольку она изменяет прогнозы модели в нежелательном направлении, снижая надежность выполнения языковых задач.

Қазақ сипаттамасы

Backdoor шабуылы - табиғи тілдерді өңдеу (NLP) контекстінде, модельдерге жасырулы ақпарат енгізу арқылы шабуыл жасау әдісін білдіреді. Бұл әдістің мақсаты - модельдерге бақылаусыз түрде белгілі бір командаларды орындауға мәжбүрлеу. Мәселен, шабуылдаушы модельді жаттықтыру кезінде арнайы триггерлерді пайдалана отырып, оны бағдарламау барысында жасырады. Нәтижесінде, модель триггерлер байқалған кезде, оны дұрыс орындап, шабуылдаушының мақсаттарына жетуге мүмкіндік береді. Backdoor шабуылы NLP-те тілдік түсіну мен генерацияны бұзуы мүмкін, себебі ол модельдің болжамдарын теріс бағытта өзгерту арқылы тілдік тапсырмаларды орындаудағы сенімділікті нашарлатады.