Invisible Backdoor

Entity ID

invisiblebackdoor

Entity Type

Method

English Label

Invisible Backdoor

Russian Label

Невидимая задняя дверь

Kazakh Label

Көрінбейтін артқы есік

Frequency

1

English Description

A backdoor that is activated by a learnable combination of word substitution, making it highly invisible to existing defense strategies and human inspections.

Russian Description

Invisible Backdoor - метод в области обработки естественного языка. Его цель - создание манипуляций, которые внедрены в модели скрытым образом и остаются незамеченными для пользователей. Этот метод позволяет управлять параметрами модели с целью получения определенных результатов, не нарушая при этом ее производительность. Например, можно обмануть языковую модель, заставив ее неправильно интерпретировать или генерировать определенные фразы, изменяя поведение модели. Этот метод указывает на угрозы в понимании и генерации языка, поскольку он ставит под сомнение надежность и безопасность моделей.

Kazakh Description

Invisible Backdoor - табиғи тілдерді өңдеу саласындағы әдіс. Оның мақсаты - модельдерге жасырын түрде енгізілген және пайдаланушылардың назарынан тыс қалатын манипуляцияларды жасау. Бұл әдіс әдетте модельдердің өнімділігін бұзбай, белгілі бір нәтижелерді алу үшін модельдердің параметрлерін басқаруға мүмкіндік береді. Мысалы, тіл моделін кейбір фразаларды түсіну немесе генерациялау жолымен алдау арқылы модельдің мінез-құлқын өзгерту. Бұл әдіс тілдерді түсіну мен генерациялаудағы қауіптерді білдіреді, өйткені ол модельдердің сенімділігі мен қауіпсіздігіне қауіп төндіреді.