Vyrkillisessä harjoittelussa harjoitustietoja täydennetään hyökkäysalgoritmilla luoduilla "vastuullisilla" näytteillä Jos hyökkääjä käyttää samank altaista hyökkäysalgoritmia luodakseen vastustavia esimerkkejä, vastakohtaisesti koulutettu verkko voi olla varsin kestävä hyökkäykselle.
Kuinka kontradiktorinen oppiminen toimii?
Adversarial koneoppiminen on koneoppimistekniikka, joka yrittää huijata malleja antamalla harhaanjohtavaa syötettä. … Useimmat koneoppimistekniikat suunniteltiin toimimaan tietyissä ongelmajoukoissa, joissa koulutus- ja testidata tuotetaan samasta tilastojakaumasta (IID).
Kuinka kontradiktoriset esimerkit toimivat?
Kiinnostavia esimerkkejä ovat syötteet koneoppimismalleihin, jotka hyökkääjä on tarkoituksella suunnitellut aiheuttamaan mallin virheen; ne ovat kuin optisia illuusioita koneille.… Tyypillisen kuvan päällä oleva vastustaja voi saada luokittelijan luokittelemaan pandan väärin gibboniksi.
Mitä on kontradiktorinen koulutus syvässä oppimisessa?
Vyrkillinen hyökkäys saattaa sisältää koneoppimismallin esittämisen epätarkoilla tai väärillä tiedoilla, koska se harjoittelee, tai haitallisesti suunniteltujen tietojen lisäämistä jo koulutetun mallin huijaamiseksi tekemään virheitä.
Mitä on vastavuoroinen harjoittelu?
Puolustuskyvyn vahvistamiseksi edelleen ehdotetaan itseohjattua kontradiktorista koulutusta, joka maksimoi keskinäisen tiedon alkuperäisten esimerkkien ja vastaavien vastakkaisten esimerkkien välillä.
