9. webinárium: Biztonság és adatvédelem a gépi tanulásban (2022. ápr. 14.)

A biztonság és az adatvédelem nélkülözhetetlen szerepet játszik a bizalom kiépítésében minden információs rendszerben, és ez alól a mesterséges intelligencia sem kivétel. Ha egy gépi tanulási modell nem biztonságos vagy magánjellegű/bizalmas információkat szivárogtat ki, a vállalatok vonakodni fognak használni, ami végső soron akadályozza a mesterséges intelligencia és az emberiség fejlődését. Valóban, már demonstrálták, hogy a betanításon átesett gépi tanulási modellekből ki lehet vonni érzékeny betanítási adatokat, vagy a betanítási adatokat meg lehet hamisítani, hogy bizonyos mintákat félreosztályozzanak, vagy hogy a betanítási időt megnöveljék. A bemeneti adatok észrevétlen módosítása, az úgynevezett megtévesztő példák ráadásul félrevezethetik a mesterséges intelligenciát, és téves besorolásokat okozhatnak, amelyek potenciálisan életveszélyes helyzetekhez vezethetnek.

Ezek nem túlzó forgatókönyvek; a speciálisan elkészített megtévesztő matricákkal ellátott stoptáblákat az önvezető autók elsőbbségadást jelző táblának nézhetik; a szemüveges egyéneket egy arcfelismerő rendszer más személyekként azonosíthat; információ kiszivárogtatása arról, hogy egy beteg adatai bekerültek egy rákprognózist készítő modell betanulási adatai közé, azt sugallja, hogy a beteg rákbetegségben szenved. A megbízható gépi tanulást a jogszabályok (például a GDPR) is előírják, amelyek megsértése súlyos bírságokat vonhat maga után egy vállalat számára. Ezért nagy a kereslet olyan szakértők iránt, akik képesek auditálni a gépi tanulási modellek adatvédelmi és biztonsági kockázatait, ezáltal is bizonyítva a különböző AI- és adatvédelmi szabályozásoknak való megfelelést.

Ebben az előadásban a CIA (Confidentiality, Integrity, Availability) hármasát követve áttekintjük a gépi tanulási modellek főbb biztonsági és adatvédelmi kockázatait. A problémákat valós alkalmazásokban mutatjuk be, beleértve a rosszindulatú programok felderítését, a gyógyszerkutatást és az anonimizálás céljából történő szintetikus adatgenerálást.

Nézze meg a LinkedIn-en: https://www.linkedin.com/video/event/urn:li:ugcPost:6919571643547672576/