Probléma a számítógépes felügyelettel

Az alábbiakban egy részlet Bruce Schneier-től Adatok és Góliát .

A tömeges megfigyelés egyik gyakori védelme az, hogy algoritmusok és nem emberek végzik, így nem veszélyezteti a magánéletünket. Ez egyszerűen rossz.

Az emberi és a számítógépes megfigyelés közötti különbségtétel politikailag fontos. Amióta [Edward] Snowden egy rakás szigorúan titkos dokumentumot bocsátott az újságírók rendelkezésére, mindenféle NSA szójátékról értesültünk. A védelmi minisztérium szerint az „összegyűjt” szónak nagyon különleges meghatározása van. Nem azt jelenti, hogy gyűjteni; ez azt jelenti, hogy egy személy megnézi vagy elemzi az adatokat. 2013-ban James Clapper, a nemzeti hírszerzés igazgatója az NSA felhalmozott adathalmazát egy könyvtárhoz hasonlította. Az összes könyvet a polcokon tárolják, de nagyon keveset olvasnak el. „Tehát a biztonság megőrzése, valamint a polgári szabadságjogok és a magánélet megőrzése érdekében az a feladatunk, hogy a lehető legpontosabban legyünk, amikor bemegyünk abba a könyvtárba, és megkeressük azokat a könyveket, amelyeket ki kell nyitnunk és el kell olvasnunk.”

Gondolj arra a barátodra, akinek több ezer könyve van a házában. E nevetséges meghatározás szerint csak azokat a könyveket állíthatja magáról, amelyeket gyűjtött, amelyeket olvasott.

Ezért állítja Clapper, hogy nem hazudott a szenátusi meghallgatáson, amikor nemmel válaszolt arra a kérdésre, hogy „gyűjt-e az NSA egyáltalán bármiféle adatot amerikaiak millióiról vagy százmillióiról?” A katonaság szemszögéből ez nem felügyelet, amíg az ember meg nem nézi az adatokat, még akkor sem, ha a védelmi személyzet vagy alvállalkozók által kifejlesztett és végrehajtott algoritmusok sokszor elemezték azokat.

Nem ez az első alkalom, hogy halljuk ezt az érvet. Ez központi szerepet játszott a Google kontextusérzékeny hirdetéseinek védelmében a Gmail kezdeti időszakában. A Google számítógépei minden egyes e-mailt megvizsgálnak, és egy tartalommal kapcsolatos hirdetést helyeznek el a láblécben. De senki sem olvassa el ezeket a Gmail-üzeneteket, csak egy számítógép. Ahogy a Google egyik vezetője privátban elmondta nekem a Gmail kezdeti időszakában: „Ha attól tartasz, hogy egy számítógép olvassa az e-mailjeidet, olyan, mint attól, hogy a kutyája meztelenül lát téged.”

De nem az, és a kutyapélda bizonyítja, hogy miért. Ha egy kutya figyel rád, három okból nem aggódsz túlzottan. A kutya nem tudja megérteni vagy feldolgozni a látottakat ugyanúgy, ahogy egy másik ember. A kutya nem fog úgy emlékezni, és nem arra alapozza a jövőbeli döntéseit, amit lát, ugyanúgy, ahogy egy másik ember képes rá. És a kutya nem tudja elmondani senkinek – sem személynek, sem másik kutyának –, hogy mit lát.

Ha számítógéppel figyelnek, a kutyahasonlatok egyike sem érvényes. A számítógép feldolgozza, amit lát, és arra alapozza a műveleteket. Lehet, hogy azt mondják Önnek, hogy a számítógép nem menti az adatokat, de nem biztos, hogy ez igaz. Lehet, hogy azt mondják Önnek, hogy a számítógép nem riaszt valakit, ha valami érdekeset észlel, de nem tudhatja, hogy ez igaz-e. Nem tudja megerősíteni, hogy senki sem fogja észrevenni a számítógép által meghozott döntéseket, és hogy Önt nem ítélik meg vagy diszkriminálják az alapján, amit a számítógép lát.

Ezenkívül, amikor egy számítógép tárolja az Ön adatait, mindig fennáll a kitettség kockázata. Az adatvédelmi irányelvek holnap változhatnak, lehetővé téve a régi adatok újbóli felhasználását az Ön kifejezett hozzájárulása nélkül. Néhány hacker vagy bűnöző behatolhat és ellophatja az Ön adatait. Az Ön adatait birtokló szervezet valamilyen új és nyilvános módon felhasználhatja azokat, vagy eladhatja egy másik szervezetnek. Az FBI nemzetbiztonsági levelet küldhet az adattulajdonosnak. Másrészt nincs olyan bíróság a világon, amelyik meztelenül tud rólad leírást adni a kutyádtól.

Adatok és Góliát: Rejtett csaták az adatok összegyűjtésére és a világ irányítására

Az elsődleges különbség a számítógép és a kutya között az, hogy a számítógép kommunikál más emberekkel, a kutya pedig nem – legalábbis nem elég jól ahhoz, hogy számítson. A számítógépes algoritmusokat emberek írják, kimenetüket pedig emberek használják. És amikor arra gondolunk, hogy számítógépes algoritmusok figyelnek minket vagy elemzik személyes adatainkat, gondolnunk kell az algoritmusok mögött álló emberekre. Függetlenül attól, hogy valaki ténylegesen megnézi-e az adatainkat, éppen azokat a tényeket, amelyek (1) megtehetik, és (2) irányítják az algoritmusokat, amelyek ezt teszik, felügyeletté teszik.

Tudod, hogy ez igaz. Ha elhinné, amit Clapper mondott, akkor nem tiltakozna a kamerában a hálószobában – mindaddig, amíg szabályok vonatkoznak arra, hogy a rendőrség mikor nézheti meg a felvételt. Ön nem tiltakozna az ellen, hogy a hét minden napján, a hét minden napján kormányzat által kibocsátott lehallgató eszközt viseljen, ha a bürokratikus monitorok ugyanazokat a szabályokat követik. Ha mégis tiltakozik, az azért van, mert felismeri, hogy a magánélet sérelme az automatikus adatgyűjtésből és algoritmikus elemzésből származik, függetlenül attól, hogy egy személy közvetlenül részt vesz-e a folyamatban.

Kivonat a Adatok és Góliát: Rejtett csaták az adatok összegyűjtésére és a világ irányítására írta Bruce Schneier. Copyright © 2015, Bruce Schneier. A kiadó, W. W. Norton & Company, Inc. engedélyével. Minden jog fenntartva.