1. A TÁRSADALMI KREDIT
RENDSZERÉNEK
INFORMÁCIÓBIZTONSÁGI
KÉRDÉSEI
Kollár Csaba
doktorandusz, kibernetikus
XXXV. Jubileumi Kandó Konferencia
2019. november 14-15.
Óbudai Egyetem
Kandó Kálmán Villamosmérnöki Kar
Budapest

2. BEMUTATKOZÁS

3. A MESTERSÉGES INTELLIGENCIA társadalmi vetületei
gazdasági hatásai
információbiztonság
humán aspektusa
biztonságtudatosság
fejlesztése
ember-robot interakció
emberi oldala
intelligens városok
1. Milyen utópikus és
disztópikus forgatókönyvek
képzelhetők el a jövőt illetően
2. Élhetünk-e a mesterséges
intelligencia nélkül
3. A mesterséges intelligenciára
épülő rendszereknek milyen
információbiztonsági
kihívásokkal kell
szembenéznie
4. Milyen megoldási javaslataink
vannak/lehetnek
kibernetika reneszánsza

4. • Ki a társadalom/kormányzat által jónak értékelt
ember?
• Hogyan lehet valakit objektíven értékelni?
• Mi számít bele az értékelésbe?
– 24/7 idő
– Rokonok, barátok
– Eddigi életút
• Szűkös erőforrásokhoz való igazságos hozzáférés
(egy börtönviselt ember és egy tanár egyaránt új
vesére vár, ki kapja meg előbb?)
• Mennyi az a lélektani küszöb, ami felett már
elfogadjuk a (totális) megfigyelést? (kedvezmények
mértéke, fajtái)
BEVEZETŐ GONDOLATOK

5. 2020-ban Kínában
bevezetik a
Társadalmi Kredit
Rendszerét

6. ADATOK
Rengeteg adat áll rendelkezésre, ezek mennyisége folyamatosan
növekszik
SZÁMÍTÁSI KAPACITÁS
Olyan számítások is elvégezhetők belátható időn belül, amire tíz
évvel ezelőtt még a szuperszámítógépek sem voltak képesek
ALGORITMUSOK
Az AI-t támogató tanulóalgoritmusok, statisztika és
valószínűségszámítás, regressziós modellek, klasszifikáció,
klaszterizáció, lágyszámítási módszerek megjelenése a gyakorlati,
összetett, komplex, bonyolult problémák megoldásában
SZINERGIA
Technológiák fejlődése és összekapcsolódása
MIÉRT ÉPPEN 2020?

7. Marketing, kereskedelem
• Pontgyűjtő kártya
• Nyereményjátékok
• Direkt marketing
• Vonalkód
• Online vásárlás (regisztráció)
Munkaügy
• Önéletrajz
• Diplomamásolatok
Pénzügy
• Bankkártyás fizetés
• Hitelfelvételnél bírálat
Közigazgatás
• Adószám, TAJ
Oktatás
• Neptun
• Napló, e-napló
Közösségi média
• Regisztráció
• Ismerősök hálója
• Médiatartalom-fogyasztási
szokások
Okostelefon
• GPS
• Médiatartalom-fogyasztási
szokások
Elolvastuk a szerződést/használati feltételeket?
NÉHÁNY ELŐZMÉNY A NAGYVILÁGBÓL

8. • Bank (bankszámla)
• Csomagküldő szolgáltatások
• Gépjárművünkkel kapcsolatos nyilvántartások
• Ismerőseink címlistái (Google címtár)
• Ismerőseink telefonja
• Kereskedelmi és e-kereskedelmi vállalkozások
• Kézbesítő szolgáltatók (posta, gyorsposta)
• Könyvtár (kölcsönzés)
• Közösségi média (Facebook, Linkedin, Youtube, Slideshare)
• Közüzemi szolgáltatók
• Lakcímnyilvántartás
• Munkahely/iskola (HR, bérszámfejtés, beléptetés, neptun)
• NAV (adószám)
• Nemzeti Egészségbiztosítási Alapkezelő (TAJ)
• Szakmai regiszterek
• Szakmai szervezetek, szövetségek tagnyilvántartásai
• ugyfelkapu.gov.hu
• Újságok, kiadók, posta (előfizetés)
HÁNY ADATBÁZISBAN VAGYUNK
REGISZTRÁLVA?

9. • Név
• Lakcím
• Telefonszám
• Email cím
• Fizikai cím (lakcím,
tartózkodási hely)
• Végzettségek
• Munkahely(ek)
• Családi állapot
• Rokonok, ismerősök
• Közösségi oldalakon
ismerősök, aktivitások,
posztolások, lájkolások,
megosztások
• Fizetési/pénzhasználati
szokások
• Vásárlási szokások
• Antropometriai jellemzők
• Arc, arcvonások
• Alvási szokások
• Viselkedés
• Kulturális fogyasztás
• Hanghordozás,
beszédstílus
• Nyelvismeret és egyéb
ismeretek
• Szociális készségek
MIT TUDHATNAK RÓLUNK?

10. Munkahelyi
(180°/360°/540°)
Karrier, előre menetel, fizetésemelés, elbocsátás
Linkedin (Skills &
Endorsements)
Ha az adott területen elismert ember értékel, akkor szakmai
személyes márka épül, releváns állásajánlatok
Iskolai (osztályzat,
aláírás, felmentés)
Sikeres/sikertelen vizsga, félév, diploma, diplomás munkahely
Sportversenyek Kvalifikáció, részvétel lehetősége rangos versenyeken
Közösségi média
(lájk, komment)
Önértékelés növelése/csökkenése, nárcisztikusság,
öngyilkosság, személyes márka építése
Hitelminősítés
Kedvezőbb/kedvezőtlenebb hitelkonstrukció, eladósodás, csőd,
célok elérése
Vásárlás (vásárló) Hűségpontok, kedvezmények, ajándékok
Vásárlás (eladó) Jó/rossz (megbízhatatlan) kereskedő, gyártó, profitcsökkenés
ÉRTÉKELÉS ÉS KÖVETKEZMÉNYEK

11. • Hatalmi szóval
• Társadalmi elvárásként előadva
• Gamification
Jutalmak
– ajándékok
– pontok
– jelvények
– újabb szintre lépés
– kedvezmények
– kiváltságok
– újabb eszközök a játékhoz
– virtuális fizetőeszközök
– folyamat állapotát jelző csík töltődése
– ranglistás helyek
– státuszjutalmak
MOTIVÁCIÓ VS. MANIPULÁCIÓ

12. Elolvasta a felhasználási feltételeket?
RENDSZERINT NEM
Elégedett az adott szolgáltatással?
+/-
Hallott a társadalmi kredit rendszeréről?
NEM, VALAMIT
Elfogadja a társadalmi kredit rendszerét?
Amennyiben a rendszer átlátható és demokratikus
módon kerül kialakításra, s a megfelelő független
ellenőrzés biztosított, akkor elfogadja.
MIT MONDANAK A KUTATÁSI
EREDMÉNYEK?

13. Mi lenne, ha a különböző
értékelési helyeket
összekapcsolnánk?
Milyen előnyök/hátrányok
származnának belőle?
Hogyan tudnánk ezt
jogszerű(nek tűnő)en
csinálni?

14. • Hivatalos bejelentés: 2014
• Bevezetés: 2020
• Polgárok száma: 1,3 milliárd fő
• Technológiák összekapcsolása
• Adatbázisok összekapcsolása
• Azonosítás: személyi igazolvány (azonosítószám) alapján
• Érintettség: egyének, vállalatok, intézmények
• Területek: politika, üzleti élet, társadalom, igazságszolgáltatás
• Fókuszterületek:
– őszinteség a kormányzati ügyekben
– üzleti becsületesség
– társadalmi becsületesség
– igazságügyi hitelesség
• Következmények:
– jutalmak
– büntetések
INFORMÁCIÓK A TÁRSADALMI KREDIT
RENDSZERÉRŐL

15. • Okostelefonok (GSM, GPS)
• Testen viselhető okoseszközök (óra,
karkötő, cipő, póló)
• Beléptető rendszerek
– Biometrikus
– Kártyás
– RFID-s
• Kamera
– Utcai/közterület
– Járműveken
– Beltéri (iroda)
– Okostelefon/tablet
MEGFIGYELÉS BE

16. • Telefont kikapcsolja, eldobja
• Testen viselhető okoseszközt kikapcsolja, eldobja,
leveszi
• Beléptető rendszerek
– Biometrikus – nem lép be, más testlenyomatával lép be
– Kártyás – más kártyáját használja
– RFID-s – más eszközét használja
• Kamera – smink, paróka, napszemüveg
– Utcai/közterület
– Járműveken
– Beltéri (iroda)
– Okostelefon/tablet – kikapcsolja, kamerát letakarja
Kilépési pont: szürke zónák, ha ide téved az ember,
akkor „elveszik”, de drónokkal tovább figyelhető
MEGFIGYELÉS KI

17. KAPCSOLÓDÓ TECHNOLÓGIÁK ÉS
ALKALMAZÁSOK
17
Felhő alapú
számítástechnika
Robotizáció
0110101
1101010
1101010
BDA Mobil
Biztonság(i kamerák)
Közösségi média
AR, VR, MR
(I)IoT és szenzor
Vezetékes és vezeték-
nélküli hálózatok
GIS, GPS
Mesterséges
intelligencia
Társadalmi
Kredit
Rendszere

18. Hagyományos adatok
Közösségi adatok
Online adatok
AI
111111111111111111
RENDSZERÁBRA

19. Jövedelemadó
Kölcsön
visszafizetése
Hitelkártya
számla
Rezsiszámlák
Perköltség
megfizetése
Közlekedési
szabályok betartása
Családtervezési
korlátok betartása
Fizetés a
tömegközlekedésért
Becsületesség
Önkéntesség
Jó szülő
Bűnözési rekord
Kapcsolat a többi
internet-felhasználóval
Online közzétett hírek
megbízhatósága
Vásárlási szokások
ADATOK, BEMENETEK

20. INFORMATIKAI HÁTTÉR

21. A kormány törekvése informatikai eszközökkel
és megoldásokkal
– az állam és a társadalom irányítása
– horizontális és vertikális információmegosztás
– a protekcionizmus felszámolása
– a papíralapon levő adatok digitalizálása
KORMÁNYZATI SZÁNDÉK

22. Minden állampolgár és vállalkozás azonosítható
legyen
• egyedi azonosítás (18-digites kód az
állampolgároknak) lehetővé tétele minden szükséges
helyzetben/helyen
• a beazonosít nélküli működés (életvitel) lehetetlenné
tétele (avatarok, anonim digitális részvétel tiltása)
Adatbázisok összekapcsolásának megtervezése
• hivatalok adatbázisai
• mobiltelefonszám és -előfizetés
• közöségi média
• online szolgáltatások
• biometrikus azonosítás
ELSŐ LÉPÉS

23. • Olyan adatbázisok létrehozása, amelyek
tartalma az egyedi azonosító alapján
összekapcsolható
• Baidu (nem anonim) keresőtalálatainak
elemzése, ezeknek az adatbázisok a
hozzákapcsolása a többi adatbázishoz
MÁSODIK LÉPÉS

24. • Tárolt adatok és információk feldolgozása és
felhasználása
– Big data elemzés
– Korrelációszámítás
– Regressziószámítás
– Klasszifikáció (osztályozás)
– Klaszteranalízis (valószínűségszámítás alapján
egyének csoportokba sorolása)
– Szociometria, hálózatkutatás
• Algoritmusok használata
• Feketelisták működésének a fejlesztése
HARMADIK LÉPÉS

25. • Hibajavítás
NEGYEDIK LÉPÉS

26. ADAT- ÉS INFORMÁCIÓBIZTONSÁGI
KIHÍVÁSOK(K)

27. VISSZAÉLÉS AZ EGYÉN ARCÁVAL, AZ
ARC MÓDOSÍTÁSA, TAKARÁSA

28. VISSZAÉLÉS AZ EGYÉN ADATAIVAL ÉS
ESZKÖZEIVEL

29. EGYÉN ILLETÉKTELEN KÖVETÉSE

30. HIBÁSAN MŰKÖDŐ SZENZOROK

31. RENDSZERELEMEK KÖZÖTTI
KOMMUNIKÁCIÓS HIBA

32. ADATBÁZIS – STRUKTÚRAHIBA

33. ADATBÁZISOK ÖSSZEKAPCSOLÁSI
HIBÁJA

34. ROSSZ, HIBÁS ADATELEMZÉS ÉS
ALGORITMUSOK

35. GÉPI TANULÁSI HIBÁK

36. A MESTERSÉGES INTELLIGENCIA
HIBÁI

37. HIVATALNOKOK ÉS INFORMATIKUSOK
(SZÁNDÉKOS) KÁROKOZÁSA

38. GAZDASÁGI ÉS TÁRSADALMI HATÁS

39. • Féken tartja az illegális magatartást, segítheti
az egyének és a vállalatok gazdasági
megbízhatóságát
• Hozzájárul a társadalmilag és környezetileg
felelősségteljes új magatartás kialakításához
(nevelés)
• A vállalatok transzparens működésének
támogatása
• Az üzleti partnerek jobb megítélése
• Meglevő gazdasági statisztikák jóságának
növelése
• A big data elemzések új vállalati lehetőségeket
teremtenek
• Megéri „jógyereknek” lenni
POZITÍV HATÁS

40. • Nem kiforrott még a technológia és a minősítő rendszer
sem, nagy a kockázata a téves értékelésnek
• Folyamatosan nagyon sok adatot kezel a rendszer
– adatszivárgás révén illetéktelenek kezébe kerülhetnek titkos
és személyes adatok
– nő az adatlopás esélye
– adatvesztés hatalmas gazdasági károkat okozhat
• Az állam és a vállalatok mindent tudhatnak az emberről
• Megszűnik a magánszféra
• Az üzleti élet szereplői – ha nem képesek betartani a
szabályokat – ellehetetlenedhetnek
• Mivel az állam az adatokhoz korlátlanul férhet hozzá, a
hivatalnokok a számukra nem szimpatikus
egyént/vállalatot ellehetetleníthetik
• Kína üzleti tevékenysége kiszámíthatatlanná válik
NEGATÍV HATÁS

41. • A nemzetközi vállalatok – hogy elkerüljék a
büntetést – megpróbálnak beilleszkedni a
rendszerbe
• Adatmegosztás révén a kínai vásárlók adatai
külföldre kerülhetnek
• Kína a rendszer révén hozzáférhetne a külföldi
vállalatok csúcstechnológiai adataihoz (know-
how)
• A társadalmi kredit rendszere kiváló exportcikk
(nem csak) az olyan országok számára,
amelyeknél fontos a gazdaság állami
irányításának megerősítése
NEMZETKÖZI HATÁS

42. Kitekintés
a jövőbe*
uture Today Institute,
rtner, PREMA, ÓE BGI MIM

43. 1. Részleteiben szinte minden országban megjelenik
2. Nagyobb hangsúlyt kap az informatikai rendszerek
védelme
3. Új hibajavító algoritmusok
4. Megbízható emberek kiválasztása és alkalmazása
a hibás mesterséges intelligencia döntéseinek
vizsgálatára, elemzésére, módosítására,
felülírására
5. Társadalmi értékrend átalakulása és
diverzifikálódása (elfogadás, elutasítás, nomádok,
egyéni szabadságharcosok, kiskapuk keresése,
must go zónák állami felügyelet mellett)
6. Új törvények
A TKR JÖVŐJE

45. • Társadalmi kredit rendszere adat- és
információbiztonsági kihívásainak kutatása
• Aláírásazonosítás és –hamisításdetektálás
mesterséges intelligencia segítségével
• Mesterséges Intelligencia Műhely
• Mesterséges intelligencia a biztonságtechnikában
című tantárgy
• Releváns szak- és diplomadolgozati, illetve TDK
témák
• Konferenciaelőadások és szakmai tanulmányok
KAPCSOLÓDÓ AKTIVITÁSAINK A
BÁNKI KARON

46. A társadalmat csak a hozzá
tartozó üzenetek és közlési
lehetőségek tanulmányozása
alapján lehet megérteni.
Norbert Wiener

47. KÖSZÖNÖM MEGTISZTELŐ
FIGYELMÜKET!
Kollár Csaba
Óbudai Egyetem
Biztonságtudományi Doktori Iskola
https://www.linkedin.com/in/drkollarcsaba
http://www.slideshare.net/drkollarcsaba

48. • https://images.theconversation.com/files/32912/original/dp2v9tty-1381627354.jpg?ixlib=rb-1.1.0&q=45&auto=format&w=926&fit=clip
• http://www.pngmart.com/image/112434
• https://www.clipartwiki.com/downpng/TwJmmw_machine-learning-and-computer-vision-stay-hungry-stay
• http://clipart-library.com/clipart/zTX5M56Rc.htm
• https://www.clipartwiki.com/downpng/iRThiTw_clip-art-robot-arm-icon-robot-arm-png/
• https://www.clipartwiki.com/downpng/bobTJ_computer-icons-symbol-phone-accessories-connection-mobile-connectivity/
• https://www.clipartwiki.com/downpng/iTTRwxT_security-camera-icon-cctv-icon/
• https://www.clipartwiki.com/iclip/iRoTxmb_social-media-bar-png/
• https://www.clipartwiki.com/downpng/mmJxoR_virtual-reality-hand-drawn-icon-png/
• https://icon-icons.com/icon/electric-sensor/12922
• https://icon-library.net/icon/network-icon-5.html
• https://www.brainpickings.org/2018/06/15/the-human-use-of-human-beings-norbert-wiener/
• https://cultura.hu/wp-content/uploads/2017/08/banki-donat-cigar-head.jpg
• https://scx1.b-cdn.net/csz/news/800/2018/information.jpg
• https://www.indiafilings.com/learn/wp-content/uploads/2016/05/Challenges-faced-by-startups.jpg
• https://i.ytimg.com/vi/mzyDvOjyyTI/maxresdefault.jpg
• https://www.irishtimes.com/polopoly_fs/1.3772424.1548608574!/image/image.jpg_gen/derivatives/box_620_330/image.jpg
• https://geospatialmedia.s3.amazonaws.com/wp-content/uploads/2018/02/Indoor-positioning-System-IPS.jpg
• https://www.cytron.io/image/cache/catalog/products/KIT-SEN-37/KIT-SEN-37-0-1-1-512x512.jpg
• https://courses.opened.uoguelph.ca/upload/06_DestinyPageBannerCIS1000DE.png
• https://miro.medium.com/proxy/0*dFLgSGmtLC07YQ-L.jpeg
• https://images.idgesg.net/images/article/2017/09/networking-100735059-large.jpg
• https://www.ft.com/__origami/service/image/v2/images/raw/http%3A%2F%2Fcom.ft.imagepublish.upp-prod-
us.s3.amazonaws.com%2F5242668e-93e9-11e8-95f8-8640db9060a7?fit=scale-down&source=next&width=700
• https://www.einfochips.com/blog/wp-content/uploads/2018/11/how-to-develop-machine-learning-applications-for-business-
featured.jpg
• https://bernardmarr.com/img/The%206%20Best%20Free%20Online%20Artificial%20Intelligence%20Courses%20For%202018.png
• https://www.brinknews.com/wp-content/uploads/2017/11/sing-office-111348812-1.jpg
• https://yp.scmp.com/sites/default/files/styles/615x400/public/images/shutterstock_1084742840.jpg
• https://ionemadamenoire.files.wordpress.com/2019/03/15518392623042.jpg?w=724&h=483
A FELHASZNÁLT KÉPEK FORRÁSA

49. A prezentáció
az Innovációs és Technológiai Minisztérium
Új Nemzeti Kiválósági Programjának
támogatásával készült.
SZOLGÁLATI KÖZLEMÉNY