1. Informatikai Biztonsági Kerekasztal III.
tudományos-szakmai konferencia
2017. november 28.
Nemzetbiztonsági Szakszolgálat Szakértői Intézet
Budapest
Kollár Csaba
A mesterséges intelligencia
és a humán biztonság

2. DIGITÁLIS KOR társadalmi vetületei
gazdasági hatásai
információbiztonság
humán aspektusa
biztonságtudatosság
fejlesztése
ember-robot interakció
emberi oldala
intelligens városok
Mi az ember helye és
szerepe a mesterséges
intelligencia korában?

3. BEVEZETÉS

4. Az AI néhány formája
Watson
Sophia
Deep Blue

5. A mesterséges
intelligencia az intelligens
gépek gyártásának
tudománya és mérnöki
gyakorlata.
John McCarthy

6. Az AI fontosabb tudományterületi kapcsolatai
Számítás-
tudomány
Kommunikáció- és
nyelvtudomány
Biztonság-
tudomány
Biológia és
orvostudomány
Idegtudomány
Pszichológia
Szociológia
FilozófiaMatematika
Műszaki
tudományok

7. Az AI kapcsolódó fogalmai

8. Az AI és egyéb technológiák kapcsolata
Cloud - Felhő alapú számítástechnika
Analytics - Big data analitika, adatbányászat
Mobile - Mobil szolgáltatások és alkalmazások
Social media - Közösségi média
Security - Biztonság
AR - Kiterjesztett és kevert valóságok
IoT - Dolgok internete
Robots - Robotok és drónok
Networks - Hálózatok, grid

9. Különbség a program és az AI között*
program AI
• Programozó írta
• Determinisztikus: ugyan arra a
kérdésre ugyan azt a választ
adja
• Igen-nem, 0-1 jellegű
eredményt ad
• Az ember mondja meg, hogy mi
a helyes eredmény
• Szabályokat futtat, nincs helye a
szabályok felülírásának
• Programozó írta
• Valószínűséggel dolgozik:
bizonyos eséllyel ugyan az a
válasz az adott kérdésre
• Kevésbé-jobban, 85%-15%
jellegű eredményt ad
• A programozó a célt adja meg, a
gép kísérletezi ki a helyes
eredményeket
• Mintákat vizsgál
• Helye van a meglepetéseknek
és a hangsúlyok eltolásának
*Biczó (2017) alapján

10. AZ AI TERÜLETEI

11. • Grafikus felhasználói felület
• Automatikus storage menedzsment
• Objektumorientált programozás
• Adatbányászat
• Számítógépes játékok
• Távközlés: automatikus online asszisztensek
• Chatbot
• Hanghívás
• Beszédfelismerés
• Képfelismerés
• Alakfelismerés
Számítástudomány

12. • NASA repülési kutatóközpont
• Hangfelismerés a harci repülőgépeken
• Útmutatás az AI pilótákhoz a légiforgalmi irányítókon
keresztül
• Automatikus hajtóműrendszer autókban
Repülés és automatizálás

13. • Biztonsági rendszerek
• Kényelmesebb élet
• Élhetőbb város
• Rend a káoszban (tömegközlekedés)
• Energiaellátás
• Hulladékgazdálkodás
• Víz- és szennyvízgazdálkodás
• Környezetvédelem
• Megfigyelőrendszerek
Épületek, városok

14. • Hontalanság és éhezés – műholdképek elemzése annak
megállapítására, hogy hol van a legnagyobb szükség a
segítségre
• Műholdképek elemzése – aszályos területek
• Trágyázás, öntözés támogatása
• Ellenállóbb növényfajták kifejlesztése
• Regionális, országos szinten a termelés összehangolása
Szociális ellátás
Precíziós mezőgazdaság

15. • Mesterséges intelligencia tanítja, mentorálja, tutorálja a
diákokat, hallgatókat
• Jobban modellezhetőek a társadalmi folyamatok,
természettudományos megállapítások
• Pozitív visszajelzés a fejlődésről a diáknak, a tanárnak
• Jobban és szofisztikáltabban mérhető a diákok fejlődése
• SNI-s, (szellemi) fogyatékos gyerekek jobban elfogadják
a robotot
• Kiterjesztett és virtuális világok: AI AR-rel és VR-rel
együtt
• A diákok szükségleteihez és tudásszintjéhez illeszkedő
grafikus kezelőfelület
Oktatás

16. • Adatbányászat az egészségügyi adatokban
• Kezelési terv megalkotása
• Rutintevékenységek támogatása
• Személyes és online konzultációk (AI doki)
• Egészségügyi segítség és gyógykezelés
• Személyre szabott precíziós gyógyszerelés és dozírozás
• Gyógyszergyártás
• Segíti a beteget a megfelelő döntés meghozatalában
• Elemzi az egészségügyi (ellátó)rendszert
Egészségügy

17. • Tőzsdei, gazdasági előrejelzések
• Személyes bankár
• Döntéstámogatás
• Csalások megakadályozása, felderítése
Gazdaság, pénzügyek

18. Ipar 4.0

19. • Robotok összeszerelése
• Ipari robotok (szerelés, hegesztés, szállítás)
• Szállítórobotok
• Robotnavigáció
• Társas interakcióra képes robotok
Robotika

20. A robotok fajtái – pszichológiai megközelítés*
*Libin & Libin (2004) alapján
Megnevezés Emberi szükségletek Viselkedési konfig. Fizikai megjelenés
Ipari robotok
Kemény és veszélyes munka
végzése Emberi viselkedés
helyettesítése a
szituációtól függően
Gépszerű, hangsúlyt
fektetve a perifériákra
Kutatórobotok
Az emberi szenzomotoros
kapacitások kiterjesztése
Katonai és mentési
robotok
Aktivitás életveszélyes
helyzetekben
Emberi érzések és
érzelmek kiváltása és
előhozása a cél
Létező tárgyak és funkciók
működés közbenOrvosi robotok
Finom, precíz motorikus műveletek
az emberi testben
Rekreációs robotok
Megerősítés a szórakoztatáson
keresztül
INTERAKTÍV ROBOTOK
Társadalmi robotok Kommunikáció, társalgás
Emberi arckifejezések,
bonyolult gesztusok
társadalmi jelentések
alapján
Antropomorf, emberszerű
(humanoid) kinézet
Terápiás
képességgel
rendelkező robotok
A negatív érzelmi állapotok és
viselkedés terápiája és kezelése
A társadalmi viselkedés
élethű modellezése
Ember- vagy állatszerű
kinézet

21. A társadalmi robotok jellemzői
1. A társadalmi érzést felidéző1
A robotok az emberekhez hasonlóan képesek ápolni, ellátni, megérinteni az
embert.
2. A társadalmi szituációba helyezhető2
A robotok a társadalmi környezetbe helyezhetőek, ahol érzékelnek,
reagálnak, megkülönböztethetőek más szereplőktől és a környezettől.
3. Társaságkedvelő3
A robotok az emberekkel közösen vesznek részt a társadalmi célok
megvalósítása érdekében. A robotok a társas megismerés modelljeit
igénylik.
4. Társadalmilag intelligens4
A robotra emberszerű társadalmi intelligencia jellemző, a robotok az emberi
megismerés és a társas kompetencia modelljeit igénylik.
5. Társadalmilag interaktív5
A szociális interakció központi szerepet játszik, s messze fejlettebb a robot e
tekintetben is társaihoz képest.
1,3Breazeal (2002, 2003), 2,5Fong et al. (2003), 4Dautenhahn (1998)

22. EMBERI INTELLIGENCIA
memória
motiváció
Az ember-robot interakció*
*Salem (2016)
érzékelés
érzelmek
megismerés
kifejezés
MESTERSÉGES INTELLIGENCIA
tudásbázis
motiváció
érzékelés
érzelmek
megismerés
kifejezés
HRI
EMBER ROBOT

23. Mi indokolja a katonai robotok használatát?
• A katonáknak a polgári felhasználókhoz képest gyakran
veszélyesebb feladatokat kell végrehajtania
• Átkelés aknamezőn
• Fel nem robban bombák hatástalanítása
• Ellenséges épületek kiürítése
• Robotok végezzék ezeket a feladatokat a katonák helyett
• Ismeretlen környezetben való működés
• Az ember helyettesítése és/vagy támogatása a veszélyes,
nehéz és piszkos feladatokban
• Az emberi élet megóvása -> pénzügyi támogatás a
fejlesztésekre
Honvédelem 1.

24. A katonai robotok lehetséges felosztása
1. Fizikai – virtuális (mesterséges intelligencia)
2. Ember által vezérelt – „önjáró”
3. Egy feladatra (funkcionális) – több feladatra
kifejlesztett (univerzális)
4. Robotszerű – ember- és/vagy állatszerű (android,
humanoid, animoid)
5. UAV (pilóta nélküli légi jármű) – UUV (pilóta nélküli víz
alatti jármű) – UGV (pilóta nélküli földi jármű)
Honvédelem 2.

25. 3 fejlesztési irány
1. Az AI révén minél nagyobb autonómiát biztosítani a
robotoknak, az AI a robot saját testében/fejében van
2. robotoknak egy kisebb memóriakapacitás elég, ami révén
az alapvető funkciókat ellátja (pl.: megy, halad, lő,
szenzorokkal méri a környezetét), de autonómiája
alacsony szintű, így cselekvése központilag irányított
(ember, vagy AI által)
3. a különálló robotegyedek nem rendelkeznek komoly
memóriakapacitással, de azzal, hogy összekapcsolják őket
a GRID, vagy egyéb technológia segítségével, kollektív
tudást, s megnövekedett kollektív AI-t kapnak
Honvédelem 3.

26. • Kockázatkezelés
• Hang-, kép-, tárgy-, szövegfelismerés
• Forenzikus területek
• Kiberbiztonság
• Incidensmenedzsment
Biztonságtudomány

27. • Valószínűségi modellek
• Kockázatfelismerés
• Kockázatelemzés
• Kockázatértékelés és válasz
• Kockázatfigyelés
• Kockázattervezés
• Különböző kockázati tényezők/faktorok közötti
összefüggések (korreláció) valószínűségi vizsgálata
• Kockázat előrejelzés/predikció
• Optimalizálás, vezérlés/szabályozás a kockázatok
bekövetkezési valószínűségének a csökkentése
Biztonságtudomány – kockázatkezelés

28. • Nyomtatott, kontúros háttérrel rendelkező szöveg
beolvasása – OCR (pl.: Recognita 1.0, 1987)
• Szép betűkkel megformált kézírás beolvasása
• Kézírás beolvasása
• Szennyezett (piszkos) papíron levő kézírás beolvasása
• Beolvasott szöveg értelmezése
• Beolvasott és értelmezett szöveg hibáinak kijavítása (pl.:
elírás, hiányzó, vagy nem olvasható betűk, szavak)
• Beolvasott szöveg fordítása
• Beolvasott és értelmezett szöveg fordítása
• Szövegalkotás stílus alapján
Biztonságtudomány – szövegfelismerés és -elemzés

29. • Mintázatfelismerés (pl.: ujjlenyomat)
• Egyszerűbb alakfelismerés (háromszög, kör, négyzet)
• Bonyolultabb alakfelismerés
• Bonyolultabb alakfelismerés és megkülönböztetés más
tárgyaktól
• Részletkutatás (kép egyes részei alapján tartalmak
összekapcsolása)
• Arcfelismerés
• Arcfelismerés, beazonosítás, megkülönböztetés másoktól
• Mozgásfelismerés
• Követés (pl.: videón)
• Felismerés rossz körülmények mellett (sötét, rossz
felbontás, hiányos képi tartalom)
• Szándékfelismerés (predikció)
Biztonságtudomány – képfelismerés és -elemzés

30. • Zajos környezet hangtisztítása
• Egyszerűbb hangfelismerés és megkülönböztetés
(ember hangját a környezettől)
• Hang nonverbális elemeinek (hangszín, hangerő, stb.)
felismerése
• Nonverbális elemek elemzése révén szándék-predikció
• Szavak felismerése
• Mondatok felismerése és értelmezése
• Adott személy beszédének felismerése és kiszűrése a
környezetéből
• Kontextuális beszédtartalom elemzés
• Beszédgenerálás adott stílus szerint
Biztonságtudomány – beszédfelismerés és -elemzés

31. • Felderítés
• Mintázatok felismerése
• Kép, hang, szövegfelismerés
• Kapcsolati háló feltérképezése
• Nyomkövetés, haladási útvonal predikciója
• Elkövetői csoport megrajzolása
• Elkövetői profil megrajzolása
Biztonságtudomány – forenzikus területek

32. • Támadásdetektálás
• Riasztáskezelés
• Incidenskezelés
• Hálózati behatolásérzékelés és megelőzés
• Csalások felderítése
• Botnet-vadászat
• Biztonságos felhasználói azonosítás
• Spamszűrés
• Támadói mintázat/viselkedés meghatározása
• Prediktív előrejelzések
• Logfájlok mélyelemzése
• Különböző, mesterséges intelligenciára épülő védelmi
megoldások együttműködése
• Eseményvizualizáció
Biztonságtudomány – kiberbiztonság

33. AZ AI FILOZÓFIAI MEGKÖZELÍTÉSE

34. 1. ember:Isten = állat:ember
2. állat:ember = gép:ember
ember = Isten? (teremtünk)
ember = állat? (veganizmus)
ember = gép? (intelligencia)

35. Mesterséges intelligencia Humán intelligencia
• Képes az emberi viselkedés és a
kognitív folyamatok szimulációjára
• Megragadja és megőrzi az emberi
szakértelmet és kommunikált
tapasztalatot
• Nagy mennyiségű adatot képes
gyorsan megérteni, gyorsan ad
választ
• Nincs józan ész
• Nem tud egyszerre vegyes tudással
foglalkozni
• Sokba kerül a fejlesztése
• Jogi és etikai kérdéseket és
problémákat vet fel
• Intuíció, józan ész, ítélet,
kreativitás, hit
• Az intelligencia bemutatásának
képessége hatékony kommunikáció
révén
• Érvelés és kritikus gondolkodás
• Az ember hibázik
• Korlátozott tudásbázis
• A számítógéphez képest az
adatfeldolgozás lassan történik az
agyban
• Az ember nem képes nagy
mennyiségű adat tárolására a
memóriájában

36. 1. az emberek és aktivitásaik észlelése
2. a verbális kifejezések generálása (beszéd), illetve a
beszéd megértése
3. nonverbális kifejezések generálása, illetve a
nonverbális jelzések megértése
4. az érzelmi állapotok modellezése, kifejezése és
megértése
5. a szándékos cselekvések felismerése és közvetítése
6. együttműködés az emberekkel
7. navigálás (fizikai helyzetfelismerés) az emberek
környékén és környezetében
8. társadalmi kontextusban tanulni az emberektől
Az AI mérföldkövei

37. Felügyelt tanulás
• jó válaszok előre megadva, AI jósol
• tréningadatbázis
Nem felügyelt tanulás
Problémák, kérdések:
• Mit kellene megtanítani a géppel?
• Mikor engedhetjük, hogy a gép nem felügyelt módon is
tanuljon?
• Milyen a tanulói környezete a gépnek?
• Mennyi ideje van a gépnek/embernek, hogy a gép tanuljon?
• Alul-, illetve túltanulás veszélye
A gépi tanulás

38. 1. nem nyújt semmilyen segítségét, mindent az ember csinál.
2. teljes körű cselekvési alternatívákat kínál.
3. leszűkíti a cselekvést néhány választási lehetőségre.
4. egyetlen tevékenységet/műveletet végez.
5. végrehajtja a műveletet, ha az ember jóváhagyja azt.
6. mielőtt a műveletet végrehajtaná, lehetőséget az embernek, hogy
azt megvétózza.
7. automatikusan hajtja végre a műveletet, de erről feltétlenül
tájékoztatja az embert.
8. a művelet automatikus végrehajtás után csak akkor tájékoztatja
az embert, ha az kéri.
9. a művelet automatikus végrehajtása után csak akkor tájékoztatja
az embert, ha ilyen döntést hoz.
10. maga dönt el mindent, automatikusan működik, figyelmen kívül
hagyva az embert.
A gép autonómiája – A számítógép…

39. A gépi tanulás*
Bemenet
Kézzel tervezett
program
Kimenet
Szabály alapú
rendszer
Klasszikus gépi
tanulás
Bemenet
Kézzel tervezett
funkció
Leképezés a
funkciókból
Kimenet
Reprezentációs
gépi tanulás
Bemenet
Tanult
funkciók
Leképezés a
funkciókból
Kimenet
Mélytanulás
(deep learning)
Bemenet
Tanult
funkciók
Tanult összetett
funkciók
Leképezés a
funkciókból
Kimenet
*Bengio, 2016

40. ÖSSZEFOGLALÁS ÉS KITEKINTÉS

41. 1. Az AI mindenhol megjelenik, köszönhetően a
mobileszközökbe integrált AI platformoknak
2. A műszaki-informatikai fejlesztések mellett egyre
nagyobb hangsúlyt kap az AI etikai és humán oldala
3. Az AI lényegesen hatékonyabbá fogja tenni a
munkafolyamatokat
4. Az AI segítségünkre lesz, hogy a dolgokat jobban
csináljuk
5. Az AI révén az életünk kényelmesebbé válik
6. Együtt fogunk dolgozni az AI-ra épülő megoldásokkal
7. A veszélyes munkaterületeken AI-ra épülő
megoldások helyettesítik az embert
Az AI jövője

43. • Hogyan változik meg a társadalom, ha az AI-ra épülő
megoldások tömegesen jelennek meg?
• Mennyiben lesz más a β-generáció, akinek szocializációjában
az AI egyre komolyabb szerepet kap?
• Mikor jelenik meg az embernél minden területen
intelligensebb mesterséges intelligencia?
• Kell-e attól félni, hogy az AI elveszi az emberek munkáját?
• Milyen törvényeket kell megalkotni, hogy a rossz szándékú
programozók nem fejleszthessenek veszélyes AI-t?
• Ha az AI hibázik, ki a felelős?
• Az AI-val történő együttműködés alá-fölé, vagy mellérendelő
kapcsolatban valósul meg?
• Mikor jelenik meg a jogban az AI-jog, a robotházasság, az
ember-robot vagyonmegosztás (fizikai és szimbolikus), a
robotöröklés, a robotemlék-öröklés problematikája?

44. The best way to predict
your future is to create it.
Abraham Lincoln

45. Dr. Kollár Csaba PhD
NKE Katonai Műszaki Doktori Iskola, Óbudai Egyetem Biztonságtudományi Doktori Iskola
kollar.csaba@uni-nke.hu
https://www.linkedin.com/in/drkollarcsaba
http://www.slideshare.net/drkollarcsaba
Köszönöm megtisztelő figyelmüket!

46. • https://c1.sfdcstatic.com/content/dam/blogs/us/thumbnails/machine-learning-how-were-teaching-computers-to-think-
1/thinkingrobot.jpg
• https://20967-presscdn-pagely.netdna-ssl.com/wp-content/uploads/2017/03/artificial_intelligence.jpg
• https://www.codeproject.com/KB/AI/1182210/Def.png
• http://www.geeksforgeeks.org/artificial-intelligence-an-introduction/
• https://openclipart.org/download/274620/Low-Poly-Neuronal-Brain.svg
• http://legalexecutiveinstitute.com/wp-content/uploads/2016/02/AI-Graphic-NEW.jpg
• https://static.independent.co.uk/s3fs-public/thumbnails/image/2011/10/31/20/48-John-McCarthy-AP.jpg
• https://en.wikipedia.org/wiki/AlphaGo#/media/File:Alphago_logo_Reversed.svg
• https://en.wikipedia.org/wiki/DeepMind#/media/File:DeepMind_logo.png
• https://en.wikipedia.org/wiki/Watson_(computer)#/media/File:IBM_Watson_Logo_2017.png
• https://en.wikipedia.org/wiki/IBM#/media/File:IBM_logo.svg
• https://en.wikipedia.org/wiki/Google#/media/File:Google_2015_logo.svg
• https://en.wikipedia.org/wiki/Amazon_Alexa#/media/File:Amazon_Alexa_App_Logo.png
• https://images-na.ssl-images-amazon.com/images/I/61qaMh0rSIL._SL1000_.jpg
• https://static1.squarespace.com/static/58da330debbd1a5419611082/58dfd4eab3db2bb290310a4a/595cc6a0e6f2e1e5a059f8b3/
1499253390239/Facebook+AI+Research.png
• https://www.americanbazaaronline.com/wp-content/uploads/2016/10/Sophia.png
• https://upload.wikimedia.org/wikipedia/commons/thumb/b/be/Deep_Blue.jpg/399px-Deep_Blue.jpg
• https://cdn2.hercampus.com/Life%20of%20a%20Philosophy%20Major.jpg
• https://www.kickstarter.com/projects/kirilleremenko/artificial-intelligence-a-ztm-learn-how-to-build-a
• https://millercenter.org/sites/default/files/styles/gallery_slider_desktop_2x/public/pg-lincoln6-
abraham_lincoln_seated_feb_9_1864-800x480.jpg?itok=rTegMzWk
• https://www.investors.com/wp-content/uploads/2016/11/FA-robo-111116-adobe.jpg
• https://ak1.picdn.net/shutterstock/videos/22371361/thumb/1.jpg
• https://wallpapershome.com/images/pages/pic_hs/2857.jpg
• http://tarotsnet.net/wp-content/uploads/2016/11/tarot_cards-1200x800.jpg
A felhasznált képek forrása