1. ROBOTHADVISELÉS 2019
Robottechnológia és Kiberbiztonság tudományos konferencia
2019. november 27.
Nemzeti Közszolgálati Egyetem Zrínyi Miklós Laktanya és Egyetemi Campus
Budapest
Kollár Csaba
Szinergia és szingularitás
a polgári és katonai életben

2. Bemutatkozás

3. társadalmi vetületei
gazdasági hatásai
információbiztonság
humán aspektusa
biztonságtudatosság
fejlesztése
ember-robot interakció
emberi oldala
intelligens városok
1. Miért aktuális most beszélni a
mesterséges intelligenciáról?
2. Miért van káosz a fejekben a
téma kapcsán?
3. Melyek a mesterséges
intelligenciához kapcsolódó
fontosabb technológiák és
megoldások?
4. Melyek a mesterséges
intelligencia léptékei?
5. Milyen nemzetközi és hazai
elképzelésekkel és
gyakorlatokkal lehet találkozni?
kibernetika reneszánsza
A mesterséges intelligencia társadalmi vetületei
gazdasági hatásai

4. Bevezetés

5. • Probléma -> megoldás
• Döntés -> következmény
• A nyugodtabb, biztonságosabb élet megteremtése
• Félelem az ismeretlentől
• Igény/kíváncsiság az ismeretlen megismerésére
• Az ismert határok feszegetése
• Aggódás az emberiség jövője iránt
• Egyszerű probléma -> egyre összetettebb probléma
Állandóság és változás

6. Három meghatározó forradalom
(Humán)
géntechnológia
forradalma
Robotika
forradalma
(erős mesterséges
intelligencia)
Nanotechnológia
forradalma
Robotizált
génsebészet
Neuroprotézis
Embergép
Biochip
Génmódosítás
Génsebészet
Nanoanyagok
kapcsolódása a
génekhez,
sejtekhez
Nanorobotok,
aeroszol robotok,
gyógyító robotok
Ember-gép (?)

7. Adatok
Rengeteg adat áll rendelkezésre, ezek mennyisége folyamatosan
növekszik
Számítási kapacitás
Olyan számítások is elvégezhetők belátható időn belül, amire tíz
évvel ezelőtt még a szuperszámítógépek sem voltak képesek
Algoritmusok
Az AI-t támogató tanulóalgoritmusok, statisztika és
valószínűségszámítás, regressziós modellek, klasszifikáció,
klaszterizáció, lágyszámítási módszerek megjelenése a gyakorlati,
összetett, komplex, bonyolult problémák megoldásában
Szinergia
Technológiák fejlődése és összekapcsolódása
Mesterséges intelligencia – miért most?

8. • Sokan, sokféleképpen vélekednek a témáról
• Gyakran még a tudósok is keverik a fikciót és a valóságot
• A média számára nagyobb hírértékkel bírnak a negatív hírek
• A vállalatok és a kormányok gyakran félkész megoldásokról
állítják, hogy megtalálták a „Szent Grált”
• Az országok, hadseregeik és vállalataik megítélésében sokat
számít, hogy milyen technikai/technológiai potenciált
képviselnek
• Elhisszük, hogy elég megnyomni egy gombot (kiadni egy
parancsot), s a digitális tündér megoldja problémáinkat
Káosz, álhírek, manipuláció, rémhírek…

9. • Elérkezett a szingularitás kora
• Majd valamikor talán elérkezik
• A robotok legyőznek minket
• Nem kell a mesterséges intelligenciának robotizált test ehhez
• Csak a géprombolók aggódnak az MI miatt
• Minden, a jövőért felelősséget érző tudós/vezető aggódik
• Az MI gonosszá/tudatossá válik
• Az MI kompetenssé válik, céljai nem egyeznek az emberével
• A gépeknek nem is lehetnek céljaik
• A cél értelmezésében más az emberi és a gépi fókusz
• Az MI nem irányíthatja az emberek
• Intelligens városok, közlekedés, ipar 4.0 az ellenpélda
• Az MI elveszi az emberek munkáját
• Bizonyos szakmák megszűnnek, új szakmák születnek, az MI kiválthatja az
embert a veszélyes munkakörnyezetben
Tévhitek, fikciók vs. Valóság*
*Tegmark, 2018

10. Az emberfeletti MI megjelenése*
*Urban, 2015
MikorhaladjamegazMIaz
emberiszintet?
Soha
Technoszkeptikusok
300 év múlva
100 év múlva
Géprombolók
A jó szándékú MI mozgalma
Digitális
utópisták
50 év múlva
Néhány
évtizeden belül
Néhány éven
belül
Gyakorlatilag senki
Biztosan
rossz
Valószínű-
leg rossz
Erősen
bizony-
talan
Valószínű-
leg jó
Egyértel-
műen jó
Jó lesz-e, ha megjelenik az emberfeletti MI?

11. 1. az emberek és aktivitásaik észlelése
2. a verbális kifejezések generálása (beszéd), illetve a
beszéd megértése
3. nonverbális kifejezések generálása, illetve a
nonverbális jelzések megértése
4. az érzelmi állapotok modellezése, kifejezése és
megértése
5. a szándékos cselekvések felismerése és közvetítése
6. együttműködés az emberekkel
7. navigálás (fizikai helyzetfelismerés) az emberek
környékén és környezetében
8. társadalmi kontextusban tanulni az emberektől
Mesterséges intelligencia mérföldkövei

12. Technológiai háttér

13. MIFelhő alapú
számítástechnika
Robotizáció,
drónok
0110101
1101010
1101010
BDA
Mobil
Biztonság(i kamerák)
Közösségi média
AR, VR, MR
(I)IoT és szenzor
Vezetékes és vezeték-
nélküli hálózatok
Kapcsolódó technológiák és alkalmazások
GIS, GPS

14. Folyamat
Adatforrások
és adatok
meghatározása
Logfájlok
Szervezet
kommunikációja
Szervezet
viselkedése
CERT jelentések
Biztonsági
szoftverek
jelentései
Alkalmazások
jelentései
Adatok
tisztítása
Adatbázisok
Információ-
bázisok
Tudás-
bázisok
Algoritmus-
bázisok
Elő-
feldolg.
Adat-
elemzés
Tanuló-
algoritmusok,
gépi tanítás
MODELL
Kimeneti
adatok,
információk
Szakember
elemzi
Eredmény
Következmény
• Beavatkozás
• Oktatási és
képzési
programok
BDA
MI
Adatvizualizáció

15. • Testen viselhető okoseszközök (óra, cipő, póló,
külső „csontváz”)
• Testben levő okoseszközök (implantátumok,
egészségügyi monitoring)
• Hordozható okoseszközök (telefon, tablet)
• Intelligens (önvezető) autók, járművek
• Intelligens épületek/létesítmények (domotika)
• Intelligens település/város
• Intelligens ország/társadalom
• Intelligens Föld
A mesterséges intelligencia léptékei

16. Az MI tanítása

17. Gépi tanulás és felhasználás
Tanító
adatbázis
Tanuló
algoritmus Modell
Tanulás
Felhasználás
Adatok Modell
Információ
az adatokról
Elő-
feldolgozás
Elő-
feldolgozás

18. Felügyelt tanulás
• jó válaszok előre megadva, MI jósol
• tréningadatbázis
Nem felügyelt tanulás
Problémák, kérdések:
• Mit kellene megtanítani a géppel?
• Mikor engedhetjük, hogy a gép nem felügyelt módon is
tanuljon?
• Milyen a tanulói környezete a gépnek?
• Mennyi ideje van a gépnek/embernek, hogy a gép tanuljon?
• Alul-, illetve túltanulás veszélye
A gépi tanulás

19. A gépi tanulás*
Bemenet
Kézzel tervezett
program
Kimenet
Szabály alapú
rendszer
Klasszikus gépi
tanulás
Bemenet
Kézzel tervezett
funkció
Leképezés a
funkciókból
Kimenet
Reprezentációs
gépi tanulás
Bemenet
Tanult
funkciók
Leképezés a
funkciókból
Kimenet
Mélytanulás
(deep learning)
Bemenet
Tanult
funkciók
Tanult összetett
funkciók
Leképezés a
funkciókból
Kimenet
*Bengio, 2016

20. 1. nem nyújt semmilyen segítségét, mindent az ember csinál.
2. teljes körű cselekvési alternatívákat kínál.
3. leszűkíti a cselekvést néhány választási lehetőségre.
4. egyetlen tevékenységet/műveletet végez.
5. végrehajtja a műveletet, ha az ember jóváhagyja azt.
6. mielőtt a műveletet végrehajtaná, lehetőséget az embernek, hogy
azt megvétózza.
7. automatikusan hajtja végre a műveletet, de erről feltétlenül
tájékoztatja az embert.
8. a művelet automatikus végrehajtás után csak akkor tájékoztatja az
embert, ha az kéri.
9. a művelet automatikus végrehajtása után csak akkor tájékoztatja
az embert, ha ilyen döntést hoz.
10. maga dönt el mindent, automatikusan működik, figyelmen kívül
hagyva az embert.
A gép autonómiája*
*Sheridan, 1992

21. Különbség a program és az MI között*
program mesterséges intelligencia
• Programozó írta
• Determinisztikus: ugyan arra a
kérdésre ugyan azt a választ
adja
• Igen-nem, 0-1 jellegű
eredményt ad
• Az ember mondja meg, hogy mi
a helyes eredmény
• Szabályokat futtat, nincs helye a
szabályok felülírásának
• Programozó írta
• Valószínűséggel dolgozik:
bizonyos eséllyel ugyan az a
válasz az adott kérdésre
• Kevésbé-jobban, 85%-15%
jellegű eredményt ad
• A programozó a célt adja meg, a
gép kísérletezi ki a helyes
eredményeket
• Mintákat vizsgál
• Helye van a meglepetéseknek
és a hangsúlyok eltolásának
*Biczó (2017) alapján

22. Mesterséges intelligencia Humán intelligencia
• Képes az emberi viselkedés és a
kognitív folyamatok szimulációjára
• Megragadja és megőrzi az emberi
szakértelmet és kommunikált
tapasztalatot
• Nagy mennyiségű adatot képes
gyorsan megérteni, gyorsan ad
választ
• Nincs józan ész
• Nem tud egyszerre vegyes tudással
foglalkozni
• Sokba kerül a fejlesztése
• Jogi és etikai kérdéseket és
problémákat vet fel
• Intuíció, józan ész, ítélet,
kreativitás, hit
• Az intelligencia bemutatásának
képessége hatékony kommunikáció
révén
• Érvelés és kritikus gondolkodás
• Az ember hibázik
• Korlátozott tudásbázis
• A számítógéphez képest az
adatfeldolgozás lassan történik az
agyban
• Az ember nem képes nagy
mennyiségű adat tárolására a
memóriájában

23. A mesterséges intelligencia környezetei
MI
Tanulókörnyezet
Erőforrások:
• Idő
• Tudás
• Adat
• Információ
• Korábbi tapasztalat
• Szakember
• Hardver
• Szoftver
• Energia
• Stb…
Működési környezet
Szabadságfokok száma
Döntéshozatal
sebessége
• Tárgy sebessége a
környezetéhez
képest
• Adatok mennyisége
• Feldolgozási
sebesség és mélység
• Reakcióidő
Döntés következménye

24. 0. A robotnak minden áron meg kell
védenie az emberiséget.
1. A robotnak nem szabad kárt
okoznia emberi lényben, vagy
tétlenül tűrnie, hogy emberi lény
bármilyen kárt szenvedjen.
2. A robot engedelmeskedni tartozik
az emberi lények utasításainak,
kivéve, ha ezek az utasítások az
első törvény előírásaiba
ütköznének.
3. A robot tartozik saját védelméről
gondoskodni, amennyiben ez nem
ütközik az első vagy második
törvény bármelyikének
előírásaiba.
Az Asimov-i törvények lehetséges feloldása
0. A robotnak minden áron meg kell
védenie a rábízott javakat.
1. A robotnak nem szabad kárt
okoznia saját „bajtásaiban”, vagy
tétlenül tűrnie, hogy bajtársa
bármilyen kárt szenvedjen.
2. A robot engedelmeskedni tartozik
a parancsnokai utasításainak,
kivéve, ha ezek az utasítások az
első törvény előírásaiba
ütköznének (parancsmegtagadás?).
3. A robot tartozik saját védelméről
gondoskodni, amennyiben ez nem
ütközik az első vagy második
törvény bármelyikének előírásaiba.

25. A NATO és az USA elképzelései*
*NATO, US DoD, Porkoláb, Négyesi, 2019

26. 1. Hosszú távú beruházások szükségesek
2. Hatékony megoldások fejlesztése az ember-gép
(mesterséges intelligencia) együttműködésének
optimalizálására
3. Az MI rendszerek etikai, jogi, társadalmi aspektusainak
fejlesztése
4. Az MI biztonságának, védelmének erősítése
5. Nyilvános adatkészlet és környezet fejlesztése
6. Az MI technológiák mérése és értékelése
7. Az MI-t fejlesztő szakemberek képzése, toborzása
8. Kapcsolatrendszer fejlesztése a nyilvános szereplőkkel
Stratégiai irányok

27. 1. Helyzettudatosság és döntéshozatal javítása
2. A műveletekbe bevont eszközök és berendezések
biztonságának növelése
3. Prediktív karbantartás és ellátás javítása
4. Végrehajtás egyszerűsítése
Az MI alkalmazások lehetséges területei

28. A magyarországi gyakorlat

29. • Kutatások:
• Társadalmi kredit rendszere adat- és információbiztonsági kihívásai
• A mesterséges intelligencia hatása a kreatív szakmákra/iparágakra
(ÓE RKK-val közösen)
• A mesterséges intelligencia megjelenése a személy- és
vagyonbiztonság területén
• Aláírásazonosítás és –hamisítás detektálása mesterséges
intelligencia segítségével
• Mesterséges Intelligencia Műhely
• Mesterséges intelligencia a biztonságtechnikában című
tantárgy
• Releváns szak- és diplomadolgozati, illetve TDK témák
• Konferenciaelőadások és szakmai tanulmányok
Óbudai Egyetem Bánki Donát
Gépész és Biztonságtechnikai Mérnöki Kar

30. • Védelmi elektronika, informatika és kommunikáció
kutatási terület
• Ember–gép (katona-mesterséges intelligencia) csoport alapú
képességfejlesztés lehetőségei
• A mesterséges intelligencia lehetséges hatásai a jövő
hadviselésére
• A mesterséges intelligencia felhasználási lehetőségei az MH
műveletei előkészítésében és végrehajtásában
Nemzeti Közszolgálati Egyetem
Katonai Műszaki Doktori Iskola

31. A jövő előrejelzésének
legjobb módja annak
létrehozása.
Abraham Lincoln

32. Dr. Kollár Csaba PhD
Nemzeti Közszolgálati Egyetem Katonai Műszaki Doktori Iskola
Óbudai Egyetem Biztonságtudományi Doktori Iskola
www.drkollar.hu | www.linkedin.com/in/drkollarcsaba | www.slideshare.net/drkollarcsaba
Köszönöm megtisztelő figyelmeteket!

33. Felhasznált képek forrása
• https://transcendentman.com/wp-content/uploads/2017/09/technological-singularity_9.jpg
• https://www.google.com/maps/place/Magyarorsz%C3%A1g/@46.8168884,16.5616474,1081592m/data=!3m1!1e3!4m8!1m2!10
m1!1e2!3m4!1s0x4741837bdf37e4c3:0xc4290c1e1010!8m2!3d46.9989876!4d19.5996094
• https://d2v9ipibika81v.cloudfront.net/uploads/sites/232/NATO_hqNew_NATOphoto1200-1-1140x684.jpg
• https://www.politicscentral.org/wp-content/uploads/2017/02/Robot-human-handshake.png
• http://clipart-library.com/clipart/zTX5M56Rc.htm
• https://www.clipartwiki.com/downpng/iRThiTw_clip-art-robot-arm-icon-robot-arm-png/
• https://www.clipartwiki.com/downpng/bobTJ_computer-icons-symbol-phone-accessories-connection-mobile-connectivity/
• https://www.clipartwiki.com/downpng/iTTRwxT_security-camera-icon-cctv-icon/
• https://www.clipartwiki.com/iclip/iRoTxmb_social-media-bar-png/
• https://www.clipartwiki.com/downpng/mmJxoR_virtual-reality-hand-drawn-icon-png/
• https://icon-icons.com/icon/electric-sensor/12922
• https://icon-library.net/icon/network-icon-5.html
• https://www.washingtonexaminer.com/weekly-standard/abraham-lincolns-thanksgiving-2005514
• https://www.sourcecon.com/ai-and-its-impact-on-recruiters/
• https://www.turnitaround.at/en/wp-content/uploads/2016/03/thework-introduction.jpg
• https://image.freepik.com/free-vector/glowing-search-radar-black-background_1284-18879.jpg