Praesi

Motivation Wichtige Begriffe Experiment 1 Experiment 2 Zusammenfassung & Erkenntnisse
Untersuchung von Algorithmen zur Generierung
uniformer Zufallsgraphen anhand einer
Grad-Sequenz
Wolfgang Schlauch
1Fachbereich Informatik
Technische Universität Kaiserslautern
2FB Knowledge Management
Deutsches Forschungszentrum für Künstliche Intelligenz
28. Oktober 2010

Inhalt
1 Motivation
2 Wichtige Begriﬀe
3 Experiment 1
4 Experiment 2
5 Zusammenfassung & Erkenntnisse

Fragestellung
Ist es möglich häufiges/seltenes Auftreten von
Mustern in Graphen zu beobachten?

Historie der Sozialen Netzwerkanalyse
seit Ende 18., Anfang 19. Jahrhunderts
vor 1950 eher auf
”
Klassenebene“, danach Schwenk auf
gr¨oßere Netzwerke
Stanley Milgrams
”
small-world“ Hypothese
auch auf anderen Bereichen interessant (Elektrotechnik,
Biologie, . . . )

Aufgabenstellung
Idee Analyse von Mustern mit statistischen Mitteln in
Zufallsgraphen

Aufgabenstellung
Zufallsgraphen
Ansatz 1 Erd¨os-R´enyi-Modell

Aufgabenstellung
Zufallsgraphen
zu regelm¨aßig

Aufgabenstellung
Zufallsgraphen
zu regelm¨aßig
nicht realit¨atsnah

Aufgabenstellung
Zufallsgraphen
zu regelm¨aßig
Ansatz 2 Konﬁgurationsmodell

Aufgabenstellung
Zufallsgraphen
zu regelm¨aßig
generiert nicht unbedingt die Sequenz

Aufgabenstellung
Zufallsgraphen
zu regelm¨aßig
Ansatz 3 Monte-Carlo-Markov-Ketten-Algorithmen

Aufgabenstellung
Zufallsgraphen
zu regelm¨aßig
haben durch empirisch bestimmte Faktoren hoch
gesetzte Laufzeiten

Aufgabenstellung
Zufallsgraphen
zu regelm¨aßig
haben durch empirisch bestimmte Faktoren hoch
gesetzte Laufzeiten
Aufgabe Diesen Faktor minimieren!

Inhalt
1 Motivation
Grad-Sequenz
Zufallsgraphen
3 Experiment 1
4 Experiment 2

Was ist eine Grad-Sequenz?
F¨ur ungerichtete Graphen: S = (d1, d2, . . . , dn).
Graph mit n Knoten, die jeweils mit di Kanten inzident sind.

F¨ur gerichtete Graphen:
S = d+
1 , d−
1 , d+
2 , d−
2 , . . . , (d+
n , d−
n )
der i-te Knoten hat d+
i eingehende und d−
i ausgehende
Kanten.

F¨ur gerichtete Graphen:
S = d+
1 , d−
1 , d+
2 , d−
2 , . . . , (d+
n , d−
n )
der i-te Knoten hat d+
i eingehende und d−
i ausgehende
Kanten.
Beispiel: S = (2, 2) , (1, 2) , (2, 1)
1
3
2

Idee des Zufallsgraphen
Wunsch: ein zuf¨allig konstruierter Graph, der an ihn gestellte
Bedingungen erf¨ullt.

Lösung: viele verschiedene Modelle (Konfigurationsmodell,
Erdös-Rényi-Graph, . . . )

Lösung: viele verschiedene Modelle (Konfigurationsmodell,
Erdös-Rényi-Graph, . . . )
Problem: erfüllen nicht unbedingt die gestellten Bedingungen

Erd¨os-R´enyi-Modell
Gegeben:
Anzahl der Knoten n,
feste Wahrscheinlichkeit 0 ≤ p ≤ 1

Gegeben:
Anzahl der Knoten n,
feste Wahrscheinlichkeit 0 ≤ p ≤ 1
F¨ur jedes Knotenpaar wird eine Zufallszahl 0 ≤ q ≤ 1 gezogen.
Wenn q < p bekommt das Paar eine Kante.

Vorteile: sehr einfache Implementierung
poisson-verteilte Knotengrade

Vorteile: sehr einfache Implementierung
poisson-verteilte Knotengrade
Nachteile: nicht realit¨atsnah

Skalenfreie Netzwerke
Nachteil bisher: Regelm¨aßigkeit

Man benötigt für Modellierung realer Netzwerke
”
unregelmäßige“
Netzwerke.

Man benötigt für Modellierung realer Netzwerke
”
unregelmäßige“
Netzwerke.
⇒ Skalenfreie Netzwerke

Algorithmische Idee
Knoten, die bereits viele Verbindungen haben, werden eher mit
anderen verbunden.

Algorithmische Idee
anderen verbunden.
Knotengerade folgen Powerlaw: P (X = x) ∼ x−k

Algorithmische Idee
anderen verbunden.
Knotengerade folgen Powerlaw: P (X = x) ∼ x−k
Beispiele hierf¨ur: Internet, Kevin-Bacon-Netzwerk, Stromnetz
westliche USA, . . .

Knotengrad-Generierung
Gew¨unscht: Ein Netz, 5 Knoten sollen Knotengrad 1 haben,
k = 1.7.

Knotengrad-Generierung
Gew¨unscht: Ein Netz, 5 Knoten sollen Knotengrad 1 haben,
k = 1.7.
Berechne gem¨aß powerlaw: round 5 · x−k bis Wert 0
= 5
0
, 2
1
, 1
2
Also sind es 5 Knoten mit Grad 1, 2 Knoten mit Grad 2 und einer
mit Grad 3.

Konﬁgurationsmodell
Beispielsgraph Skalenfreies Netzwerk, Konﬁgurationsmodell
Sequenz
S = ((3, 3) , (2, 1) , (2, 1) , (1, 1) , (1, 2) , (1, 2) , (1, 1) , (1, 1))
1
3
2
54
7
6
8

Gegeben: Knotengradsequenz S = (d1, . . . , dn)

Gegeben: Knotengradsequenz S = (d1, . . . , dn)
Konstruiert f¨ur jeden Wert der Sequenz di viele Pseudoknoten und
verbindet diese dann durch Kanten miteinander

Problem des Konﬁgurationsmodell
Beispiel: S = (3, 2, 1)

Beispiel: S = (3, 2, 1)
1 1 1 2 2 3

Beispiel: S = (3, 2, 1)
1 1 1 2 2 3
1 2 3

Vorteile: erstellt immer einen Graphen
einfach zu implementieren
beliebtes Modell f¨ur Zufallsgraphen

Vorteile: erstellt immer einen Graphen
einfach zu implementieren
beliebtes Modell f¨ur Zufallsgraphen
Nachteile: Graph kann Multikanten und Schleifen enthalten

Inhalt
1 Motivation
3 Experiment 1
Algorithmen
Experiment
4 Experiment 2

Monte-Carlo-Markov-Ketten-Algorithmus
1 Graph als Eingabe des Algorithmus
2 n Kantentausche
3 (anderer) Graph als Ausgabe

MCMC-Algorithmus
Was ist ein Kantentausch?
ung¨ultiger Kantentausch
→
e1 e2
e1
e2

MCMC-Algorithmus
Was ist ein Kantentausch?
ung¨ultiger Kantentausch
→
e1 e2
e1
e2
G¨ultiger Kantentausch
A B →
C D
e1
e2
A B
C D
e1
e2

Graphenerstellung
Algorithmus zum Verbinden der einzelnen Knoten:
Havel-Hakimi-Algorithmus

Graphenerstellung
1 generiert (garantiert) einfachen Graphen
2 terminiert immer
wenn Sequenz nicht als einfacher Graph realisierbar, terminiert
er mit Fehler

Graphenerstellung
1 generiert (garantiert) einfachen Graphen
2 terminiert immer
wenn Sequenz nicht als einfacher Graph realisierbar, terminiert
er mit Fehler
Beweis, dass Havel-Hakimi für gerichtete Graphen korrekt
funktioniert: 2009 von Erdös und Miklós

Frage nach der Uniformität
Evaluation der Uniformität anhand von Toy-Netzwerk, bestehend
aus 12 Knoten und 20 Kanten.
Insgesamt 91 gültige mögliche Konfigurationen.
(a) (b)

Auswertung auf Toy-Netzwerk
Ergebnisse schwanken um 1.099% → uniformes Vorkommen der
einzelnen Netzwerk-Konﬁgurationen.

F¨ur kleines Beispiel ok, wie sieht es mit gr¨oßeren aus?

Z¨ahlung des Vorkommens bestimmter Motive: feed-forward-loop

Z¨ahlung des Vorkommens bestimmter Motive: feed-forward-loop
A
B
C

Vergleich des Vorkommens des Motives mit den Werten einer
anderen Forschungsgruppe [Alon, Uri et al, 2004].
E. coli Yeast
iterations mean std. dev. Z-value mean std. dev. Z-value
1000 7.79 3.14
10.89
14.35 4.13
14.2
(10.26) (11.54——13.47)
10000 7.65 3.08
11.15
14.54 4.14
14.2
(10.5) (11.46——13.39)
100000 7.66 3.11
11.04
14.58 4.19
13.94
(10.4) (11.31——13.22)

Inhalt
1 Motivation
3 Experiment 1
4 Experiment 2
Algorithmen
Experiment

Bis jetzt...
Bis jetzt haben wir Algorithmen die h¨ochstwahrscheinlich uniform
generieren.
Das Problem ist die Zahl n der Kantentausche. Bisher auf
100 · #Kanten festgesetzt.

Bis jetzt...
Bis jetzt haben wir Algorithmen die h¨ochstwahrscheinlich uniform
generieren.
Das Problem ist die Zahl n der Kantentausche. Bisher auf
100 · #Kanten festgesetzt.
Gen¨ugt nicht auch schon ein wesentlich kleinerer Faktor?

Markov-Kette
Idee: Betrachte verschiedene Konﬁgurationen des Graphen als
Elemente einer Markov-Kette.

Markov-Kette
Idee: Betrachte verschiedene Konfigurationen des Graphen als
Elemente einer Markov-Kette.
von jedem Zustand aus ist jeder andere Zustand erreichbar
Wahrscheinlichkeit in einem Zustand zu bleiben ungleich 0
Wahrscheinlichkeit zu einem anderen Zustand zu gelangen
bleibt konstant für jeden Übergang

PageRank-Algorithmus auf Markov-Kette
”
Der PageRank-Algorithmus ist ein Verfahren, eine
Menge verlinkter Dokumente, wie beispielsweise das
World Wide Web, anhand ihrer Struktur zu bewerten
bzw. zu gewichten [...]“
wikipedia
Modiﬁkation: Nur ein Knoten der Markov-Kette hat Initialwert
ungleich 0. Wenn uniform, verteilt sich Gewicht gleichm¨aßig.

Ergebnisse
Mit schwachem Konvergenzkriterium dennoch gute Werte:
Netzwerk Kantenzahl Iterationen q ± δ
Toy-Netzwerk 12 21 ∼ 2 0
negativ korrelierte Knotengrade 12 61 ∼ 5 0.009
positiv korrelierte Knotengrade 12 89 ∼ 7 0.02
zuf¨allige Knotengrade 12 78 ∼ 7 0.15

Zusammenfassung & Erkenntnisse
entwickelte Algorithmen sind korrekt
aber haben noch Optimierungsspielraum
multiplikativer Faktor stark vom Netz abhängig
weitere Forschung in Hinsicht auf Faktorschätzung nötig

Vielen Dank f¨ur die Aufmerksamkeit
Noch Fragen?

1
26
2
3
4
5
14
15
16
17
18
19
20
21
22
23
24
25
6
7
8
9
10
11
12
13
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91

Praesi

Empfohlen

Empfohlen

Weitere ähnliche Inhalte

Empfohlen

Empfohlen (20)

Praesi