SlideShare ist ein Scribd-Unternehmen logo
Machine Learning Algorithms Vom Gradientenabstieg über Monte Carlo bis hin zu Genetischen Algorithmen Martin Szugat (Martin.Szugat@GMX.net) Hauptseminar: „The Machine Learning Approach“ Im WS 2003/04 bei Prof. Dr. Zimmer
Agenda ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Bayes‘sche Schlussfolgerung ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],log P(M|D) = log P(D|M) + log P(M) - log P(D)
Modellbildung ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Dynamische Programmierung ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Gradientenabstieg ,[object Object],[object Object],[object Object],[object Object],[object Object]
GA - Skizze
GA - Anwendung ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
GA - Beispiel ,[object Object],[object Object],[object Object],[object Object],2 / 2 n ... 0,125 0,25 0,5 1 2 w  t 0,125 4 ... ... 0,5 2 0,25 3 2 / 2 n n 1 1 / 0 ∆ w t
EM/GEM-Algorithmus ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
EM – Prinzip I ,[object Object],[object Object],[object Object],[object Object]
EM - Skizze
EM – Freie Energie ,[object Object],[object Object],[object Object]
EM – Prinzip II ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
EM – Zusammenfassung ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Markov-Chain Monte-Carlo Methoden ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Markov-Ketten I ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Markov-Ketten II ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Gibbs-Sampling ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Metropolis Algorithmus ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Metropolis - Verteilungen ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Metropolis - Energie ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Simulated Annealing ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Boltzmann-Gibbs-Verteilung ,[object Object],[object Object]
SA - Skizze
SA - Vorgehensweise ,[object Object],[object Object],[object Object],[object Object],[object Object]
Annealing Schedule ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Genetische Algorithmen ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Proteinstrukturalignierung mittels Genetischem Algorithmus ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Proteinstrukturalignierung ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
KENOBI - Methode ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Fitnessfunktion:  Elastic Similarity Score I ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],Envelope-Funktion *: Durchschnitt Abweichung
Fitnessfunktion:  Elastic Similarity Score II ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
1. Phase: Genetischer Algorithmus ,[object Object],[object Object],[object Object],[object Object],[object Object]
1. Phase: Anfängliche Population ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
1. Phase: Operatoren I ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
1. Phase: Operatoren II ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
1. Phase: Fitness der Population ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
1. Phase: Abbruch des GA ,[object Object],[object Object],[object Object],[object Object],[object Object]
2. Phase: Erweiterung ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
KENOBI – Diskussion ,[object Object],[object Object],[object Object],[object Object],[object Object]
Zusammenfassung ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Datenauswahl ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Modellkomplexität ,[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object],[object Object]
Noch Fragen??? ,[object Object]

Weitere ähnliche Inhalte

Andere mochten auch

30 Lieder De F. Schubert
30 Lieder De F. Schubert30 Lieder De F. Schubert
30 Lieder De F. SchubertHOME
 
Krokodil
KrokodilKrokodil
Krokodil
guest26e2ca
 
Präsentation Stephan Schmitter
Präsentation Stephan SchmitterPräsentation Stephan Schmitter
Präsentation Stephan SchmitterLokalrundfunktage
 
B2B-Geschäft international - Die wichtigsten Punkte aus rechtlicher Sicht
B2B-Geschäft international - Die wichtigsten Punkte aus rechtlicher SichtB2B-Geschäft international - Die wichtigsten Punkte aus rechtlicher Sicht
B2B-Geschäft international - Die wichtigsten Punkte aus rechtlicher Sicht
RESMEDIA - Anwälte für IT-IP-Medien
 
Präsentation schiff spa camp
Präsentation schiff  spa campPräsentation schiff  spa camp
Präsentation schiff spa camp
SonjaSchiff
 
Laserscanning als Hilfsmittel in der Schutzwaldbewirtschaftung
Laserscanning als Hilfsmittel in der SchutzwaldbewirtschaftungLaserscanning als Hilfsmittel in der Schutzwaldbewirtschaftung
Laserscanning als Hilfsmittel in der Schutzwaldbewirtschaftungguesteaae17
 
August 16, 2009 Dobbs
August 16, 2009 DobbsAugust 16, 2009 Dobbs
August 16, 2009 Dobbs
lauradeisley
 
"Rechtsfragen bei Twittereinsatz in Unternehmen"
"Rechtsfragen bei Twittereinsatz in Unternehmen""Rechtsfragen bei Twittereinsatz in Unternehmen"
"Rechtsfragen bei Twittereinsatz in Unternehmen"
Twittwoch e.V.
 
Land forms made by rivers, glaciers ,wind
Land forms made by rivers, glaciers ,windLand forms made by rivers, glaciers ,wind
Land forms made by rivers, glaciers ,wind
Safoora Sajad
 
C M T Marketingplan3 142 186
C M T  Marketingplan3 142 186C M T  Marketingplan3 142 186
C M T Marketingplan3 142 186Izgi Iletişim
 
10 E-Mail-Weisheiten des Dalai Lama
10 E-Mail-Weisheiten des Dalai Lama10 E-Mail-Weisheiten des Dalai Lama
10 E-Mail-Weisheiten des Dalai Lama
Rene Kulka
 
So einfach erstellen Sie Kurz-Gutachten mit SmartValue
So einfach erstellen Sie Kurz-Gutachten mit SmartValueSo einfach erstellen Sie Kurz-Gutachten mit SmartValue
So einfach erstellen Sie Kurz-Gutachten mit SmartValue
zimmer_h
 
Social Media Marketing für die gute Sache | Agentur Nest, Daniel Kruse | 15. ...
Social Media Marketing für die gute Sache | Agentur Nest, Daniel Kruse | 15. ...Social Media Marketing für die gute Sache | Agentur Nest, Daniel Kruse | 15. ...
Social Media Marketing für die gute Sache | Agentur Nest, Daniel Kruse | 15. ...
Twittwoch e.V.
 
Ejercicioviernes Juanrojas
Ejercicioviernes JuanrojasEjercicioviernes Juanrojas
Ejercicioviernes Juanrojas
d42roosj
 
Was Ist Mission Control?
Was Ist Mission Control?Was Ist Mission Control?
Was Ist Mission Control?
Eb Schmidt
 
Joel & Jan über Hashtags und die Twittersuche
Joel & Jan über Hashtags und die TwittersucheJoel & Jan über Hashtags und die Twittersuche
Joel & Jan über Hashtags und die TwittersucheTwittwoch e.V.
 

Andere mochten auch (20)

30 Lieder De F. Schubert
30 Lieder De F. Schubert30 Lieder De F. Schubert
30 Lieder De F. Schubert
 
Bert Helbig
Bert HelbigBert Helbig
Bert Helbig
 
Krokodil
KrokodilKrokodil
Krokodil
 
[3] Nu P 01 4
[3] Nu P 01 4[3] Nu P 01 4
[3] Nu P 01 4
 
Präsentation Stephan Schmitter
Präsentation Stephan SchmitterPräsentation Stephan Schmitter
Präsentation Stephan Schmitter
 
B2B-Geschäft international - Die wichtigsten Punkte aus rechtlicher Sicht
B2B-Geschäft international - Die wichtigsten Punkte aus rechtlicher SichtB2B-Geschäft international - Die wichtigsten Punkte aus rechtlicher Sicht
B2B-Geschäft international - Die wichtigsten Punkte aus rechtlicher Sicht
 
Präsentation schiff spa camp
Präsentation schiff  spa campPräsentation schiff  spa camp
Präsentation schiff spa camp
 
Goldmedia
GoldmediaGoldmedia
Goldmedia
 
Laserscanning als Hilfsmittel in der Schutzwaldbewirtschaftung
Laserscanning als Hilfsmittel in der SchutzwaldbewirtschaftungLaserscanning als Hilfsmittel in der Schutzwaldbewirtschaftung
Laserscanning als Hilfsmittel in der Schutzwaldbewirtschaftung
 
August 16, 2009 Dobbs
August 16, 2009 DobbsAugust 16, 2009 Dobbs
August 16, 2009 Dobbs
 
"Rechtsfragen bei Twittereinsatz in Unternehmen"
"Rechtsfragen bei Twittereinsatz in Unternehmen""Rechtsfragen bei Twittereinsatz in Unternehmen"
"Rechtsfragen bei Twittereinsatz in Unternehmen"
 
Land forms made by rivers, glaciers ,wind
Land forms made by rivers, glaciers ,windLand forms made by rivers, glaciers ,wind
Land forms made by rivers, glaciers ,wind
 
C M T Marketingplan3 142 186
C M T  Marketingplan3 142 186C M T  Marketingplan3 142 186
C M T Marketingplan3 142 186
 
Burn
BurnBurn
Burn
 
10 E-Mail-Weisheiten des Dalai Lama
10 E-Mail-Weisheiten des Dalai Lama10 E-Mail-Weisheiten des Dalai Lama
10 E-Mail-Weisheiten des Dalai Lama
 
So einfach erstellen Sie Kurz-Gutachten mit SmartValue
So einfach erstellen Sie Kurz-Gutachten mit SmartValueSo einfach erstellen Sie Kurz-Gutachten mit SmartValue
So einfach erstellen Sie Kurz-Gutachten mit SmartValue
 
Social Media Marketing für die gute Sache | Agentur Nest, Daniel Kruse | 15. ...
Social Media Marketing für die gute Sache | Agentur Nest, Daniel Kruse | 15. ...Social Media Marketing für die gute Sache | Agentur Nest, Daniel Kruse | 15. ...
Social Media Marketing für die gute Sache | Agentur Nest, Daniel Kruse | 15. ...
 
Ejercicioviernes Juanrojas
Ejercicioviernes JuanrojasEjercicioviernes Juanrojas
Ejercicioviernes Juanrojas
 
Was Ist Mission Control?
Was Ist Mission Control?Was Ist Mission Control?
Was Ist Mission Control?
 
Joel & Jan über Hashtags und die Twittersuche
Joel & Jan über Hashtags und die TwittersucheJoel & Jan über Hashtags und die Twittersuche
Joel & Jan über Hashtags und die Twittersuche
 

Mehr von Martin Szugat

Self-Service.AI - Pitch Competition for AI-Driven SaaS Startups
Self-Service.AI - Pitch Competition for AI-Driven SaaS StartupsSelf-Service.AI - Pitch Competition for AI-Driven SaaS Startups
Self-Service.AI - Pitch Competition for AI-Driven SaaS Startups
Martin Szugat
 
MENSCHEN STATT SEITEN - Ein Plädoyer für People Analytics
MENSCHEN STATT SEITEN - Ein Plädoyer für People AnalyticsMENSCHEN STATT SEITEN - Ein Plädoyer für People Analytics
MENSCHEN STATT SEITEN - Ein Plädoyer für People Analytics
Martin Szugat
 
Pylba: App-as-a-Service für Mobile Content Marketing
Pylba: App-as-a-Service für Mobile Content MarketingPylba: App-as-a-Service für Mobile Content Marketing
Pylba: App-as-a-Service für Mobile Content Marketing
Martin Szugat
 
Datentreiber - Wir treiben Ihr Unternehmen voran.
Datentreiber - Wir treiben Ihr Unternehmen voran.Datentreiber - Wir treiben Ihr Unternehmen voran.
Datentreiber - Wir treiben Ihr Unternehmen voran.
Martin Szugat
 
Facebook Newsfeed Optimierung: Gefällt mir
Facebook Newsfeed Optimierung: Gefällt mirFacebook Newsfeed Optimierung: Gefällt mir
Facebook Newsfeed Optimierung: Gefällt mir
Martin Szugat
 
German CRM Forum 2014: Social Data für Customer Intelligence
German CRM Forum 2014: Social Data für Customer IntelligenceGerman CRM Forum 2014: Social Data für Customer Intelligence
German CRM Forum 2014: Social Data für Customer Intelligence
Martin Szugat
 
LMU - Tag der offenen Türe 2014 - Big Data = Big Business?
LMU - Tag der offenen Türe 2014 - Big Data = Big Business?LMU - Tag der offenen Türe 2014 - Big Data = Big Business?
LMU - Tag der offenen Türe 2014 - Big Data = Big Business?
Martin Szugat
 
Facebook ist tot. Eine Obduktion in sieben Akten.
Facebook ist tot.  Eine Obduktion in sieben Akten.Facebook ist tot.  Eine Obduktion in sieben Akten.
Facebook ist tot. Eine Obduktion in sieben Akten.Martin Szugat
 
Daumen hoch: Conversion Optimierung für Social Commerce
Daumen hoch: Conversion Optimierung für Social CommerceDaumen hoch: Conversion Optimierung für Social Commerce
Daumen hoch: Conversion Optimierung für Social Commerce
Martin Szugat
 
Young Brand Awards 2013 - Auf Facebook sind meine Eltern.
Young Brand Awards 2013 - Auf Facebook sind meine Eltern.Young Brand Awards 2013 - Auf Facebook sind meine Eltern.
Young Brand Awards 2013 - Auf Facebook sind meine Eltern.
Martin Szugat
 
Social CRM als Grundlage für persönliche Kundenkommunikation und personalisie...
Social CRM als Grundlage für persönliche Kundenkommunikation und personalisie...Social CRM als Grundlage für persönliche Kundenkommunikation und personalisie...
Social CRM als Grundlage für persönliche Kundenkommunikation und personalisie...
Martin Szugat
 
What will Facebook do?
What will Facebook do?What will Facebook do?
What will Facebook do?
Martin Szugat
 
Social Media und Mobile Anwendungen sinnvoll verknüpfen
Social Media und Mobile Anwendungen sinnvoll verknüpfenSocial Media und Mobile Anwendungen sinnvoll verknüpfen
Social Media und Mobile Anwendungen sinnvoll verknüpfen
Martin Szugat
 
Referenten martin szugat_snip_clip 2013
Referenten martin szugat_snip_clip 2013Referenten martin szugat_snip_clip 2013
Referenten martin szugat_snip_clip 2013Martin Szugat
 
SnipClip @ LMU - Tag der offenen Türe 2013
SnipClip @ LMU - Tag der offenen Türe 2013SnipClip @ LMU - Tag der offenen Türe 2013
SnipClip @ LMU - Tag der offenen Türe 2013Martin Szugat
 
Die Mobile-Plattform der Zukunft: Facebook
Die Mobile-Plattform der Zukunft: Facebook Die Mobile-Plattform der Zukunft: Facebook
Die Mobile-Plattform der Zukunft: Facebook
Martin Szugat
 
Referentenprofil Martin Szugat
Referentenprofil Martin SzugatReferentenprofil Martin Szugat
Referentenprofil Martin SzugatMartin Szugat
 
Facebook Marketing: Grundlagen und Erfolgsfaktoren
Facebook Marketing: Grundlagen und Erfolgsfaktoren Facebook Marketing: Grundlagen und Erfolgsfaktoren
Facebook Marketing: Grundlagen und Erfolgsfaktoren
Martin Szugat
 
So funktioniert erfolgreiches Facebook-Marketing
So funktioniert erfolgreiches Facebook-Marketing So funktioniert erfolgreiches Facebook-Marketing
So funktioniert erfolgreiches Facebook-Marketing
Martin Szugat
 
Ein bisschen Spaß muss sein: Game Mechanics im Social Media Marketing
Ein bisschen Spaß muss sein: Game Mechanics im Social Media MarketingEin bisschen Spaß muss sein: Game Mechanics im Social Media Marketing
Ein bisschen Spaß muss sein: Game Mechanics im Social Media Marketing
Martin Szugat
 

Mehr von Martin Szugat (20)

Self-Service.AI - Pitch Competition for AI-Driven SaaS Startups
Self-Service.AI - Pitch Competition for AI-Driven SaaS StartupsSelf-Service.AI - Pitch Competition for AI-Driven SaaS Startups
Self-Service.AI - Pitch Competition for AI-Driven SaaS Startups
 
MENSCHEN STATT SEITEN - Ein Plädoyer für People Analytics
MENSCHEN STATT SEITEN - Ein Plädoyer für People AnalyticsMENSCHEN STATT SEITEN - Ein Plädoyer für People Analytics
MENSCHEN STATT SEITEN - Ein Plädoyer für People Analytics
 
Pylba: App-as-a-Service für Mobile Content Marketing
Pylba: App-as-a-Service für Mobile Content MarketingPylba: App-as-a-Service für Mobile Content Marketing
Pylba: App-as-a-Service für Mobile Content Marketing
 
Datentreiber - Wir treiben Ihr Unternehmen voran.
Datentreiber - Wir treiben Ihr Unternehmen voran.Datentreiber - Wir treiben Ihr Unternehmen voran.
Datentreiber - Wir treiben Ihr Unternehmen voran.
 
Facebook Newsfeed Optimierung: Gefällt mir
Facebook Newsfeed Optimierung: Gefällt mirFacebook Newsfeed Optimierung: Gefällt mir
Facebook Newsfeed Optimierung: Gefällt mir
 
German CRM Forum 2014: Social Data für Customer Intelligence
German CRM Forum 2014: Social Data für Customer IntelligenceGerman CRM Forum 2014: Social Data für Customer Intelligence
German CRM Forum 2014: Social Data für Customer Intelligence
 
LMU - Tag der offenen Türe 2014 - Big Data = Big Business?
LMU - Tag der offenen Türe 2014 - Big Data = Big Business?LMU - Tag der offenen Türe 2014 - Big Data = Big Business?
LMU - Tag der offenen Türe 2014 - Big Data = Big Business?
 
Facebook ist tot. Eine Obduktion in sieben Akten.
Facebook ist tot.  Eine Obduktion in sieben Akten.Facebook ist tot.  Eine Obduktion in sieben Akten.
Facebook ist tot. Eine Obduktion in sieben Akten.
 
Daumen hoch: Conversion Optimierung für Social Commerce
Daumen hoch: Conversion Optimierung für Social CommerceDaumen hoch: Conversion Optimierung für Social Commerce
Daumen hoch: Conversion Optimierung für Social Commerce
 
Young Brand Awards 2013 - Auf Facebook sind meine Eltern.
Young Brand Awards 2013 - Auf Facebook sind meine Eltern.Young Brand Awards 2013 - Auf Facebook sind meine Eltern.
Young Brand Awards 2013 - Auf Facebook sind meine Eltern.
 
Social CRM als Grundlage für persönliche Kundenkommunikation und personalisie...
Social CRM als Grundlage für persönliche Kundenkommunikation und personalisie...Social CRM als Grundlage für persönliche Kundenkommunikation und personalisie...
Social CRM als Grundlage für persönliche Kundenkommunikation und personalisie...
 
What will Facebook do?
What will Facebook do?What will Facebook do?
What will Facebook do?
 
Social Media und Mobile Anwendungen sinnvoll verknüpfen
Social Media und Mobile Anwendungen sinnvoll verknüpfenSocial Media und Mobile Anwendungen sinnvoll verknüpfen
Social Media und Mobile Anwendungen sinnvoll verknüpfen
 
Referenten martin szugat_snip_clip 2013
Referenten martin szugat_snip_clip 2013Referenten martin szugat_snip_clip 2013
Referenten martin szugat_snip_clip 2013
 
SnipClip @ LMU - Tag der offenen Türe 2013
SnipClip @ LMU - Tag der offenen Türe 2013SnipClip @ LMU - Tag der offenen Türe 2013
SnipClip @ LMU - Tag der offenen Türe 2013
 
Die Mobile-Plattform der Zukunft: Facebook
Die Mobile-Plattform der Zukunft: Facebook Die Mobile-Plattform der Zukunft: Facebook
Die Mobile-Plattform der Zukunft: Facebook
 
Referentenprofil Martin Szugat
Referentenprofil Martin SzugatReferentenprofil Martin Szugat
Referentenprofil Martin Szugat
 
Facebook Marketing: Grundlagen und Erfolgsfaktoren
Facebook Marketing: Grundlagen und Erfolgsfaktoren Facebook Marketing: Grundlagen und Erfolgsfaktoren
Facebook Marketing: Grundlagen und Erfolgsfaktoren
 
So funktioniert erfolgreiches Facebook-Marketing
So funktioniert erfolgreiches Facebook-Marketing So funktioniert erfolgreiches Facebook-Marketing
So funktioniert erfolgreiches Facebook-Marketing
 
Ein bisschen Spaß muss sein: Game Mechanics im Social Media Marketing
Ein bisschen Spaß muss sein: Game Mechanics im Social Media MarketingEin bisschen Spaß muss sein: Game Mechanics im Social Media Marketing
Ein bisschen Spaß muss sein: Game Mechanics im Social Media Marketing
 

Maschinelles Lernen

  • 1. Machine Learning Algorithms Vom Gradientenabstieg über Monte Carlo bis hin zu Genetischen Algorithmen Martin Szugat (Martin.Szugat@GMX.net) Hauptseminar: „The Machine Learning Approach“ Im WS 2003/04 bei Prof. Dr. Zimmer
  • 2.
  • 3.
  • 4.
  • 5.
  • 6.
  • 8.
  • 9.
  • 10.
  • 11.
  • 13.
  • 14.
  • 15.
  • 16.
  • 17.
  • 18.
  • 19.
  • 20.
  • 21.
  • 22.
  • 23.
  • 24.
  • 26.
  • 27.
  • 28.
  • 29.
  • 30.
  • 31.
  • 32.
  • 33.
  • 34.
  • 35.
  • 36.
  • 37.
  • 38.
  • 39.
  • 40.
  • 41.
  • 42.
  • 43.
  • 44.
  • 45.