1. Γραμμική ΄Αλγεβρα
Προβολές και Ελάχιστα Τετράγωνα
Πανεπιστήμιο Θεσσαλίας
18 Δεκεμβρίου 2013

2. Προβολή σε ευθεία του R n
Να βρεθεί η προβολή p του b επάνω στην ευθεία
που ορίζει το a (το οποίο ας υποθέσουμε περνάει
απο την αρχή των αξόνων)

3. Γωνία μεταξύ διανυσμάτων στον R n
cos θ =
aT b
||a||||b||

4. Προβολή σε ευθεία του R n
Η προβολή p ενός διανύματος
b ∈ Rn σε μια ευθεία a ∈ Rn που
περνάει απο το 0

5. Προβολή σε ευθεία του R n
Η προβολή p ενός διανύματος
b ∈ Rn σε μια ευθεία a ∈ Rn που
περνάει απο το 0
T
είναι το διάνυσμα p = aT b a
a a

6. Προβολή σε ευθεία του R n
Η προβολή p ενός διανύματος
b ∈ Rn σε μια ευθεία a ∈ Rn που
περνάει απο το 0
T
είναι το διάνυσμα p = aT b a
a a
με αντίστοιχο πίνακα προβολής
aaT
P = aT a

7. Προβολή σε ευθεία του R n
Η προβολή p ενός διανύματος
b ∈ Rn σε μια ευθεία a ∈ Rn που
περνάει απο το 0
T
είναι το διάνυσμα p = aT b a
a a
με αντίστοιχο πίνακα προβολής
aaT
P = aT a ο οποίος είναι
συμμετρικός και τάξης 1

8. Παράδειγμα
 
 
1
1
Προβολή του 2 στο 1
3
1

9. Παράδειγμα
 
 
1
1
Προβολή του 2 στο 1
3
1
 
1
Πίνακας προβολής στο 1
1

10. Παράδειγμα
 
 
1
1
Προβολή του 2 στο 1
3
1
 
1
Πίνακας προβολής στο 1
1
Πίνακας προβολής στο
cos θ
sin θ

11. Εφαρμογή

12. Εφαρμογή
Υπολογίστε x τέτοιο ώστε Ax = b

13. Εφαρμογή
Υπολογίστε x τέτοιο ώστε Ax = b και b ∈ R(A).
/

14. Εφαρμογή
Υπολογίστε x τέτοιο ώστε Ax = b και b ∈ R(A).
/

15. Ελάχιστα Τετράγωνα
Αν Ax = b και b ∈ R(A) τότε
/

16. Ελάχιστα Τετράγωνα
Αν Ax = b και b ∈ R(A) τότε μια προσέγγιση της λύσης x είναι
/
η λύση y του συστήματος Ay = p όπου p η προβολή του b στον
R(A).

17. Ελάχιστα Τετράγωνα
Αν Ax = b και b ∈ R(A) τότε μια προσέγγιση της λύσης x είναι
/
η λύση y του συστήματος Ay = p όπου p η προβολή του b στον
R(A).
Ax = b

18. Ελάχιστα Τετράγωνα
Αν Ax = b και b ∈ R(A) τότε μια προσέγγιση της λύσης x είναι
/
η λύση y του συστήματος Ay = p όπου p η προβολή του b στον
R(A).
Ax = b ⇒ AT Ax = AT b

19. Ελάχιστα Τετράγωνα
Αν Ax = b και b ∈ R(A) τότε μια προσέγγιση της λύσης x είναι
/
η λύση y του συστήματος Ay = p όπου p η προβολή του b στον
R(A).
Ax = b ⇒ AT Ax = AT b ⇒
x = AT A
−1
AT b

20. Ελάχιστα Τετράγωνα
Αν Ax = b και b ∈ R(A) τότε μια προσέγγιση της λύσης x είναι
/
η λύση y του συστήματος Ay = p όπου p η προβολή του b στον
R(A).
Ax = b ⇒ AT Ax = AT b ⇒
x = AT A
Πράγματι AT (Ax − b) = 0
−1
AT b

21. Ελάχιστα Τετράγωνα
Αν Ax = b και b ∈ R(A) τότε μια προσέγγιση της λύσης x είναι
/
η λύση y του συστήματος Ay = p όπου p η προβολή του b στον
R(A).
Ax = b ⇒ AT Ax = AT b ⇒
x = AT A
−1
AT b
Πράγματι AT (Ax − b) = 0
Υπόθεση: οι στήλες του A είναι γραμμικά ανεξάρτητες.

22. Παράδειγμα
 
4
1 4
 1 5  x = 5
6
0 6



23. Προβολή στον χώρο στηλών
Ορισμός
Η προβολή p ενός διανύσματος b ∈ Rn πάνω στον χώρο στηλών
ενός πίνακα A ∈ Rm×n είναι
p = A AT A
−1
AT b
Ο πίνακας που προβάλει κάθε διάνυσμα στον χώρο στηλών ενός
πίνακα A είναι ο
−1
P = A AT A
AT

24. Προβολή στον χώρο στηλών
Ορισμός
Η προβολή p ενός διανύσματος b ∈ Rn πάνω στον χώρο στηλών
ενός πίνακα A ∈ Rm×n είναι
p = A AT A
−1
AT b
Ο πίνακας που προβάλει κάθε διάνυσμα στον χώρο στηλών ενός
πίνακα A είναι ο
−1
P = A AT A
AT
για τον οποίο ισχύει ότι P k = P, k ∈ N, P T = P

25. Λύση ελαχίστων τετραγώνων
Θεώρημα
Αν A ∈ Rm×n και b ∈ Rn τότε
/
Η λύση ελαχίστων τετραγώνων του συστήματος Ax = b
ικανοποιεί την εξίσωση AT Ax = AT b

26. Λύση ελαχίστων τετραγώνων
Θεώρημα
Αν A ∈ Rm×n και b ∈ Rn τότε
/
Η λύση ελαχίστων τετραγώνων του συστήματος Ax = b
ικανοποιεί την εξίσωση AT Ax = AT b
Εάν οι στήλες του Α είναι γραμμικά ανεξάρτητες τότε ο
−1 T
AT A είναι αντιστρέψιμος και x = AT A
A b.

27. Προβολές στον χώρο στηλών
Αν το b
ανήκει στον χώρο στηλών του A τότε η προβολή του είναι το
ίδιο το b

28. Προβολές στον χώρο στηλών
Αν το b
ανήκει στον χώρο στηλών του A τότε η προβολή του είναι το
ίδιο το b
είναι κάθετο στον χώρο στηλών του A τότε η προβολή του
είναι 0

29. Προβολές στον χώρο στηλών
Αν το b
ανήκει στον χώρο στηλών του A τότε η προβολή του είναι το
ίδιο το b
είναι κάθετο στον χώρο στηλών του A τότε η προβολή του
είναι 0
Αν ο Α
είναι αντιστρέψιμος (και τετραγωνικός) η προβολή κάθε
διανύσματος είναι ο εαυτός του

30. Προβολές στον χώρο στηλών
Αν το b
ανήκει στον χώρο στηλών του A τότε η προβολή του είναι το
ίδιο το b
είναι κάθετο στον χώρο στηλών του A τότε η προβολή του
είναι 0
Αν ο Α
είναι αντιστρέψιμος (και τετραγωνικός) η προβολή κάθε
διανύσματος είναι ο εαυτός του
έχει μόνον μια στήλη τότε αναγόμαστε στην προβολή πάνω
σε ευθεία

31. Ο πίνακας AT A
Είναι τετραγωνικός
Είναι συμμετρικός
΄Εχει τον ίδιο μηδενόχωρο με τον A
Είναι αντιστρέψιμος εάν ο A έχει γραμμικά
ανεξάρτητες στήλες

32. Ορθοκανινικά διανύσματα και ορθογώνιοι πίνακες
Ορισμός
Τα διανύσματα q1 , q2 , . . . , qk ∈ Rn είναι ορθοκανονικά όταν
είναι ορθογώνια μεταξύ τους και έχουν μήκος 1.

33. Ορθοκανινικά διανύσματα και ορθογώνιοι πίνακες
Ορισμός
Τα διανύσματα q1 , q2 , . . . , qk ∈ Rn είναι ορθοκανονικά όταν
είναι ορθογώνια μεταξύ τους και έχουν μήκος 1.
0, i = j·
δηλαδή όταν qiT qj =
1, i = j.

34. Ορθοκανινικά διανύσματα και ορθογώνιοι πίνακες
Ορισμός
Τα διανύσματα q1 , q2 , . . . , qk ∈ Rn είναι ορθοκανονικά όταν
είναι ορθογώνια μεταξύ τους και έχουν μήκος 1.
0, i = j·
δηλαδή όταν qiT qj =
1, i = j.
Ορισμός
΄Ενας τετραγωνικός πίνακας Q λέγεται ορθογώνιος εάν οι στήλες
του είναι ορθοκανονικές.
 
 
 
1
0
0
0
1
0
 
 
 
Παράδειγμα: e1 =  . , e2 =  . , . . . , en =  .
.
.
.
.
 .
.
0
0
1

35. Ιδιότητες ορθογώνιου πίνακα
Ο αντίστροφος κάθε ορθογώνιου πίνακα Q ίσούται με τον
ανάστροφό του.

36. Ιδιότητες ορθογώνιου πίνακα
Ο αντίστροφος κάθε ορθογώνιου πίνακα Q ίσούται με τον
ανάστροφό του. Q −1 = Q T

37. Ιδιότητες ορθογώνιου πίνακα
Ο αντίστροφος κάθε ορθογώνιου πίνακα Q ίσούται με τον
ανάστροφό του. Q −1 = Q T
Ο πολλαπλασιασμός με ορθογώνιο πίνακα διατηρεί τα μήκη,
τα εσωτερικά γινόμενα και τις γωνίες αναλλοίωτες

38. Ιδιότητες ορθογώνιου πίνακα
Ο αντίστροφος κάθε ορθογώνιου πίνακα Q ίσούται με τον
ανάστροφό του. Q −1 = Q T
Ο πολλαπλασιασμός με ορθογώνιο πίνακα διατηρεί τα μήκη,
τα εσωτερικά γινόμενα και τις γωνίες αναλλοίωτες
||Qx|| = ||x||,

39. Ιδιότητες ορθογώνιου πίνακα
Ο αντίστροφος κάθε ορθογώνιου πίνακα Q ίσούται με τον
ανάστροφό του. Q −1 = Q T
Ο πολλαπλασιασμός με ορθογώνιο πίνακα διατηρεί τα μήκη,
τα εσωτερικά γινόμενα και τις γωνίες αναλλοίωτες
||Qx|| = ||x||, Qx)T (Qx) = x T x,

40. Ιδιότητες ορθογώνιου πίνακα
Ο αντίστροφος κάθε ορθογώνιου πίνακα Q ίσούται με τον
ανάστροφό του. Q −1 = Q T
Ο πολλαπλασιασμός με ορθογώνιο πίνακα διατηρεί τα μήκη,
τα εσωτερικά γινόμενα και τις γωνίες αναλλοίωτες
ˆ
||Qx|| = ||x||, Qx)T (Qx) = x T x, (Qx, Qy ) = (x, y )
ˆ

41. Ιδιότητες ορθογώνιου πίνακα
Ο αντίστροφος κάθε ορθογώνιου πίνακα Q ίσούται με τον
ανάστροφό του. Q −1 = Q T
Ο πολλαπλασιασμός με ορθογώνιο πίνακα διατηρεί τα μήκη,
τα εσωτερικά γινόμενα και τις γωνίες αναλλοίωτες
ˆ
||Qx|| = ||x||, Qx)T (Qx) = x T x, (Qx, Qy ) = (x, y )
ˆ
Κάθε διάνυσμα μπορεί να γραφθεί σαν γραμμικός
συνδυασμός των στηλών του Q

42. Ιδιότητες ορθογώνιου πίνακα
Ο αντίστροφος κάθε ορθογώνιου πίνακα Q ίσούται με τον
ανάστροφό του. Q −1 = Q T
Ο πολλαπλασιασμός με ορθογώνιο πίνακα διατηρεί τα μήκη,
τα εσωτερικά γινόμενα και τις γωνίες αναλλοίωτες
ˆ
||Qx|| = ||x||, Qx)T (Qx) = x T x, (Qx, Qy ) = (x, y )
ˆ
Κάθε διάνυσμα μπορεί να γραφθεί σαν γραμμικός
συνδυασμός των στηλών του Q
T
T
T
b = (q1 b)q1 + (q2 b)q2 + . . . + (qn b)qn