Aa

ARQUITECTURAS AVANZADAS

Ingenier´ Informatica
ıa ´

Profesor: Fernando Pardo Carpio

Valencia, 30 de enero de 2002

Prefacio
El temario recogido en estos apuntes se corresponde con la asignatura de Arqui-
tecturas Avanzadas de la Ingenier´ Inform´tica de la Universidad de Valencia. Esta
ıa a
asignatura corresponde al plan de 1993 y constaba de 6 cr´ditos te´ricos y 1.5 prćticos.
e o a
Se cursaba en quinto.
Esta asignatura pretend´ ser la continuaciń de la asignatura de Arquitectura de
ıa o
Computadores de cuarto curso del plan antiguo. El contenido principal son los sistemas
paralelos, es decir, multiprocesadores y multicomputadores, sin olvidar otras arquitec-
turas paralelas que ya tuvieron su momento en el pasado pero que todav´ se siguen
ıa
utilizando hoy en d´ ıa.
Estos apuntes toman como base los que se vinieron preparando desde el curso de
1998. A principios del 2000 el profesor Antonio Flores Gil del Departamento de Inge-
nier´ y Tecnolog´ de Computadores de la Facultad de Inform´tica de la Universidad
ıa ıa a
de Murcia, aport´ las fuentes de sus mucho m´s completos apuntes de Arquitectura de
o a
Computadores con el fin de que se pudiesen adaptar a las necesidades del temario. Con
los apuntes que ya se ten´ y con los del profesor Antonio Flores, se ha realizado esta
ıan
nueva versiń que todav´ est´ en construcciń.
o ıa a o
Se incluyen las referencias bibliogr´ficas utilizadas en la elaboraciń de los apuntes,
a o
incluyńdose un peque˜ o apńdice donde se comentan los diferentes libros utilizados.
e n e
Con esto se ha pretendido dar una visiń global a las arquitecturas avanzadas, ofre-
o
cińdole al alumno un abanico amplio de posibilidades para ampliar informaciń.
e o

Fernando Pardo en Valencia a 8 de octubre de 2001

Ingenier´ Inform´tica
ıa a Universidad de Valencia

ii Prefacio


´
Indice General
1 Introducciń a las arquitecturas paralelas
o 1
1.1 Clasificaciń de los sistemas paralelos . . .
o . . . . . . . . . . . . . . . . 2
1.1.1 Clasificaciń de Flynn . . . . . . .
o . . . . . . . . . . . . . . . . 2
1.1.2 Otras clasificaciones . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2 Fuentes del paralelismo . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.2.1 El paralelismo de control . . . . . . . . . . . . . . . . . . . . . . 11
1.2.2 El paralelismo de datos . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.3 El paralelismo de flujo . . . . . . . . . . . . . . . . . . . . . . . 13

2 El rendimiento de los sistemas paralelos 15
2.1 Magnitudes y medidas del rendimiento . . . . . . . . . . . . . . . . . . 15
2.1.1 Eficiencia, redundancia, utilizaciń y calidad . . . . . . . . . .
o . 15
2.1.2 Perfil del paralelismo en programas . . . . . . . . . . . . . . . . 16
2.1.3 Rendimiento medio armńico. Ley de Amdahl . . . . . . . . .
o . 19
2.2 Modelos del rendimiento del speed-up . . . . . . . . . . . . . . . . . . . 23
2.2.1 Ley de Amdahl, limitaciń por carga de trabajo fija . . . . . .
o . 24
2.2.2 Ley de Gustafson, limitaciń por tiempo fijo . . . . . . . . . .
o . 25
2.2.3 Modelo del speed-up limitado por la memoria fija . . . . . . . . 27
2.3 Modelos del rendimiento segń la granularidad . . . . . . . . . . . . .
u . 30
2.3.1 Modelo b´sico: 2 procesadores y comunicaciones no solapadas
a . 32
2.3.2 Extensiń a N procesadores . . . . . . . . . . . . . . . . . . .
o . 33
2.3.3 Otras suposiciones para las comunicaciones . . . . . . . . . . . . 36

3 Procesadores vectoriales 43
3.1 Procesador vectorial b´sico . . . . . . . . . . . . . . . . . .
a . . . . . . . 44
3.1.1 Arquitectura vectorial b´sica . . . . . . . . . . . . .
a . . . . . . . 44
3.1.2 Instrucciones vectoriales b´sicas . . . . . . . . . . .
a . . . . . . . 46
3.1.3 Ensamblador vectorial DLXV . . . . . . . . . . . . . . . . . . . 48
3.1.4 Tiempo de ejecuciń vectorial . . . . . . . . . . . .
o . . . . . . . 50
3.1.5 Unidades de carga/almacenamiento vectorial . . . . . . . . . . . 52
3.2 Memoria entrelazada o intercalada . . . . . . . . . . . . . . . . . . . . 53
3.2.1 Acceso concurrente a memoria (acceso C) . . . . . . . . . . . . 55
3.2.2 Acceso simultńeo a memoria (acceso S) . . . . . .
a . . . . . . . 56
3.2.3 Memoria de acceso C/S . . . . . . . . . . . . . . . . . . . . . . 57
3.2.4 Rendimiento de la memoria entrelazada y tolerancia a fallos . . 57
3.3 Longitud del vector y separaciń de elementos . . . . . . .
o . . . . . . . 60
3.3.1 Control de la longitud del vector . . . . . . . . . . . . . . . . . 60
3.3.2 C´lculo del tiempo de ejecuciń vectorial . . . . . .
a o . . . . . . . 61
3.3.3 Separaciń de elementos en el vector . . . . . . . .
o . . . . . . . 63
3.4 Mejora del rendimiento de los procesadores vectoriales . . . . . . . . . 65
3.4.1 Encadenamiento de operaciones vectoriales . . . . . . . . . . . . 65
3.4.2 Sentencias condicionales . . . . . . . . . . . . . . . . . . . . . . 65
3.4.3 Matrices dispersas . . . . . . . . . . . . . . . . . . . . . . . . . 67
3.5 El rendimiento de los procesadores vectoriales . . . . . . . . . . . . . . 69


iv ´
Indice General

3.5.1 Rendimiento relativo entre vectorial y escalar . . . . . . . . . . 69
3.5.2 Medidas del rendimiento vectorial . . . . . . . . . . . . . . . . . 70
3.6 Historia y evoluciń de los procesadores vectoriales . . . . . . . . . . .
o 74

4 Procesadores matriciales 77
4.1 Organizaciń b´sica . . . . . . . . . . . . . . .
o a . . . . . . . . . . . . . . 77
4.2 Estructura interna de un elemento de proceso . . . . . . . . . . . . . . 78
4.3 Instrucciones matriciales . . . . . . . . . . . . . . . . . . . . . . . . . . 80
4.4 Programaciń . . . . . . . . . . . . . . . . . .
o . . . . . . . . . . . . . . 80
4.4.1 Multiplicaciń SIMD de matrices . . .
o . . . . . . . . . . . . . . 80
4.5 Procesadores asociativos . . . . . . . . . . . . . . . . . . . . . . . . . . 80
4.5.1 Memorias asociativas . . . . . . . . . . . . . . . . . . . . . . . . 80
4.5.2 Ejemplos de procesadores asociativos . . . . . . . . . . . . . . . 80

5 Generalidades sobre las redes de interconexiń o 81
5.1 Definiciones b´sicas y par´metros que caracterizan las redes de interco-
a a
nexiń . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
o 81
5.1.1 Topolog´ control de flujo y encaminamiento . . . . . . . . . . .
ıa, 84
5.2 Clasificaciń de las redes de interconexiń segń su topolog´ . . . . . .
o o u ıa 87
5.2.1 Redes de medio compartido . . . . . . . . . . . . . . . . . . . . 89
5.2.2 Redes Directas . . . . . . . . . . . . . . . . . . . . . . . . . . . 90
5.2.3 Redes Indirectas . . . . . . . . . . . . . . . . . . . . . . . . . . 91
5.2.4 Redes H´ ıbridas . . . . . . . . . . . . . . . . . . . . . . . . . . . 93

6 Multiprocesadores 99
6.1 Redes de interconexiń para multiprocesadores . . . . . . .
o . . . . . . . 99
6.1.1 Redes de medio compartido. Buses . . . . . . . . . . . . . . . . 99
6.1.2 Redes indirectas . . . . . . . . . . . . . . . . . . . . . . . . . . . 100
6.1.3 Red de barra cruzada . . . . . . . . . . . . . . . . . . . . . . . . 101
6.1.4 Redes de interconexiń multietapa (MIN) . . . . .
o . . . . . . . 103
6.1.5 Tipos de etapas de permutaciń para MIN . . . . .
o . . . . . . . 105
6.1.6 Clasificaciń de las redes MIN . . . . . . . . . . . .
o . . . . . . . 109
6.1.7 Encaminamiento en redes MIN . . . . . . . . . . . . . . . . . . 115
6.1.8 Resumen de las redes indirectas y equivalencias . . . . . . . . . 121
6.2 Modelos de consistencia de memoria . . . . . . . . . . . . . . . . . . . . 122
6.2.1 Consistencia secuencial . . . . . . . . . . . . . . . . . . . . . . . 123
6.2.2 Otros modelos de consistencia . . . . . . . . . . . . . . . . . . . 127
6.2.3 Implementaciń de los modelos relajados . . . . . .
o . . . . . . . 132
6.2.4 Rendimiento de los modelos relajados . . . . . . . . . . . . . . . 133
6.3 Coherencia de las cach´s . . . . . . . . . . . . . . . . . . .
e . . . . . . . 134
6.3.1 El problema de la coherencia de las cach´s . . . . .
e . . . . . . . 135
6.3.2 Direcciones f´ısicas y virtuales, problema del aliasing . . . . . . . 137
6.3.3 El problema de la falsa comparticiń . . . . . . . .
o . . . . . . . 138
6.3.4 Soluciones a los problemas de coherencia . . . . . . . . . . . . . 138
6.3.5 Esquemas de coherencia de las cach´s . . . . . . . .
e . . . . . . . 140
6.4 Protocolos de sondeo o snoopy (medio compartido) . . . . . . . . . . . 141
6.4.1 Protocolo de invalidaciń de 3 estados (MSI) . . . .
o . . . . . . . 143
6.4.2 Protocolo de invalidaciń de 4 estados (MESI) . . .
o . . . . . . . 148
6.4.3 Write once . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 150
6.4.4 Berkeley . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152


´
Indice General v

6.4.5 Protocolo de actualizaciń de 4 estados (Dragon) .
o . . . . . . . 154
6.4.6 Firefly . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 156
6.4.7 Rendimiento de los protocolos de sondeo . . . . . . . . . . . . . 156
6.5 Esquemas de coherencia basados en directorio . . . . . . . . . . . . . . 158
6.5.1 Protocolos basados en directorio . . . . . . . . . . . . . . . . . . 158
6.5.2 Protocolo de mapeado completo . . . . . . . . . . . . . . . . . . 159
6.5.3 Protocolo de directorio limitado . . . . . . . . . . . . . . . . . . 160
6.5.4 Protocolo de directorio encadenado . . . . . . . . . . . . . . . . 161
6.5.5 Rendimiento de los protocolos basados en directorio . . . . . . . 163
6.6 Sincronizaciń . . . . . . . . . . . . . . . . . . . . . . . . .
o . . . . . . . 167
6.6.1 Cerrojos (exclusiń mutua) . . . . . . . . . . . . .
o . . . . . . . 171
6.6.2 Eventos de sincronizaciń punto a punto (banderas)
o . . . . . . . 181
6.6.3 Eventos globales de sincronizaciń (barreras) . . . .
o . . . . . . . 182
6.7 Conclusiones . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 186

7 Multicomputadores 189
7.1 Redes de interconexiń para multicomputadores . . . . . . . . . . . . .
o 191
7.1.1 Topolog´ estrictamente ortogonales . . . . . . . . . . . . . . .
ıas 193
7.1.2 Otras topolog´ directas . . . . . . . . . . . . . . . . . . . . . .
ıas 195
7.1.3 Conclusiones sobre las redes directas . . . . . . . . . . . . . . . 200
7.2 La capa de conmutaciń o control de flujo (switching) . . . . . . . . . .
o 202
7.2.1 Elementos b´sicos de la conmutaciń . . . . . . . . . . . . . . .
a o 202
7.2.2 Conmutaciń de circuitos . . . . . . . . . . . . . . . . . . . . .
o 206
7.2.3 Conmutaciń de paquetes . . . . . . . . . . . . . . . . . . . . .
o 208
7.2.4 Conmutaciń de paso a trav´s virtual, Virtual Cut-Through (VCT)
o e
209
7.2.5 Conmutaciń de lombriz (Wormhole) . . . . . . . . . . . . . . .
o 211
7.2.6 Conmutaciń cartero loco . . . . . . . . . . . . . . . . . . . . .
o 213
7.2.7 Canales virtuales . . . . . . . . . . . . . . . . . . . . . . . . . . 216
7.2.8 Mecanismos h´ ıbridos de conmutaciń . . . . . . . . . . . . . . .
o 218
7.2.9 Comparaciń de los mecanismos de conmutaciń . . . . . . . . .
o o 218
7.3 La capa de encaminamiento (routing) . . . . . . . . . . . . . . . . . . . 220
7.3.1 Clasificaciń de los algoritmos de encaminamiento . . . . . . . .
o 221
7.3.2 Bloqueos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 222
7.3.3 Teor´ para la evitaciń de bloqueos mortales (deadlocks) . . . .
ıa o 225
7.3.4 Algoritmos deterministas . . . . . . . . . . . . . . . . . . . . . . 231
7.3.5 Algoritmos parcialmente adaptativos . . . . . . . . . . . . . . . 234
7.3.6 Algoritmos completamente adaptativos . . . . . . . . . . . . . . 237
7.3.7 Comparaciń de los algoritmos de encaminamiento . . . . . . .
o 238

8 Otras arquitecturas avanzadas 243
8.1 M´quinas de flujo de datos . . . . . . . . . . .
a . . . . . . . . . . . . . . 244
8.1.1 Grafo de flujo de datos . . . . . . . . . . . . . . . . . . . . . . . 244
8.1.2 Estructura b´sica de un computador de
a flujo de datos . . . . . . 246
8.2 Otras arquitecturas . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 247

A Comentarios sobre la bibliograf´
ıa 249

Bibliograf´
ıa 251
´
Indice de Materias 253


vi ´
Indice General


´
Indice de Figuras
1.1 Clasificaciń de Flynn de las arquitecturas de computadores.
o . . . . . . 3
1.2 Clasificaciń de las arquitecturas paralelas. . . . . . . . . . .
o . . . . . . 4
1.3 El modelo UMA de multiprocesador. . . . . . . . . . . . . . . . . . . . 5
1.4 El modelo NUMA de multiprocesador. . . . . . . . . . . . . . . . . . . 6
1.5 El modelo COMA de multiprocesador. . . . . . . . . . . . . . . . . . . 6
1.6 Diagrama de bloques de una m´quina de flujo de datos. . . .
a . . . . . . 8
1.7 Paralelismo de control. . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
1.8 Ejemplo de paralelismo de control. . . . . . . . . . . . . . . . . . . . . 12
1.9 Paralelismo de datos. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
1.10 Ejemplo de la aplicaciń del paralelismo de datos a un bucle.
o . . . . . . 13
1.11 Paralelismo de flujo. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.1 Perfil del paralelismo de un algoritmo del tipo divide y vencer´s. . . . .
a 17
2.2 Media armńica del speed-up con respecto a tres distribuciones de pro-
o
babilidad: π1 para la distribuciń uniforme, π2 en favor de usar m´s
o a
procesadores y π3 en favor de usar menos procesadores. . . . . . . . . . 21
2.3 Mejora del rendimiento para diferentes valores de α, donde α es la frac-
ciń del cuello de botella secuencial. . . . . . . . . . . . . . . . . . . . .
o 22
2.4 Modelos de rendimiento del speed-up. . . . . . . . . . . . . . . . . . . . 23
2.5 Modelo del speed-up de carga fija y la ley de Amdahl. . . . . . . . . . . 26
2.6 Modelo de speed-up de tiempo fijo y la ley de Gustafson. . . . . . . . . 28
2.7 Modelo de speed-up de memoria fija. . . . . . . . . . . . . . . . . . . . . 30
2.8 Tiempo de ejecuciń para dos factores R/C diferentes. . . . . . . . . .
o 33
3.1 La arquitectura de un supercomputador vectorial. . . . . . . . . . . . . 45
3.2 Estructura b´sica de una arquitectura vectorial con registros, DLXV. .
a 46
3.3 Caracter´ ısticas de varias arquitecturas vectoriales. . . . . . . . . . . . . 47
3.4 Instrucciones vectoriales del DLXV. . . . . . . . . . . . . . . . . . . . . 49
3.5 Penalizaciń por el tiempo de arranque en el DLXV. . . . . . . . . . .
o 51
3.6 Tiempos de arranque y del primer y ultimo resultados para los convoys
´
1-4. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 52
3.7 Dos organizaciones de memoria entrelazada con m = 2a m´dulos y w =
o
2a palabras por m´dulo. . . . . . . . . . . . . . . . . . . . . . . . . . .
o 54
3.8 Tiempo de acceso para las primeras 64 palabras de doble precisiń en o
una lectura. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 55
3.9 Acceso segmentado a 8 palabras contiguas en una memoria de acceso C. 56
3.10 Organizaciń de acceso S para una memoria entrelazada de m v´
o ıas. . . 56
3.11 Organizaciń de acceso C/S. . . . . . . . . . . . . . . . . . . . . . . . .
o 57
3.12 Dos organizaciones de memoria entrelazada usando 8 m´dulos: (a) 2o
bancos y 4 m´dulos entrelazados, (b) 4 bancos y 2 m´dulos entrelazados.
o o 59
3.13 Un vector de longitud arbitraria procesado mediante seccionamiento. To-
dos los bloques menos el primero son de longitud MVL. En esta figura,
la variable m se usa en lugar de la expresiń (n mod M V L). . . . . . .
o 61
3.14 Tiempo de ejecuciń por elemento en funciń de la longitud del vector.
o o 63


viii ´
Indice de Figuras

3.15 Temporizaciń para la ejecuciń no encadenada y encadenada. . . . . .
o o 66
3.16 Rendimiento relativo escalar/vectorial. . . . . . . . . . . . . . . . . . . 69
3.17 Formaciń de convoys en el bucle interior del c´digo DAXPY. . . . . .
o o 70
3.18 Comparaciń del rendimiento de los procesadores vectoriales y los mi-
o
croprocesadores escalares para la resoluciń de un sistema de ecuaciones
o
lineales denso (tama˜ o de la matriz=n × n). . . . . . . . . . . . . . . .
n 75
4.1 Computador matricial b´sico. . . . . . . . . . . . . . . . . . . . . . . .
a 78
4.2 Componentes de un elemento de proceso (EP) en un computador matricial. 79
5.1 Ejemplos del c´lculo del ancho de la bisecciń: toro 2-D. (b) toro 3-D
a o
(no se muestran los enlaces de cierre). . . . . . . . . . . . . . . . . . . . 83
5.2 Ejemplo de empaquetamiento de un multicomputador. . . . . . . . . . 85
5.3 Clasificaciń de las redes de interconexiń. (1-D = unidimensional; 2-D
o o
= bidimensional; 3-D = tridimensional; CMU = Carnegie Mellon Uni-
versity; DASH = Directory Architecture for Shared-Memory; DEC =
Digital Equipment Corp.; FDDI = Fiber Distributed Data Interface; HP
= Hewlett-Packard; KSR = Kendall Square Research; MIN = Multistage
Interconnection Network; MIT = Massachusetts Institute of Technology;
SGI = Silicon Graphics Inc.; TMC = Thinking Machines Corp.) . . . . 88
5.4 Una red con bus unico. (M = memoria; P = procesador.) . . . . . . . .
´ 89
5.5 Arquitectura de un nodo gen´rico. . . . . . . . . . . . . . . . . . . . . .
e 91
5.6 Algunas topolog´ propuestas para redes directas. . . . . . . . . . . . .
ıas 92
5.7 Un red conmutada con topolog´ irregular. . . . . . . . . . . . . . . . .
ıa 93
5.8 Redes H´ ıbridas. (a) Una red multibus. (b) Una jerarqu´ de dos niveles
ıa
de buses. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 94
5.9 Malla bidimensional basada en clusters. . . . . . . . . . . . . . . . . . . 95
5.10 Una hipermalla bidimensional. . . . . . . . . . . . . . . . . . . . . . . . 96
5.11 Una hipermalla unidimensional con conmutador crossbar distribuido. . 96
6.1 La red de conmutaciń en barra cruzada. . . . . . . . . . . . . . . . . . 101
o
6.2 Estados de un punto de conmutaciń en una red de barras cruzadas. . . 103
o
6.3 Estructura generalizada de una interconexiń multietapa (MIN). . . . . 104
o
6.4 Visiń detallada de una etapa Gi . . . . . . . . . . . . . . . . . . . . . . 104
o
6.5 Barajado perfecto, barajado perfecto inverso, y bit reversal para N = 8. 106
6.6 La conexiń mariposa para N = 8. . . . . . . . . . . . . . . . . . . . . 107
o
6.7 La conexiń cubo para N = 8. . . . . . . . . . . . . . . . . . . . . . . . 108
o
6.8 La conexiń en l´
o ınea base para N = 8. . . . . . . . . . . . . . . . . . . 108
6.9 Una red Bene˘ 8 × 8. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 109
s
6.10 Cuatro posibles estados de un conmutador 2 × 2. . . . . . . . . . . . . 110
6.11 Cuatro redes de interconexiń unidireccionales multietapa de 16 × 16. . 111
o
6.12 Red de l´ınea base 8 × 8. . . . . . . . . . . . . . . . . . . . . . . . . . . 112
6.13 Redes basadas en el barajado perfecto. . . . . . . . . . . . . . . . . . . 113
6.14 Conexiones en un conmutador bidireccional. . . . . . . . . . . . . . . . 114
6.15 Una MIN mariposa bidireccional de ocho nodos. . . . . . . . . . . . . . 114
6.16 Caminos alternativos para una MIN mariposa bidireccional de ocho nodos.115
6.17 ´
Arbol grueso y BMIN mariposa. . . . . . . . . . . . . . . . . . . . . . . 116
6.18 Vista funcional de la estructura de una red Omega multietapa. . . . . . 117
6.19 Selecciń del camino por el algoritmo de encaminamiento basado en eti-
o
quetas en una MIN mariposa de 16 nodos. . . . . . . . . . . . . . . . . 119
6.20 Caminos disponibles en una BMIN mariposa de ocho nodos. . . . . . . 121


´
Indice de Figuras ix

6.21 Requisitos de un evento de sincronizaciń mediante flags. . . . . . . . . 123
o
6.22 Abstracciń desde el punto de vista del programador del subsistema de
o
memoria bajo el modelo de consistencia secuencial. . . . . . . . . . . . 125
´
6.23 Ordenes entre los accesos sin sincronizaciń. . . . . . . . . . . . . . . . 125
o
6.24 Ejemplo que ilustra la importancia de la atomicidad de las escrituras
para la consistencia secuencial. . . . . . . . . . . . . . . . . . . . . . . . 126
6.25 Modelos de consistencia de memoria. . . . . . . . . . . . . . . . . . . . 128
6.26 Ordenaciones impuestas por varios modelos de consistencia. Se muestran
tanto los accesos ordinarios como los accesos a variables de sincronizaciń.130o
6.27 Ejemplos de los cinco modelos de consistencia vistos en esta secciń que
o
muestran la reducciń en el n´mero de ´rdenes impuestos conforme los
o u o
modelos se hacen m´s relajados. . . . . . . . . . . . . . . . . . . . . . . 131
a
6.28 Rendimiento de los modelos de consistencia relajados sobre una variedad
de mecanismos hardware. . . . . . . . . . . . . . . . . . . . . . . . . . . 134
6.29 El problema de la coherencia de cach´s con dos procesadores. . . . . . . 135
e
6.30 Ejemplo del problema de coherencia de las cach´s. . . . . . . . . . . . . 136
e
6.31 Direcciones f´ısicas y virtuales en la cach´. . . . . . . . . . . . . . . . . . 137
e
6.32 Protocolo b´sico de invalidaciń con tres estados. . . . . . . . . . . . . 145
a o
6.33 Protocolo de invalidaciń de 3 estados en acciń para las transacciones
o o
mostradas en la figura 6.30. . . . . . . . . . . . . . . . . . . . . . . . . 146
6.34 Orden parcial en las operaciones de memoria para una ejecuciń con elo
protocolo MSI. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148
6.35 Diagrama de transiciń de estados para el protocolo Illinois MESI. . . . 149
o
6.36 Diagrama de transiciń del protocolo Write once. . . . . . . . . . . . . 151
o
6.37 Diagramas de transiciń del protocolo Berkeley. . . . . . . . . . . . . . 153
o
6.38 Diagrama de transiciń de estados del protocolo de actualizaciń Dragon. 155
o o
6.39 Directorio en el protocolo de mapeado completo. . . . . . . . . . . . . . 159
6.40 Protocolo de directorio encadenado en el estńdar SCI. . . . . . . . . . 162
a
6.41 Tasa de fallo en funciń del n´mero de procesadores. . . . . . . . . . . 164
o u
6.42 Tasa de fallo en funciń del tama˜ o de la cach´. . . . . . . . . . . . . . 165
o n e
6.43 Tasa de fallo en funciń del tama˜ o del bloque suponiendo una cach´ de
o n e
128 KB y 64 procesadores. . . . . . . . . . . . . . . . . . . . . . . . . . 165
6.44 N´mero de bytes por referencia en funciń del tama˜ o del bloque. . . . 166
u o n
6.45 Caracter´ısticas de la m´quina basada en directorio del ejemplo. . . . . 167
a
6.46 La latencia efectiva de las referencias a memoria en una m´quina DSM
a
depende de la frecuencia relativa de los fallos de cach´ y de la localizaciń
e o
de la memoria desde donde se producen los accesos. . . . . . . . . . . . 168
6.47 Implementaciń de (a) un intercambio at´mico y (b) una operaciń de
o o o
lectura e incremento (fetch-and-increment) utilizando las operaciones
load linked y store conditional . . . . . . . . . . . . . . . . . . . . . . . 170
6.48 Pasos en la coherencia de la cach´ y tr´fico en el bus para tres proce-
e a
sadores, P0, P1 y P2 que intentan adquirir un cerrojo en protocolo de
coherencia por invalidaciń. . . . . . . . . . . . . . . . . . . . . . . . . 173
o
6.49 Tiempo para adquirir y liberar un cerrojo cuando 20 procesadores estń a
compitiendo por el mismo. . . . . . . . . . . . . . . . . . . . . . . . . . 175
6.50 Un cerrojo con exponential back-off. . . . . . . . . . . . . . . . . . . . . 175
6.51 Estados de la lista para un cerrojo cuando los procesos intentan adquirirlo
y cuando lo liberan. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177
6.52 Rendimiento de los cerrojos en el SGI Challenge para tres posibles esce-
narios. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179


x ´
Indice de Figuras

6.53 Rendimiento de los cerrojos son la m´quina SGI Origin2000, para tres
a
escenarios diferentes. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 180
6.54 C´digo de una barrera centralizada. . . . . . . . . . . . . . . . . . . . .
o 182
6.55 C´digo para una barrera sense-reversing. . . . . . . . . . . . . . . . . .
o 183
6.56 Rendimiento de algunas barreras en el SGI Challenge. . . . . . . . . . . 186
7.1 Arquitectura b´sica de un multicomputador. . . . . . . . . . . . . . . . 190
a
7.2 Clasificaciń de las redes de interconexiń . . . . . . . . . . . . . . . . 192
o o
7.3 Variaciones de mallas y toros. . . . . . . . . . . . . . . . . . . . . . . . 194
7.4 Topolog´ estrictamente ortogonales en una red directa. . . . . . . . . 195
ıas
7.5 Hipercubos, ciclo cubos y n-cubos k-arios. . . . . . . . . . . . . . . . . 196
7.6 Otras topolog´ directas. . . . . . . . . . . . . . . . . . . . . . . . . . 197
ıas
7.7 Matriz lineal, anillos, y barril desplazado. . . . . . . . . . . . . . . . . . 198
7.8 Algunas topolog´ ´rbol. . . . . . . . . . . . . . . . . . . . . . . . . . . 199
ıas a
7.9 ´
Arbol, estrella y ´rbol grueso. . . . . . . . . . . . . . . . . . . . . . . . 200
a
7.10 Distintas unidades de control de flujo en un mensaje. . . . . . . . . . . 203
7.11 Un ejemplo de control de flujo as´ ıncrono de un canal f´ ısico. . . . . . . . 203
7.12 Un ejemplo de control de flujo s´ ıncrono de un canal f´ ısico. . . . . . . . 204
7.13 Modelo de encaminador (router ) gen´rico. (LC = Link controller.) . . . 205
e
7.14 C´lculo de la latencia en una red para el caso de ausencia de carga (R =
a
Encaminador o Router ). . . . . . . . . . . . . . . . . . . . . . . . . . . 206
7.15 Cronograma de un mensaje por conmutaciń de circuitos. . . . . . . . . 207
o
7.16 Un ejemplo del formato en una trama de creaciń de un circuito. (CHN
o
= N´mero de canal; DEST = Direcciń destino; XXX = No definido.) . 207
u o
7.17 Cronograma de un mensaje por conmutaciń de paquetes. . . . . . . . 209
o
7.18 Un ejemplo de formato de la cabecera del paquete. (DEST = Direcciń o
destino; LEN = Longitud del paquete en unidades de 192 bytes; XXX =
No definido.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209
7.19 Cronograma para un mensaje conmutado por VCT. (tblocking = Tiempo
de espera en un enlace de salida.) . . . . . . . . . . . . . . . . . . . . . 210
7.20 Cronograma de un mensaje conmutado mediante wormhole. . . . . . . 211
7.21 Un ejemplo de mensaje bloqueado con la tćnica wormhole. . . . . . . . 212
e
7.22 Formato de los paquetes conmutados mediante wormhole en el Cray T3D.212
7.23 Cronograma de la transmisiń de un mensaje usando la conmutaciń del
o o
cartero loco. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213
7.24 Un ejemplo del formato de un mensaje en la tćnica de conmutaciń del
e o
cartero loco. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214
7.25 Ejemplo de encaminamiento con la conmutaciń del cartero loco y la
o
generaciń de flits de direcciń muertos. . . . . . . . . . . . . . . . . . 215
o o
7.26 Canales virtuales. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217
7.27 Un ejemplo de la reducciń del retraso de la cabecera usando dos canales
o
virtuales por canal f´ ısico. . . . . . . . . . . . . . . . . . . . . . . . . . . 218
7.28 Latencia media del paquete vs. tr´fico aceptado normalizado en una
a
malla 16 × 16 para diferentes tćnicas de conmutaciń y capacidades de
e o
buffer. (VC = Virtual channel; VCT = Virtual cut-through.) . . . . . . 219
7.29 Una taxonom´ de los algoritmos de encaminamiento . . . . . . . . . . 221
ıa
7.30 Configuraciń de bloqueo en una malla 2-D. . . . . . . . . . . . . . . . 223
o
7.31 Una clasificaciń de las situaciones que pueden impedir el env´ de paquetes.224
o ıo
7.32 Configuraciń ilegal para R. . . . . . . . . . . . . . . . . . . . . . . . . 226
o
7.33 Redes del ejemplo anterior. . . . . . . . . . . . . . . . . . . . . . . . . . 228


´
Indice de Figuras xi

7.34 Red del ejemplo anterior. . . . . . . . . . . . . . . . . . . . . . . . . . . 229
7.35 El algoritmo de encaminamiento XY para mallas 2-D. . . . . . . . . . 232
7.36 El algoritmo de encaminamiento por dimensiones para hipercubos. . . . 233
7.37 Grafo de dependencias entre canales para anillos unidireccionales. . . . 233
7.38 El algoritmo de encaminamiento por dimensiones para toros 2-D unidi-
reccionales. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235
7.39 Caminos permitidos en el encaminamiento totalmente adaptativo y adap-
tativo por planos. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236
7.40 Redes crecientes y decrecientes en el plano Ai para el encaminamiento
adaptativo por planos. . . . . . . . . . . . . . . . . . . . . . . . . . . . 236
7.41 Latencia media del mensaje vs. tr´fico normalizado aceptado para mallas
a
16 × 16 para una distribuciń uniforme del destino de los mensajes. . . 239
o
7.42 Latencia media del mensaje vs. tr´fico normalizado aceptado para mallas
a
8 × 8 × 8 para una distribuciń uniforme del destino de los mensajes. . 240
o
7.43 Latencia media del mensaje vs. tr´fico normalizado aceptado para toros
a
16 × 16 para una distribuciń uniforme del destino de los mensajes. . . 241
o
7.44 Latencia media del mensaje vs. tr´fico normalizado aceptado para toros
a
8 × 8 × 8 para una distribuciń uniforme del destino de los mensajes. . 242
o
7.45 Desviaciń estńdar de la latencia vs. tr´fico normalizado aceptado en
o a a
un toro 8×8×8 para una distribuciń uniforme del destino de los mensajes242
o
8.1 Grafo de flujo de datos para calcular N ! . . . . . . . . . . . . . . . . . 245
8.2 La m´quina MIT de flujo de datos. . . . . . . .
a . . . . . . . . . . . . . 246
8.3 Ejemplo de m´quina de flujo de datos est´tica. .
a a . . . . . . . . . . . . . 247
8.4 Ejemplo de m´quina de flujo de datos din´mica.
a a . . . . . . . . . . . . . 248


xii ´
Indice de Figuras


Cap´
ıtulo 1

Introducciń a las arquitecturas
o
paralelas

Hasta este momento se ha estudiado el procesamiento a nivel del procesador. Se
ha visto ya que la segmentaciń es un primer mecanismo de paralelismo, ya que varias
o
instrucciones consecutivas son ejecutadas de forma solapada casi en paralelo. Tambiń
e
se vio que los procesadores superescalares realizan tambiń procesamiento paralelo al
e
lanzar dos o m´s instrucciones al mismo tiempo gracias a la presencia de varios cauces
a
paralelos.
Sin embargo, todos estos sistemas estń basados en la arquitectura Von Neumann
a
con un procesador y memoria donde se guardan datos y programa, es decir, una m´quina
a
secuencial que procesa datos escalares. Esta arquitectura se ha ido perfeccionando
incluyendo el paralelismo de las unidades de control, de c´lculo, etc., pero sigue siendo
a
una m´quina de ejecuciń con un unico flujo de instrucciones.
a o ´
No hay una frontera definida entre la arquitectura monoprocesador y las masiva-
mente paralelas. De hecho, las actuales arquitecturas monoprocesador son realmente
m´quinas paralelas a nivel de instrucciń. La evoluciń de la arquitectura basada en
a o o
monoprocesador ha venido ligada con la creaciń de m´s y mejores supercomputadores
o a
que ten´ que librarse del concepto de monoprocesador para poder hacer frente a las
ıan
demandas de computaciń.
o
El primer paso hacia la paralelizaciń de las arquitecturas de los computadores,
o
se da con la apariciń de los procesadores o sistemas vectoriales. Los procesadores
o
vectoriales extienden el concepto de paralelismo por segmentaciń al tratamiento de
o
grandes cadenas de datos. El hecho de que los procesadores segmentados hayan venido
asociados a los supercomputadores paralelos, los pone en la entrada a lo que son los
sistemas paralelos, si bien siguen siendo una extensiń del concepto de segmentaciń.
o o
Por todo esto, el resto de cap´ıtulos van a ir dedicados de alguna u otra manera
a supercomputadores paralelos. Se empieza por los procesadores vectoriales y se con-
tinán por los sistemas basados en m´ltiples procesadores, o fuertemente acoplados
u u
(multiprocesadores con memoria compartida), o moderadamente acoplados (multipro-
cesadores con memoria local), o bien d´bilmente acoplados como los multicomputadores
e
o sistemas distribuidos.
En cuanto a este cap´
ıtulo se repasarń los conceptos b´sicos sobre sistemas para-
a a
lelos, supercomputadores y su clasificaciń. La bibliograf´ para este cap´
o ıa ıtulo es muy


o

amplia ya que en cualquier libro de arquitectura vienen los conceptos b´sicos sobre ar-
a
quitecturas paralelas, aunque por ejemplo se recomienda la clasificaciń de los sistemas
o
en [Zar96], o las introducciones a estos temas paralelos de [Hwa93] o [HP96].

1.1 Clasificaciń de los sistemas paralelos
o
1.1.1 Clasificaciń de Flynn
o
Probablemente la clasificaciń m´s popular de computadores sea la clasificaciń de
o a o
Flynn. Esta taxonom´ de las arquitecturas est´ basada en la clasificaciń atendiendo
ıa a o
al flujo de datos e instrucciones en un sistema. Un flujo de instrucciones es el conjunto
de instrucciones secuenciales que son ejecutadas por un unico procesador, y un flujo de
´
datos es el flujo secuencial de datos requeridos por el flujo de instrucciones. Con estas
consideraciones, Flynn clasifica los sistemas en cuatro categor´ ıas:
SISD (Single Instruction stream, Single Data stream) Flujo unico de instrucciones y
´
flujo unico de datos. Este el concepto de arquitectura serie de Von Neumann
´
donde, en cualquier momento, s´lo se est´ ejecutando una unica instrucciń. A
o a ´ o
menudo a los SISD se les conoce como computadores serie escalares. Todas las
m´quinas SISD poseen un registro simple que se llama contador de programa
a
que asegura la ejecuciń en serie del programa. Conforme se van leyendo las
o
instrucciones de la memoria, el contador de programa se actualiza para que apunte
a la siguiente instrucciń a procesar en serie. Prćticamente ningń computador
o a u
puramente SISD se fabrica hoy en d´ ya que la mayor´ de procesadores modernos
ıa ıa
incorporan algń grado de paralelizaciń como es la segmentaciń de instrucciones
u o o
o la posibilidad de lanzar dos instrucciones a un tiempo (superescalares).
MISD (Multiple Instruction stream, Single Data stream) Flujo m´ltiple de instruccio-
u
nes y unico flujo de datos. Esto significa que varias instrucciones actán sobre el
´ u
mismo y unico trozo de datos. Este tipo de m´quinas se pueden interpretar de dos
´ a
maneras. Una es considerar la clase de maquinas que requerir´ que unidades
ıan
de procesamiento diferentes recibieran instrucciones distintas operando sobre los
mismos datos. Esta clase de arquitectura ha sido clasificada por numerosos arqui-
tectos de computadores como impracticable o imposible, y en estos momentos no
existen ejemplos que funcionen siguiendo este modelo. Otra forma de interpretar
los MISD es como una clase de m´quinas donde un mismo flujo de datos fluye
a
a trav´s de numerosas unidades procesadoras. Arquitecturas altamente segmen-
e
tadas, como los arrays sist´licos o los procesadores vectoriales, son clasificados a
o
menudo bajo este tipo de m´quinas. Las arquitecturas segmentadas, o encauza-
a
das, realizan el procesamiento vectorial a trav´s de una serie de etapas, cada una
e
ejecutando una funciń particular produciendo un resultado intermedio. La razń
o o
por la cual dichas arquitecturas son clasificadas como MISD es que los elementos
de un vector pueden ser considerados como pertenecientes al mismo dato, y todas
las etapas del cauce representan m´ltiples instrucciones que son aplicadas sobre
u
ese vector.
SIMD Single Instruction stream, Multiple Data stream Flujo de instrucciń simple y
o
flujo de datos m´ltiple. Esto significa que una unica instrucciń es aplicada sobre
u ´ o
diferentes datos al mismo tiempo. En las m´quinas de este tipo, varias unidades
a
de procesado diferentes son invocadas por una unica unidad de control. Al igual
´
que las MISD, las SIMD soportan procesamiento vectorial (matricial) asignando


o 3

cada elemento del vector a una unidad funcional diferente para procesamiento
concurrente. Por ejemplo, el c´lculo de la paga para cada trabajador en una em-
a
presa, es repetir la misma operaciń sencilla para cada trabajador; si se dispone
o
de un arquitectura SIMD esto se puede calcular en paralelo para cada trabaja-
dor. Por esta facilidad en la paralelizaciń de vectores de datos (los trabajadores
o
formar´ un vector) se les llama tambiń procesadores matriciales.
ıan e
MIMD (Multiple Instruction stream, Multiple Data stream) Flujo de instrucciones
m´ltiple y flujo de datos m´ltiple. Son m´quinas que poseen varias unidades pro-
u u a
cesadoras en las cuales se pueden realizar m´ltiples instrucciones sobre datos dife-
u
rentes de forma simultńea. Las MIMD son las m´s complejas, pero son tambiń
a a e
las que potencialmente ofrecen una mayor eficiencia en la ejecuciń concurren-
o
te o paralela. Aqu´ la concurrencia implica que no s´lo hay varios procesadores
ı o
operando simultńeamente, sino que adem´s hay varios programas (procesos) eje-
a a
cutńdose tambiń al mismo tiempo.
a e
La figura 1.1 muestra los esquemas de estos cuatro tipos de m´quinas clasificadas
a
por los flujos de instrucciones y datos.

FI FI UC UC UC

FI Memoria FI FI FI
(Programa
y datos) FD FD FD FD
FI FD UP UP UP
I/O UC UP UM
I/O

(a) SISD (monoprocesador) (b) MISD (array sist´lico)
o

FI FI FD
UC UP
FD FD
EP ML I/O
Datos Memoria
FI cargados I/O
UC FI
del host FI FD
Programa UC UP
cargado FD FD FI
EP ML
del host

(c) SIMD (procesador matricial) (d) MIMD (multiprocesador)

Figura 1.1: Clasificaciń de Flynn de las arquitecturas de computadores. (UC=Unidad
o
de Control, UP=Unidad de Procesamiento, UM=Unidad de Memoria, EP=Elemento
de Proceso, ML=Memoria Local, FI=Flujo de Instrucciones, FD=Flujo de datos.)

1.1.2 Otras clasificaciones
La clasificaciń de Flynn ha demostrado funcionar bastante bien para la tipificaciń
o o
de sistemas, y se ha venido usando desde dćadas por la mayor´ de los arquitectos
e ıa
de computadores. Sin embargo, los avances en tecnolog´ y diferentes topolog´ han
ıa ıas,
llevado a sistemas que no son tan fćiles de clasificar dentro de los 4 tipos de Flynn. Por
a


o

ejemplo, los procesadores vectoriales no encajan adecuadamente en esta clasificaciń,
o
ni tampoco las arquitecturas h´ ıbridas. Para solucionar esto se han propuesto otras
clasificaciones, donde los tipos SIMD y MIMD de Flynn se suelen conservar, pero que
sin duda no han tenido el ´xito de la de Flynn.
e
La figura 1.2 muestra una taxonom´ ampliada que incluye alguno de los avances
ıa
en arquitecturas de computadores en los ultimos a˜ os. No obstante, tampoco pretende
´ n
ser una caracterizaciń completa de todas las arquitecturas paralelas existentes.
o
 

  UMA, CC-UMA

  Multiprocesadores

 
 NUMA, CC-NUMA

 


 COMA

 MIMD Paso de mensajes

  Multicomputadores Memoria virtual compartida

 


  Multi-multiprocesadores


 




 M´quinas de flujo de datos
a




 SIMD
 { Procesadores matriciales



Arquitecturas
paralelas 
 Procesadores vectoriales segmentados

 MISD



 Arrays sist´licos
o





 M´quinas MIMD-SIMD
a

 H´
 ıbridos


 M´quinas MIMD-MISD
a




 Prop´sito
 o Redes de neuronas


 espec´
 ıfico

 Procesadores con l´gica difusa
o

Figura 1.2: Clasificaciń de las arquitecturas paralelas.
o

Tal y como se ve en la figura, los de tipo MIMD pueden a su vez ser subdivididos en
multiprocesadores, multicomputadores, multi-multiprocesadores y m´quinas de flujo de
a
datos. Incluso los multiprocesadores pueden ser subdivididos en NUMA, UMA y COMA
segń el modelo de memoria compartida. El tipo SIMD quedar´ con los procesadores
u ıa
matriciales y el MISD se subdividir´ en procesadores vectoriales y en arrays sist´licos.
ıa o
Se han a˜ adido dos tipos m´s que son el h´
n a ıbrido y los de aplicaciń espec´
o ıfica.

Multiprocesadores

Un multiprocesador se puede ver como un computador paralelo compuesto por varios
procesadores interconectados que pueden compartir un mismo sistema de memoria. Los
procesadores se pueden configurar para que ejecute cada uno una parte de un programa
o varios programas al mismo tiempo. Un diagrama de bloques de esta arquitectura se
muestra en la figura 1.3. Tal y como se muestra en la figura, que corresponde a un
tipo particular de multiprocesador que se ver´ m´s adelante, un multiprocesador est´
a a a
generalmente formado por n procesadores y m m´dulos de memoria. A los procesadores
o
los llamamos P1 , P2 , . . . , Pn y a las memorias M1 , M2 , . . . , Mn . La red de interconexiń
o
conecta cada procesador a un subconjunto de los m´dulos de memoria.
o


o 5

Dado que los multiprocesadores comparten los diferentes m´dulos de memoria, pu-
o
diendo acceder varios procesadores a un mismo m´dulo, a los multiprocesadores tam-
o
biń se les llama sistemas de memoria compartida. Dependiendo de la forma en que los
e
procesadores comparten la memoria, podemos hacer una subdivisiń de los multipro-
o
cesadores:
UMA (Uniform Memory Access) En un modelo de Memoria de Acceso Uniforme, la
memoria f´ ısica est´ uniformemente compartida por todos los procesadores. Esto
a
quiere decir que todos los procesadores tienen el mismo tiempo de acceso a todas
las palabras de memoria. Cada procesador puede tener su cache privada, y los
perif´ricos son tambiń compartidos de alguna manera.
e e
A estos computadores se les suele llamar sistemas fuertemente acoplados dado
el alto grado de comparticiń de los recursos. La red de interconexiń toma la
o o
forma de bus comń, conmutador cruzado, o una red multietapa como se ver´ en
u a
pr´ximos cap´
o ıtulos.
Cuando todos los procesadores tienen el mismo acceso a todos los perif´ricos, el
e
sistema se llama multiprocesador sim´trico. En este caso, todos los procesadores
e
tienen la misma capacidad para ejecutar programas, tal como el Kernel o las
rutinas de servicio de I/O. En un multiprocesador asim´trico, s´lo un subconjunto
e o
de los procesadores pueden ejecutar programas. A los que pueden, o al que puede
ya que muchas veces es s´lo uno, se le llama maestro. Al resto de procesadores
o
se les llama procesadores adheridos (attached processors). La figura 1.3 muestra
el modelo UMA de un multiprocesador.
Es frecuente encontrar arquitecturas de acceso uniforme que adem´s tienen cohe-
a
rencia de cach´, a estos sistemas se les suele llamar CC-UMA (Cache-Coherent
e
Uniform Memory Access).

P1 P2 Pn

Red de interconexión

Memoria compartida
I/O M1 Mm

Figura 1.3: El modelo UMA de multiprocesador.

NUMA Un multiprocesador de tipo NUMA es un sistema de memoria compartida
donde el tiempo de acceso var´ segń el lugar donde se encuentre localizado el
ıa u
acceso. La figura 1.4 muestra una posible configuraciń de tipo NUMA, donde to-
o
da la memoria es compartida pero local a cada m´dulo procesador. Otras posibles
o
configuraciones incluyen los sistemas basados en agrupaciones (clusters) de siste-
mas como el de la figura que se comunican a trav´s de otra red de comunicaciń
e o
que puede incluir una memoria compartida global.
La ventaja de estos sistemas es que el acceso a la memoria local es m´s r´pido
a a
que en los UMA aunque un acceso a memoria no local es m´s lento. Lo que se
a
intenta es que la memoria utilizada por los procesos que ejecuta cada procesador,
se encuentre en la memoria de dicho procesador para que los accesos sean lo m´sa
locales posible.
Aparte de esto, se puede a˜ adir al sistema una memoria de acceso global. En
n
este caso se dan tres posibles patrones de acceso. El m´s r´pido es el acceso a
a a


o

memoria local. Le sigue el acceso a memoria global. El m´s lento es el acceso a
a
la memoria del resto de m´dulos.
o
Al igual que hay sistemas de tipo CC-UMA, tambiń existe el modelo de acceso
e
a memoria no uniforme con coherencia de cach´ CC-NUMA (Cache-Coherent
e
Non-Uniform Memory Access) que consiste en memoria compartida distribuida y
directorios de cache.


Pn P2 P1

LMn LM2 LM1

Figura 1.4: El modelo NUMA de multiprocesador.

COMA (Cache Only Memory Access) Un multiprocesador que s´lo use cach´ como
o e
memoria es considerado de tipo COMA. La figura 1.5 muestra el modelo COMA
de multiprocesador. En realidad, el modelo COMA es un caso especial del NU-
MA donde las memorias distribuidas se convierten en cach´s. No hay jerarqu´ de
e ıa
memoria en cada m´dulo procesador. Todas las cach´s forman un mismo espacio
o e
global de direcciones. El acceso a las cach´s remotas se realiza a trav´s de los
e e
directorios distribuidos de las cach´s. Dependiendo de la red de interconexiń
e o
empleada, se pueden utilizar jerarqu´ en los directorios para ayudar en la loca-
ıas
lizaciń de copias de bloques de cach´. El emplazamiento inicial de datos no es
o e
cr´ıtico puesto que el dato acabar´ estando en el lugar en que se use m´s.
a a


Directorio Directorio Directorio

Caché Caché Caché

Procesador Procesador Procesador

Figura 1.5: El modelo COMA de multiprocesador.

Multicomputadores

Un multicomputador se puede ver como un computador paralelo en el cual cada proce-
sador tiene su propia memoria local. La memoria del sistema se encuentra distribuida
entre todos los procesadores y cada procesador s´lo puede direccionar su memoria lo-
o
cal; para acceder a las memorias de los dem´s procesadores debe hacerlo por paso de
a


o 7

mensajes. Esto significa que un procesador tiene acceso directo s´lo a su memoria lo-
o
cal, siendo indirecto el acceso al resto de memorias del resto de procesadores. Este
acceso local y privado a la memoria es lo que diferencia los multicomputadores de los
multiprocesadores.
El diagrama de bloques de un multicomputador coincide con el visto en la figu-
ra 1.4 que corresponde a un modelo NUMA de procesador, la diferencia viene dada
porque la red de interconexiń no permite un acceso directo entre memorias, sino que
o
la comunicaciń se realiza por paso de mensajes.
o
La transferencia de datos se realiza a trav´s de la red de interconexiń que conecta
e o
un subconjunto de procesadores con otro subconjunto. La transferencia de unos pro-
cesadores a otros se realiza por tanto por m´ltiples transferencias entre procesadores
u
conectados dependiendo de c´mo est´ establecida la red.
o e
Dado que la memoria est´ distribuida entre los diferentes elementos de proceso, a
a
estos sistemas se les llama distribuidos aunque no hay que olvidar que pueden haber
sistemas que tengan la memoria distribuida pero compartida y por lo tanto no ser
multicomputadores. Adem´s, y dado que se explota mucho la localidad, a estos sis-
a
temas se les llama d´bilmente acoplados, ya que los m´dulos funcionan de forma casi
e o
independiente unos de otros.

Multicomputadores con memoria virtual compartida

En un multicomputador, un proceso de usuario puede construir un espacio global de
direccionamiento virtual. El acceso a dicho espacio global de direccionamiento se puede
realizar por software mediante un paso de mensajes expl´ ıcito. En las bibliotecas de
paso de mensajes hay siempre rutinas que permiten a los procesos aceptar mensajes
de otros procesos, con lo que cada proceso puede servir datos de su espacio virtual a
otros procesos. Una lectura se realiza mediante el env´ de una peticiń al proceso que
ıo o
contiene el objeto. La peticiń por medio del paso de mensajes puede quedar oculta al
o
usuario, ya que puede haber sido generada por el compilador que tradujo el c´digo de
o
acceso a una variable compartida.
De esta manera el usuario se encuentra programando un sistema aparentemente
basado en memoria compartida cuando en realidad se trata de un sistema basado en el
paso de mensajes. A este tipo de sistemas se les llama multicomputadores con memoria
virtual compartida.
Otra forma de tener un espacio de memoria virtual compartido es mediante el uso de
p´ginas. En estos sistemas una colecciń de procesos tienen una regiń de direcciones
a o o
compartidas pero, para cada proceso, s´lo las p´ginas que son locales son accesibles de
o a
forma directa. Si se produce un acceso a una p´gina remota, entonces se genera un
a
fallo de p´gina y el sistema operativo inicia una secuencia de pasos de mensaje para
a
transferir la p´gina y ponerla en el espacio de direcciones del usuario.
a

M´quinas de flujo de datos
a

Hay dos formas de procesar la informaciń, una es mediante la ejecuciń en serie de una
o o
lista de comandos y la otra es la ejecuciń de un comando demandado por los datos
o
disponibles. La primera forma empez´ con la arquitectura de Von Neumann donde
o
un programa almacenaba las ´rdenes a ejecutar, sucesivas modificaciones, etc., han
o


o

convertido esta sencilla arquitectura en los multiprocesadores para permitir paralelismo.
La segunda forma de ver el procesamiento de datos quiz´ es algo menos directa,
a
pero desde el punto de vista de la paralelizaciń resulta mucho m´s interesante puesto
o a
que las instrucciones se ejecutan en el momento tienen los datos necesarios para ello, y
naturalmente se deber´ poder ejecutar todas las instrucciones demandadas en un mismo
ıa
tiempo. Hay algunos lenguajes que se adaptan a este tipo de arquitectura comandada
por datos como son el Prolog, el ADA, etc., es decir, lenguajes que exploten de una u
otra manera la concurrencia de instrucciones.
En una arquitectura de flujo de datos una instrucciń est´ lista para su ejecuciń
o a o
cuando los datos que necesita estń disponibles. La disponibilidad de los datos se consi-
a
gue por la canalizaciń de los resultados de las instrucciones ejecutadas con anterioridad
o
a los operandos de las instrucciones que esperan. Esta canalizaciń forma un flujo de
o
datos que van disparando las instrucciones a ejecutar. Por esto se evita la ejecuciń o
de instrucciones basada en contador de programa que es la base de la arquitectura Von
Neumann.
Las instrucciones en un flujo de datos son puramente autocontenidas; es decir, no
direccionan variables en una memoria compartida global, sino que llevan los valores
de las variables en ellas mismas. En una maquina de este tipo, la ejecuciń de una
o
instrucciń no afecta a otras que estń listas para su ejecuciń. De esta manera, varias
o e o
instrucciones pueden ser ejecutadas simultńeamente lo que lleva a la posibilidad de un
a
alto grado de concurrencia y paralelizaciń.
o
La figura 1.6 muestra el diagrama de bloques de una m´quina de flujo de datos.
a
Las instrucciones, junto con sus operandos, se encuentran almacenados en la memoria
de datos e instrucciones (D/I). Cuando una instrucciń est´ lista para ser ejecutada,
o a
se env´ a uno de los elementos de proceso (EP) a trav´s de la red de arbitraje. Cada
ıa e
EP es un procesador simple con memoria local limitada. El EP, despu´s de procesar la
e
instrucciń, env´ el resultado a su destino a trav´s de la red de distribuciń.
o ıa e o

EP

EP

EP

I/D

I/D

Red de Red de
distribución arbitraje

I/D

Memoria de
Instrucciones y Datos

Figura 1.6: Diagrama de bloques de una m´quina de flujo de datos.
a


o 9

Procesadores matriciales

Esta arquitectura es la representativa del tipo SIMD, es decir, hay una sola instrucciń
o
que opera concurrentemente sobre m´ltiples datos.
u
Un procesador matricial consiste en un conjunto de elementos de proceso y un
procesador escalar que operan bajo una unidad de control. La unidad de control busca y
decodifica las instrucciones de la memoria central y las manda bien al procesador escalar
o bien a los nodos procesadores dependiendo del tipo de instrucciń. La instrucciń que
o o
ejecutan los nodos procesadores es la misma simultńeamente, los datos serń los de
a a
cada memoria de procesador y por tanto serń diferentes. Por todo esto, un procesador
a
matricial s´lo requiere un unico programa para controlar todas las unidades de proceso.
o ´
La idea de utilizaciń de los procesadores matriciales es explotar el paralelismo en los
o
datos de un problema m´s que paralelizar la secuencia de ejecuciń de las instrucciones.
a o
El problema se paraleliza dividiendo los datos en particiones sobre las que se pueden
realizar las mismas operaciones. Un tipo de datos altamente particionable es el formado
por vectores y matrices, por eso a estos procesadores se les llama matriciales.

Procesadores vectoriales

Un procesador vectorial ejecuta de forma segmentada instrucciones sobre vectores. La
diferencia con los matriciales es que mientras los matriciales son comandados por las
instrucciones, los vectoriales son comandados por flujos de datos continuos. A este tipo
se le considera MISD puesto que varias instrucciones son ejecutadas sobre un mismo
dato (el vector), si bien es una consideraciń algo confusa aunque aceptada de forma
o
mayoritaria.

Arrays sist´licos
o

Otro tipo de m´quinas que se suelen considerar MISD son los arrays sist´licos. En un
a o
array sist´lico hay un gran n´mero de elementos de proceso (EPs) idńticos con una
o u e
limitada memoria local. Los EPs estń colocados en forma de matriz (array) de manera
a
que s´lo estń permitidas las conexiones con los EPs vecinos. Por lo tanto, todos los
o a
procesadores se encuentran organizados en una estructura segmentada de forma lineal
o matricial. Los datos fluyen de unos EPs a sus vecinos a cada ciclo de reloj, y durante
ese ciclo de reloj, o varios, los elementos de proceso realizan una operaciń sencilla.
o
El adjetivo sist´lico viene precisamente del hecho de que todos los procesadores vienen
o
sincronizados por un unico reloj que hace de “corazń” que hace moverse a la m´quina.
´ o a

Arquitecturas h´
ıbridas

Hemos visto dos formas de explotar el paralelismo. Por un lado estaba la paralelizaciń
o
de c´digo que se consigue con las m´quinas de tipo MIMD, y por otro lado estaba la
o a
paralelizaciń de los datos conseguida con arquitecturas SIMD y MISD. En la prćtica,
o a
el mayor beneficio en paralelismo viene de la paralelizaciń de los datos. Esto es debido
o
a que el paralelismo de los datos explota el paralelismo en proporciń a la cantidad de
o
los datos que forman el c´lculo a realizar. Sin embargo, muchas veces resulta imposible
a
explotar el paralelismo inherente en los datos del problema y se hace necesario utilizar


o

tanto el paralelismo de control como el de datos. Por lo tanto, procesadores que tienen
caracter´ısticas de MIMD y SIMD (o MISD) a un tiempo, pueden resolver de forma
efectiva un elevado rango de problemas.

Arquitecturas espec´
ıficas

Las arquitecturas espec´ıficas son muchas veces conocidas tambiń con el nombre de
e
arquitecturas VLSI ya que muchas veces llevan consigo la elaboraciń de circuitos es-
o
pec´
ıficos con una alta escala de integraciń.
o
Un ejemplo de arquitectura de prop´sito espec´
o ıfico son las redes neuronales (ANN
de Artificial Neural Network). Las ANN consisten en un elevado n´mero de elementos
u
de proceso muy simples que operan en paralelo. Estas arquitecturas se pueden utilizar
para resolver el tipo de problemas que a un humano le resultan fćiles y a una m´quina
a a
tan dif´
ıciles, como el reconocimiento de patrones, comprensiń del lenguaje, etc. La
o
diferencia con las arquitecturas cl´sicas es la forma en que se programa; mientras en
a
una arquitectura Von Neumann se aplica un programa o algoritmo para resolver un
problema, una red de neuronas aprende a fuerza de aplicarle patrones de comporta-
miento.
La idea es la misma que en el cerebro humano. Cada elemento de proceso es como
una neurona con numerosas entradas provenientes de otros elementos de proceso y una
unica salida que va a otras neuronas o a la salida del sistema. Dependiendo de los
´
est´
ımulos recibidos por las entradas a la neurona la salida se activar´ o no dependiendo
a
de una funciń de activaciń. Este esquema permite dos cosas, por un lado que la
o o
red realice una determinada funciń segń el umbral de activaciń interno de cada
o u o
neurona, y por otro, va a permitir que pueda programarse la red mediante la tćnica
e
de ensayo-error.
Otro ejemplo de dispositivo de uso espec´
ıfico son los procesadores basados en l´gica
o
difusa. Estos procesadores tienen que ver con los principios del razonamiento apro-
ximado. La l´gica difusa intenta tratar con la complejidad de los procesos humanos
o
eludiendo los inconvenientes asociados a l´gica de dos valores cl´sica.
o a

1.2 Fuentes del paralelismo

El procesamiento paralelo tiene como principal objetivo explotar el paralelismo inheren-
te a las aplicaciones inform´ticas. Todas las aplicaciones no presentan el mismo perfil
a
cara al paralelismo: unas se pueden paralelizar mucho y en cambio otras muy poco.
Al lado de este factor cuantitativo evidente, es necesario considerar tambiń un factor
e
cualitativo: la manera a trav´s de la cual se explota el paralelismo. Cada tćnica de
e e
explotaciń del paralelismo se denomina fuente. Distinguiremos tres fuentes principales:
o
• El paralelismo de control
• El paralelismo de datos
• El paralelismo de flujo


1.2 Fuentes del paralelismo 11

1.2.1 El paralelismo de control
La explotaciń del paralelismo de control proviene de la constataciń natural de que en
o o
una aplicaciń existen acciones que podemos “hacer al mismo tiempo”. Las acciones,
o
llamadas tambiń tareas o procesos pueden ejecutarse de manera m´s o menos inde-
e a
pendiente sobre unos recursos de c´lculo llamados tambiń procesadores elementales (o
a e
PE). La figura 1.7 muestra el concepto que subyace tras el paralelismo de control

datos

cálculos

Figura 1.7: Paralelismo de control.

En el caso de que todas las acciones sean independientes es suficiente asociar un
recurso de c´lculo a cada una de ellas para obtener una ganancia en tiempo de ejecuciń
a o
que ser´ lineal: N acciones independientes se ejecutarń N veces m´s r´pido sobre N
a a a a
Elementos de Proceso (PE) que sobre uno solo. Este es el caso ideal, pero las acciones de
un programa real suelen presentar dependencias entre ellas. Distinguiremos dos clases
de dependencias que suponen una sobrecarga de trabajo:
• Dependencia de control de secuencia: corresponde a la secuenciaciń en un algoritmo
o
cl´sico.
a
• Dependencia de control de comunicaciń: una acciń env´ informaciones a otra
o o ıa
acciń.
o
La explotaciń del paralelismo de control consiste en administrar las dependencias entre
o
las acciones de un programa para obtener as´ una asignaciń de recursos de c´lculo lo
ı o a
m´s eficaz posible, minimizando estas dependencias. La figura 1.8 muestra un ejemplo
a
de paralelismo de control aplicado a la ejecuciń simultńea de instrucciones.
o a

1.2.2 El paralelismo de datos
La explotaciń del paralelismo de datos proviene de la constataciń natural de que
o o
ciertas aplicaciones trabajan con estructuras de datos muy regulares (vectores, matrices)
repitiendo una misma acciń sobre cada elemento de la estructura. Los recursos de
o
c´lculo se asocian entonces a los datos. A menudo existe un gran n´mero (millares o
a u
incluso millones) de datos idńticos. Si el n´mero de PE es inferior al de datos, ´stos
e u e
se reparten en los PE disponibles. La figura 1.9 muestra de forma gr´fica el concepto
a
de paralelismo de datos.
Como las acciones efectuadas en paralelo sobre los PE son idńticas, es posible
e
centralizar el control. Siendo los datos similares, la acciń a repetir tomar´ el mismo
o a


o

a=b+1
a=b+1 a=a+c Usa a,b,c y d
a=a+c d=5*d
d=5*d
a=2*a a=2*a
e=a-1 e=a-1 Usa a,e,d y f
f=d*3 f=d*3
f=f-1
f=f*4
f=f-1
Usa f
f=f*4

Figura 1.8: Ejemplo de paralelismo de control.

datos

cálculos

Figura 1.9: Paralelismo de datos.


Aa

Empfohlen

Empfohlen

Weitere ähnliche Inhalte

Ähnlich wie Aa

Ähnlich wie Aa (20)

Mehr von Xavier Davias

Mehr von Xavier Davias (20)

Aa