Notas sobre la presentación. Reflexiones sobre educación, ciencia, conocimiento, algoritmos, inteligencia artificial y ética Webconferencia USATIC, 2019 http://webinars.eules.org/fernando-salamero-presentacion/ https://www.youtube.com/watch?v=R5MZE_9wmec

1. Charla
1
Buenas tardes.
He tenido serias dudas sobre el título de estos
minutos. Me explico. Con la irrupción de la tecnología
(que antes llamábamos nueva) se abrió, en su momento,
un abanico de nuevos paisajes en la educación. Dichos
paisajes, lejos de estabilizarse, están evolucionando
continuamente. A veces, al observar la panorámica, el
paisaje se presenta hermoso; otras veces peligroso. Pero
esas características lo son en cuanto a la relación del
paisaje con el ser humano. Hablamos y escribimos mucho
de la técnica necesaria y de las habilidades que requieren
y desarrollan las tecnologías, pero poco de sus
implicaciones sociales, tanto presentes como futuras. Y se
nos abren muchos interrogantes, desde luego.
2

2. Por eso estuve pensando usar, de título más adecuado,
“Cuestiones que la tiza no propone”. De hecho, a veces
uno tiende a pensar que la vida es lo que pasa allá afuera
mientras damos nuestras clases, mientras impartimos
nuestros conocimientos académicos. Pero esto no es así,
¿verdad?, no estamos, podemos estar de espaldas a lo que
ocurre en la sociedad. La sociedad también (y un
“también” muy grande) la construimos EN las aulas.
Quizá, si bajamos la guardia, obviamos que hay razones
importantísimas que nos empapan de una
responsabilidad fundamental. Una de ellas, de hecho uno
de los problemas más acuciantes de nuestro tiempo es…
3
… la política. O más bien los políticos. Cuando hablamos
de conocimientos, no me refiero a cantidad pura, me
refiero a espíritu crítico, a racionalidad, a
responsabilidad, a empatía, tolerancia, honestidad,
ética…
4
Sea cual sea nuestro país de origen tendremos ejemplos
cercanos (quizá no tan flagrantes, pero siempre altamente

3. incultos). ¿Quienes están por venir? En estos momentos,
esas personas (igual que aquellas lo estuvieron en su
momento, y también los votantes pasados y futuros) están
en nuestras aulas. Hay que trabajar duro.
5
Volviendo al título, si he mantenido la palabra “ciencia”
es porque quiero dejar claro que mi aproximación es
siempre desde mi campo, que es la ciencia (con sus
ventajas y sus sesgos, claro). De allí extraeré algún
ejemplo, algún símil. Pero son la sociedad, en general, y la
comunidad educativa y su relación con la tecnología, en
particular, los ejes centrales de estos minutos de
reflexión.
Ciencia, decíamos, ciencia y tecnología. ¿Cómo
interaccionan con nosotros en este siglo XXI en el que ya
nos hemos adentrado holgadamente?
6
El mundo está cambiando a marchas forzadas. Esta
imagen está tomada en la ciudad de Handan, en el norte
de China. Allí ya disponen de robots-policía, de tres tipos
distintos, que patrullan las calles.

4. 7
Los robots disponen en su interior de un software que les
permite identificar mediante sus cámaras a los
ciudadanos y comparar los datos obtenidos con una gran
base de datos policial que les permite, a su vez, identificar
a cualquier sospechoso.
Esto, que quizá podría parecer anecdótico, hasta
divertido, como vemos a esas personas celebrar la
presencia del robot sacando fotos, no lo es tanto. O, al
menos, podría no serlo…
¿Cómo se usa esa información?¿Se hace
independientemente de nuestro consentimiento?
8
Donde hay uso, puede haber abuso. ¿Quién decide quién
es sospechoso?¿Por defecto, una etnia particular?¿Somos
libres?¿Somos iguales?
9
¿Es éste el mundo que queremos? Sea cual sea la
respuesta, hay que pensarla, no simplemente dejar que
otros decidan; somos parte implicada y ejecutiva (por

5. acción o inacción)
10
Dicho sea de paso, no por ser China nos es ajeno.Por
poner un ejemplo, una investigación reciente, realizada
conjuntamente por la Universidad de Cardiff y el canal
Sky News, muestra que hasta 53 ayuntamientos y 14 de
las 45 fuerzas policiales del país utilizan ya tecnologías
polémicas.
11
Y ni siquiera tenemos que salir de casa. Los algoritmos
que usan nuestros datos al navegar por internet también
son material sensible. Y no solo por ellos mismos, si no
por las consecuencias. A veces no solo voluntarias, si no
también involuntarias. Ya no hablamos de países o de
regiones, hablamos de globalidad. Y empalmamos con la
vida inmediata de nuestro alumnado, las redes sociales.
De hecho, de esto y de otros ejemplos similares ya hace
tiempo y han tenido mucho eco mediático. Un caso más
reciente todavía:

6. 12
Uno más, claro, de las muchas apps que bajo la
proporción de entretenimiento recolectan y almacenan
información más que sensible. Con el aparente objetivo
de colocar nuestra cara a escenas rodadas por famosos,
toman posesión de datos biométricos (que son los que a
su vez nos darán acceso a nuestros dispositivos). ¿Qué
confianza tenemos en esas bases de datos y en su uso? Ni
siquiera estamos hablando ahora de gobiernos, estamos
hablando de organizaciones privadas o grupos de
programadores.
13
Y es que, mal que nos pese, no tenemos como colectivo
ciudadano una línea clara entre el uso adecuado o
inadecuado de la tecnología. Cada ventaja comporta algún
inconveniente y viceversa. Salvo en casos muy claros, en
nuestro día a día no llevamos una linterna que nos
ilumine el camino y nos diga qué es conveniente y qué no.
Creo que tanto alumnado como profesorado debemos
comprender las implicaciones del trabajo científico en la
sociedad y en el medio ambiente y analizar las
implicaciones éticas del conocimiento. Urgentemente.
Por que lo peor es que no nos importe, que no seamos

7. conscientes de la trascendencia de lo que está ocurriendo
a nuestro alrededor, con o sin nuestra participación.
14
Nada de lo que hacemos es neutro. Lo estamos
comprendiendo ya (o eso espero) con el cambio climático.
Sabemos que podemos progresar, pero hemos de pensar
cómo hacerlo para ser sostenibles medioambientalmente.
También hemos de pensar cómo hacerlo para esos
cambios más silenciosos que están ocurriendo a nuestro
alrededor, no debemos permitir que ocurran de cualquier
manera.
15
Por que ni siquiera la tecnología es neutra. Como le
escuché una vez a Jesús M. González Barahona (y ya me
había insistido mi amigo Juan Mainer una y otra vez), la
tecnología nos lleva hacia un cierto mundo entre todos los
posibles, favoreciendo ciertos patrones y dificultando
otros. No necesitamos cartas blancas para nada. No hay
comodines. Igual que no hay un jarabe mágico que cure
todas las enfermedades, tampoco una tecnología concreta
es útil para todo.

8. 16
Por ejemplo, con mirada inocente, en el ámbito educativo
de las enseñanzas básicas y medias parece que el
ordenador siempre es un valor añadido para cualquier
actividad. Pero… ¿Hace falta usar medios tecnológicos
complejos para realizar tareas que no las necesitan?¿Hay
tareas que sí las necesitan o pueden aprovecharse de su
existencia? No es lo mismo utilidad que dependencia. Por
que luego nos quejamos de la dependencia del alumnado
de sus dispositivos.
17
Pero somos pro-uso de la tecnología, por supuesto, yo soy
uno de ellos. Así que hemos de preguntarnos cuándo el
ordenador nos ayuda y cuándo nos añade limitaciones,
conscientes o no, en nuestros objetivos.
Igual que, por ejemplo, un humano dotado de unas
gafas, cuando no ve, es un humano aumentado
“físicamente”, algo similar, cuando es útil, es un humano
datado de un sistema de computación. Leí hace poco que
el pasado es la historia de humanos aumentados
físicamente, mientras el futuro lo será de humanos
aumentados física e intelectualmente. Puede ser. Los
humanos aumentados tienen ventajas e inconvenientes.

9. Las gafas nos sirven para ver mejor, no para escuchar
mejor. El coche nos hace ir más rápido de un sitio a otro,
pero nos deja disfrutar menos del paisaje. Casa mejora
tiene su contexto. De nuevo, no hay comodines. Hay que
pensar para qué y cómo.
18
Porque si no lo hacemos, pueden ocurrir sinsentidos
como éste: ¿Tenemos una enciclopedia galáctica en
nuestros bolsillo? Acceso ingente a la información, un
sueño renacentista… Pero no así, como está ocurriendo.
¿En qué momento hemos dejado de usar a Google como
un buscador para usarlo como oráculo? Nos contentamos
(¿cuántos de nosotros?) con leer la previsualización que
nos da de lo que buscamos.
19
Es más, la situación se agrava si añadimos los clics que se
hacen a las paginas alojadas por el propio Google y por las
páginas esponsorizadas, es decir, las que pertenecen a las
empresas que pagan por que Google dé esas respuestas.
¿Podemos delegar de semejante manera en la
información que recibimos? ¿En una única fuente de

10. información (de poder)? Esto, desde luego, se educa. Y
somos docentes, esto nos atañe. Además, de hecho, es un
gris; hay mucha gente trabajando en los algoritmos, y en
optimizarlos, y dan buenos resultados. Por eso nos vamos
acostumbrando. Pero lo que hacemos es delegar, dotar de
confianza total al algoritmo, a los programadores, a la
empresa.
20
Los algoritmos, por muy buena intención que queramos
darles, tampoco son neutros. Si escribimos en el
buscador, por ejemplo, “restaurante”, ¿qué selección
muestra en la vista previa? Pensemos que la selección es
bienintencionada y no esponsorizada por alguien… Pero
es que también, en el entreacto, me ha geolocalizado para
darme lo que tengo cerca. ¿Qué hace con esa
información? ¿Se la proporciona a terceros?¿Nos
importa?
21
Si utilizamos Google Maps para ir de un sitio a otro,
¿cómo obtiene la información de los atascos, de la
densidad de tráfico? Nosotros somos, silenciosamente,

11. los que se lo proporcionamos (no somos la única fuente,
eso es cierto). Nuestros móviles le están dando nuestra
posición a Google cada poco tiempo, y Google puede
evaluar nuestra velocidad y la de todos los que hacen lo
propio (¡incluso si no usamos Google Maps si no nos
hemos preocupado por ello!) y sacar la información de
allí.
22
Henos tenido tan poco acceso a la información (¿lo
podían imaginar si quiera nuestros padres?), que ahora
que lo tenemos multiplicado, no discriminamos, no nos
planteamos su contexto, su origen y su destino. Esto
recuerda a la situación paradójica del resurgimiento de
los antivacunas: las vacunas nos salvan de enfermedades
y después hacen que nos olvidemos de las enfermedades
de las que nos han salvado.
23
Una vez la amenaza desaparece de nuestras vidas, nos
relajamos. O peor, nos inventamos otras cosas de las que
preocuparnos. El tema es un ejemplo de ciencia y
pensamiento muy aconsejable en las aulas. Este artículo,

12. por cierto, es excelente; es un repaso de la memoria
sanitaria histórica que no deberíamos perder.
24
Hay otro factor colateral con los motores de búsqueda; el
conocimiento se compartimenta. Por supuesto, por
razones externas, por la propia topología de la red de
búsquedas y enlaces, moderados por acuerdos
comerciales y la información que poseen de nosotros.
25
Una charla TED muy conocida, allá por el 2011, de Eli
Pariser, mostraba ya cómo los resultados de búsquedas
eran sustancialmente diferentes para diferentes personas.
Esto se multiplica exponencialmente ahora con las redes
sociales y nuestras vidas volcadas en ellas…
26
Hasta el punto de entrar en las publicaciones de humor
que, como suele ocurrir, captan los problemas muy
vívidamente. Los resultados se ajustan tanto a nuestro

13. perfil que no percibimos el mundo más allá de nuestra
línea de pensamiento. Este sesgo, motivo de mofa aquí, es
otro tema para abordar en nuestro sistema educativo,
tema bastante ausente, tristemente
27
Sin cuidado, redes sociales y buscadores nos encierran en
nuestras propias versiones de la realidad, en nuestras
propias burbujas culturales,
28
El sesgo de confirmación ya no solo es externo, es interno
nuestro, nos mantiene aislados de versiones que desafían
nuestras propias ideas. Algo terrible si queremos
potenciar el pensamiento crítico.
29
¡Y por eso necesitamos la ciencia! A través de ella
podemos corregir nuestros sesgos (con suerte) y avanzar.
Y está claro que la ciencia no es sólo cosa de científicos,
como la tecnología no lo es solo de tecnólogos. No

14. estamos solos, todo son interacciones, de frente o en la
sombra.
30
Somos usuarios de sistemas que han sido programados.
Partícipes de conocimientos que han sido amasados.
Programadores, usuarios, científicos, ciudadanos…
Debemos trabajar lo que puede hacer cada uno en su
ámbito para dirigirnos hacia donde queramos ir. Todos
ellos pasan por nuestras aulas, ya sean generalistas o
especializadas. ¿Qué podemos hacer?
31
Para empezar, poniendo el foco en otros ámbitos. No me
voy a detener en la ofuscación sobre todo en los últimos
años, de hacer de la educación una labor técnica. Las
administraciones educativas nos taladran con esa
supuesta objetividad…
La evaluación, que debería ser una herramienta para
ayudar en el proceso educativo, se ha convertido en una
liebre ciega que nos hace correr detrás de ella sin espacio
para la reflexión pausada… El foco debería estar en la
relación docentes-alumnado, en el espacio de trabajo, en

15. las preguntas más que en las respuestas.
32
Pasamos casi más tiempo evaluando que en el resto de
actividades, siguiendo un cientifismo educativo sobre el
que tengo serias dudas. Nos movemos en un paradigma
en el que la enseñanza está fagocitada por la burocracia y
la normativa, en donde los estándares y el curriculum
invitan a la tiza a ser más tiza que nunca. Alumnado
técnico no es lo mismo que alumnado cualificado y
comprometido. Así lo vivimos en los centros, al menos en
los de enseñanzas medias en España.
33
No me voy a detener tampoco en otro tema interesante,
en si el pensamiento computacional es la que llaman
algunos “5ª C” de las habilidades del siglo XXI, (pero para
estudiantes de ciencia, desde los últimos cursos de
secundaria, el aprender a programar da acceso a romper
barrearas tradicionales, de esas que he comentado que la
tiza y la falsa objetividad administrativa no invitan a
romper)

16. 34
No, estoy hablando de conciencias, no de herramientas ni
de técnicas. Es necesario y urgente, ya sea mediante la
resolución de problemas, mediante pensamiento
computacional, mediante el simple diálogo regular o
mediante lo que sea, el enfrentarnos a las nuevas ideas,
cambios de registro, “dar la vuelta al mapamundi”, si se
me permite el símil, mostrarle al alumno no solo el
mapamundi habitual centrado en el mundo occidental, si
no enfrentarlo también a otras formas de verlo…
35
… ver los problemas desde perspectivas que no esperamos
y que cada vez son más importantes. Y cada vez es más
importante ser conscientes de su existencia y necesidad…
36
… así como de lo sesgos de nuestras perspectivas, como
aquí puede verse el falso tamaño de los países bajo la
proyección Mercator (que dicho sea de paso, a mi nunca
me nombraron en el colegio).

17. 37
En cierto modo, un docente debería ser un “abogado del
diablo” del currículo. Porque igual que las leyes siguen a
la sociedad con retraso, el currículo también lleva su
desfase. Estamos hablando de ciencia. ¿El currículo es la
Biblia? ¿O es más bien un cuaderno de campo?
La ciencia aprende del mundo a base de mirarlo. Así
que hay que mirar al mundo, ver que hay diferentes
perspectivas y pensar sobre él. Traducido a las aulas, hay
que estar también abiertos a lo que surja dentro de ellas,
no encorsetarnos en programaciones cerradas…
38
Si lo anterior es urgente (siempre lo ha sido), también nos
hace falta, sobretodo (aunque no sólo) en la educación
superior, dar un peso mucho mayor a la ética.
Fundamental en las carreras técnicas y científicas.
¿Cuáles son los límites éticos del software, por ejemplo? Y
ello ha de cristalizar luego en el mundo laboral.
Necesitamos más ejemplos como la reacción de sus
propios trabajadores al proyecto Dragonfly de Google (un
buscador censurado para China)
No es sencillo. Este mundo está muy
compartimentado. Un desarrollador de software puede

18. estar haciendo un módulo y no saber cuál va a ser la
funcionalidad del proyecto global… Lo cual nos lleva a
nuevas preguntas: ¿Hay que avanzar en una nueva
tecnología si no hemos exprimido la anterior, no la hemos
optimizado, no la hemos socializado y distribuido
evitando desigualdades? Difícil encaje.
39
Dentro de esa responsabilidad social, necesitamos -por
supuesto en la educación pública- apostar más por el
software libre. Por transparencia, por control de lo que
verdaderamente ocurre, por adaptabilidad, por economía,
por comunidad….
40
Proyectos como Software Heritage son importantes,
manteniendo ya para el futuro más de 3000 millones de
archivos de código fuente.
Pero llegamos ya a un punto importante, donde
dejamos de tener brújulas, para el que no tenemos
referencias previas y que va a requerir de nosotros con
más fuerza que nunca la concienciación activa, la
planificación calmada, la colaboración, la urgencia de la

19. ética…
41
Se trata de la Inteligencia Artificial. Está ya aquí, aunque
en sus comienzos. Debemos tomar decisiones sobre el
mundo al que nos queremos dirigir por dos razones
principales; primero, porque la IA lo está cambiando
vertiginosamente y lo va a hacer en los próximos años
más rápidamente todavía y sin posibilidad de vuelta
atrás; y segundo, porque si no tomamos esas decisiones
conscientemente, corremos el riesgo de que se tomen
solas, con una probabilidad altísima de que el resultado
no sea precisamente el deseable.
42
Estamos en transición. Estamos pasando de grandes
bases de datos y análisis estadísticos, lo que nos hace en
cierto modo, como decíamos antes, “humanos
aumentados”, a redes neuronales y sistemas cuyos
algoritmos hacen que aprendan, dando resultados, pero
como cajas negras. Es la primera vez que ocurre en la
historia de la humanidad.

20. 43
Un ejemplo muy visual es el caso de Alpha Zero y el
ajedrez. Hemos pasado de enseñar a máquinas cómo se
juega, dándoles funciones de evaluación cada vez más
complejas, dándoles cada vez más potencia de cálculo…
Pero el verdadero salto se da cuando se le deja a la
máquina aprender. En unas pocas horas, Alpha Zero
aprendió a jugar increíblemente mejor que el saber
acumulado de varios miles de años de la humanidad. Y lo
importante es que no sabemos porqué elige las jugadas
que elige. Una caja negra. El sistema recibe entradas, da
respuestas en función de cómo se ha reajustado a sí
misma en función de su aprendizaje y no sabemos qué
patrones, qué procesos, qué conexiones ha formulado y
por qué. Como nuestro cerebro, es irónico.
44
¿Cómo prepararnos para aceptar decisiones que no
comprendemos? “Confía en mí”, nos parece escuchar.
Confiamos, posiblemente, en una mano tendida al
extremo de una cara amable. ¿Confiaremos en una
máquina?

21. 45
Porque en tareas (casa vez en más) nos superan, sí. Pero
esto, de nuevo, abre muchas preguntas…
Primero de todo. ¿Aceptamos que, en ausencia de
principios, los errores si son ocasionales son aceptables?
Si la conducción autónoma produce una décima parte de
los accidentes que provocamos nosotros… ¿Nos vale?
Cierto, mejorará.
Pero ¿Y si son inevitables? ¿Es posible asumir que
alguien tiene que morir? ¿Dejamos, aún así, ese poder a
las máquinas?
46
El que no podamos eliminar por completo los errores lo
podemos ver con otro simil, pensando en IA’s como
reconocimiento de patrones y en las llamadas integrales
de Borwein. El patrón de una serie como 1, 2, 3, 4… es
fácil de adivinar, aún desconociendo su principio
aritmético. Pero ¿y si desconocemos el principio y el
patrón no es predecible?
47

22. Si vamos añadiendo una nueva fracción cada vez, con los
números impares, el resultado siempre es pi/2… hasta
que sorpresivamente llegamos a tener 8 fracciones y el
resultado cambia. ¡Cuidado con los patrones, no hay
fiabilidad absoluta! Si, al mirar las primeras,
extrapolamos que el resultado es siempre pi/2, ¡nos
equivocaremos.
Por supuesto, son solo 8 fracciones, y podemos argüir
que una IA al analizar el problema (siempre dentro del
símil) detectaría esto con facilidad.
Pero nosotros conocemos los principios de este
resultado, y podemos manipularlo y construir una
paradoja equivalente mucho más sorpresiva.
48
Partamos de la misma fracción…
49
Pero añadamos ahora cada vez fracciones con las
centenas más uno. 101, …
50

23. 201, …
51
301,…
52
Independientemente de su expresión matemática
concreta, el resultado es siempre pi/2. Con 1 fracción, con
100, con mil, con un millón de fracciones…
53
Pero cuando nos acercamos a cerca del cuatrillón de
fracciones, ¡deja de funcionar! Si nos limitamos a analizar
patrones, esto no es esperable, no es alcanzable. Hay que
entender el constructor matemático que hay detrás.
Así que vale, hemos de aceptar que una IA, por
ejemplo de conducción autónoma, por muchos flujos de
datos que absorba y analice, no estará exenta de patrones.
Lo hará mucho mejor que nosotros, solo es cuestión de
tiempo, pero sabemos que, a pesar de todo, cuando haya
vidas en juego, también habrá errores.

24. 54
¿Lo aceptaremos? Dejad que os diga que, globalmente, la
sociedad lo aceptará. Pero el individuo… ¿está preparado
para aceptarlo?
La forma de asumirlo será lo importante. Es un debate
del que no nos podemos escapar. Ocurrirá con o sin
debate. Mejor que sea con y decidamos cómo hacer la
transición.
55
No me cansaré de repetirlo. Problemas éticos importantes
como el anterior (si la IA tiene que decidir entre
atropellar a un abuelo que pasea un perro, a una
embarazada o estrellarse con dos pasajeros que lleva, ya
que no tiene tiempo de corregir del todo la trayectoria,
¿quién decide lo que decide un algoritmo?) están ya con
nosotros. No nos podemos permitir lo que ha venido
ocurriendo hasta ahora. Tecnificación, sí. Pero no
irreflexiva. Los tres vértices en los que descansa, los
ciudadanos, las empresas y las instituciones públicas,
deben regularse mutuamente. Es por eso, volviendo a la
docencia, por lo que hay que educar en el activismo.

25. 56
Necesitamos que esos tres vértices acuerden una ética
para la IA, una ética supervisada, con responsables
identificables, con código abierto (al menos por agentes
autorizados) y con plena trazabilidad. Y necesitamos
empezar a trabajar en ello ya. Desde los 3 vértices.
También, y sobre todo, en el ámbito educativo.
57
Porque estamos en el preámbulo. Adelantándonos (quizá
en exceso, pero ya que estamos), igual que Alpha Zero
aprendió por sí misma a jugar mejor al ajedrez,
modificando las aperturas que jugaba al tiempo que
comprendía, bajo su red de conocimiento, que unas eran
mejores que otras, ¿qué sucederá si las IA pudieran
modificar su ética programada? ¿Qué valorarían?¿Cómo
encajaríamos?
58
Extrapolando a un mundo quizá muy lejano, quizá no
tanto, una sociedad fuertemente tecnificada dotada de
IAs fuertemente avanzadas, se enfrentará a dos

26. problemáticas importantes: una mayor longevidad y una
notable escasez de trabajo. Si suponemos superados los
problemas medioambientales y socioeconómicos que esto
comporta (siguiendo el análisis de José Ignacio Latorre,
tachado de “buenísmo utópico”, pero al que quiero
sumarme), la sociedad resultante será una sociedad con
mucho mayor espacio para el ocio y la comodidad, en la
que el gran peligro será que los humanos se deterioren en
la valoración de sus principios, cuando la
despreocupación moral es un peligro tan real como el
declive físico e intelectual. Quizá sea entonces cuando la
gran transformación de la educación sea más importante
que nunca, teniendo la misión de darle a una humanidad
quizá desorientada, una filosofía de vida.
59
Como decía, en la última frase de su libro, José Ignacio
Latorre, Comprender será, posiblemente, el último placer
profundo al que un humano podrá aspirar. No sé si lo
puedo calificar de hecho, como buenismo. Pero me gusta.
60
En cualquier caso, en lo que sí creo, es en la cita de Paulo

27. Freire: “La Educación no cambia el mundo, cambia a las
personas que van a cambiar el mundo”. En un mundo
tecnológico, esa es nuestra misión más que nunca.
Gracias.