las tecnologías debilitan la capacidad de decidir

1. “Las tecnologías digitales debilitan la
capacidad de decidir”
Eric Sadin analiza en su obra, y en esta nota, las relaciones entre el individuo, la sociedad,
los datos, los programas, los iPhones o los smartphones, los grandes sistemas que
deciden por sí solos y la amenaza de los Data Center.
Por Eduardo Febbro
Desde París
Ya no estamos solos. Un doble o muchos dobles nuestros persisten en los incontables Data
Center del mundo, en las redes sociales, las memorias gigantescas de Google, de Facebook o
de la Agencia Nacional de Seguridad de Estados Unidos, la NSA. Es lo que el ensayista
francés Eric Sadin, uno de los autores más proféticos y brillantes en el análisis de las nuevas
tecnologías, llama “la humanidad paralela”. Este ensayista francés no comete la tontería de
agitar espantapájaros triviales a propósito de nociones como el “transhumanismo”. Tampoco se
refiere a la fusión física entre el ser humano y las máquinas, el famoso ciborg, ni ahonda en la
tesis del fin de una humanidad recuperada o salvada mediante soportes numéricos. No. Eric
Sadin piensa de manera magistral las relaciones entre el individuo, la sociedad, los datos, los
programas, los iPhones o los smartphones, los grandes sistemas que deciden por sí solos y la
amenaza de los Data Center.
En cada uno de sus libros anteriores, Surveillance Globale, La Société de l’anticipation, Eric
Sadin ha explorado como pocos las mutaciones humanas inherentes a la erupción de la hiper
tecnología en nuestras vidas. Lejos de contentarse con un anecdotario trivial de los
instrumentos tecnológicos que surgieron desde hace décadas, Sadin los piensa de una forma
inédita. Su último libro, L’Humanité Augmentée, L’administration numérique du monde (La
humanidad aumentada, La administración digital del mundo), explora la capacidad cada vez
más creciente que tienen los dispositivos inteligentes para administrar el rumbo del mundo. El
libro ganó en Francia el Hub Awards 2013, un premio que recompensó al mejor ensayo del
año.
La obra navega fuera de los senderos evidentes. Ni elogio fúnebre de la especie humana ni
cántico de rodillas a las nuevas tecnologías, sino una reflexión pura que demuestra que nos
encontramos en un momento crítico de la historia humana. Para Eric Sadin, Hal 9000, la
computadora súper potente que en la película 2001 Odisea del Espacio equipa la nave
Discovery, ha dejado hace mucho de ser una ficción: Hal 9000 ha sido incluso superada por la
tendencia actual hacia una “administración robotizada de la existencia”. GPS, iPhone,
smartphone, sistemas de gestión centralizados que deciden por sí solos, trazabilidad
permanente, todo confluye en la creación de lo que el autor llama un “órgano-sintético que
repele toda dimensión soberana y autónoma”. En esta entrevista con Página/12, Sadin analiza

2. ese doble tecnológico que nos facilita muchas cosas al tiempo que nos acecha al punto de
transformar nuestra humanidad.
–Eric Schmidt, el presidente de Google, dice en su último libro The New Digital Age que
“acabamos de dejar los starting-blocks” de la revolución numérica. Usted, al contrario,
estima que la revolución digital se acaba. ¿Fin o nueva fase?
–La década actual señala el fin de lo que se llamó “la revolución digital”, que empezó a
principios de los años ’80 mediante la digitalización cada vez más vasta de lo real: la escritura,
el sonido, la imagen fija y animada. Ese amplio movimiento histórico se desplegó
paralelamente al desarrollo de las redes de telecomunicación e hizo posible el advenimiento de
Internet, o sea, la circulación exponencial de los datos en la red. Esta condición tecnológica
universalizada trastornó prioritariamente tres dimensiones: las condiciones de acceso a la
información, el comercio y la relación con los otros a través de los correos electrónicos y las
redes sociales. Hoy, esta arquitectura que no cesó de desarrollarse y consolidarse está
sólidamente instalada a escala global y permite el advenimiento de lo que yo llamo “la era
inteligente de la técnica”.
–La historia del siglo XXI se parece entonces a una redefinición de las líneas
antropológicas. Usted la define como una humanidad “comprometida en una odisea
incierta e híbrida, antropólogo-mecánica”.
–Nuestro tiempo instaura una relación con la técnica que ya no está prioritariamente fundada
sobre un orden protético, o sea, como una potencia mecánica superior y más resistente que la
de nuestro cuerpo, sino como una potencia cognitiva en parte superior a la nuestra. Hay robots
inmateriales “inteligentes” que colectan masas abismales de datos, las interpretan a la
velocidad de la luz al tiempo que son capaces de sugerir soluciones supuestamente más
pertinentes, e incluso de actuar en lugar nuestro, como ocurre con el trading algorítmico, por
ejemplo.
–Precisamente, el trading algorítmico desempeñó un papel nefasto en la crisis financiera
de 2008. Un dispositivo creado por el ser humano operó una suerte de sustitución que
terminó ahondando la crisis.
–Las transacciones financieras mundiales se llevan a cabo mediante la colecta automatizada
de volúmenes astronómicos de datos: su tratamiento en tiempo real, la compra o la venta de
acciones están a cargo de robots numéricos que trabajan a una velocidad que sobrepasa
nuestras capacidades cognitivas. Hace 30 años, esa actividad estaba realizada por seres
humanos, pero fue poco a poco transferida hacia sistemas interpretativos y reactivos. Ese
fenómeno expone el momento inquietante de nuestra contemporaneidad, donde las

3. producciones tecnológicas concebidas por seres humanos nos sustituyen e incluso actúan en
lugar nuestro.
–En su último ensayo, La humanidad aumentada, la administración digital del mundo,
usted expone un mundo cartografiado de manera constante por los sistemas digitales.
Usted muestra la emergencia de una suerte de humanidad paralela –lasmáquinas–
destinadas a administrar el siglo XXI. Se impone una pregunta: ¿qué queda entonces de
nuestra humanidad?
–La historia de la humanidad está constituida por una infinidad de evoluciones sucesivas en
todos los campos. Desde el Renacimiento, nuestro potencial humano se fundó sobre la
primacía humana constituida por la facultad de juzgar, la facultad de decisión y, por
consiguiente, de la responsabilidad individual que funda el principio de la Ley. La asistencia de
las existencias por sistemas “inteligentes”, además de que representa una evolución cognitiva,
redefine de facto la figura de lo humano como amo de su destino en beneficio de una
delegación progresiva de nuestros actos concedida a los sistemas. Una creación humana, las
tecnologías digitales, contribuyen paradójicamente a debilitar lo que es propio al ser humano, o
sea, la capacidad de decidir conscientemente sobre todas las cosas. Esta dimensión en curso
se amplificará en los próximos años. Además, nuestras vidas individuales y colectivas están
cada vez más reorientadas por sistemas que nos conocen con mucha precisión, que nos
sugieren ofertas hiper individualizadas, que nos aconsejan este u otro comportamiento. Por
medio del uso de nuestros protocolos de interconexión se opera una cuantificación continua de
los gestos, la cual autoriza un “asistente robotizado” expansivo de las existencias.
–Usted se refiere al surgimiento de un componente “órgano-sintético que repele toda
dimensión soberana y autónoma”. En suma, el mundo, nuestras vidas, están bajo el
orden de lo que usted llama “la gobernabilidad algorítmica”. El ser humano ha dejado de
administrar.
–No se trata de que ya no administre más, sino de que lo hará cada vez menos en beneficio de
amplios sistemas supuestamente más eficaces en términos de optimización y de seguridad de
las situaciones individuales y colectivas. Esto corresponde a una ecuación que está en el
corazón de la estrategia de IBM. Esta empresa implementa arquitecturas electrónicas capaces
de administrar por sí mismas la regulación de los flujos de circulación del tráfico en las rutas o
la distribución de energía en ciertas ciudades del mundo. Esto es posible gracias a la colecta y
al tratamiento ininterrumpido de datos; los stocks de energía disponibles, las estadísticas de
consumo, el análisis de los usuarios en tiempo real; la energía disponible, las estadísticas del
consumo, el análisis de la utilización en tiempo real. Estas informaciones están conectadas con
algoritmos capaces de lanzar alertas, de sugerir iniciativas o asumir el control decidiendo por sí

4. mismos ciertas acciones: aumento de la producción, compras automatizadas de energía en los
países vecinos, o corte del suministro en ciertas zonas.
–Eso equivale a una suerte de pérdida mayor de soberanía.
–La meta consiste en buscar la optimización y la seguridad en cada movimiento de la vida. Por
ejemplo, hacer que una persona que pasa cerca de una zapatería pueda beneficiarse con la
oferta más adecuada a su perfil, o que alguien que se pasea en una zona supuestamente
peligrosa reciba un alerta sobre el peligro. Vemos aquí el poder que se le delega a la técnica, o
sea, el de orientar cada vez más con mayor libertad la curva de nuestras existencias. Ese es el
aspecto más inquietante y más problemático de la relación que mantenemos con las
tecnologías contemporáneas.
–El escándalo del espionaje que explotó con el caso Prism, el dispositivo mediante el
cual la NSA espía todo el planeta, puso al descubierto algo terrible: no sólo nuestras
vidas, nuestra intimidad, son accesibles, sino que nuestras vidas están digitalizada s,
convertidas en Big Data, dobladas.
–Prism reveló dos puntos cruciales: en primer lugar, la amplitud abismal, casi inimaginable, de
la colecta de informaciones personales; en segundo, la colusión entre las compañías privadas y
las instancias de seguridad del Estado. Este tipo de colecta demuestra la existencia de cierta
facilidad para apoderarse de los datos, guardarlos y, luego, analizarlos para instaurar
funcionalidades de seguridad. La estrecha relación que liga a los gigantes de la red con la NSA
debería estar prohibida por la ley, salvo en ocasiones específicas. De hecho, no es tanto la
libertad lo que disminuye sino partes enteras de nuestra vida íntima. El medio ambiente digital
favoreció la profundización inédita en la historia del conocimiento de las personas. Este
fenómeno está impulsado por las compañías privadas que colectan y explotan esas
informaciones, a menudo recuperadas por las agencias de seguridad y también por cada uno
de nosotros mediante las huellas que diseminamos permanentemente, a veces sin ser
conscientes, a veces de manera deliberada. Por ejemplo, a través de la exposición de la vida
privada en las redes sociales.
–El caso NSA-Prism marca todo un hito en la historia. De alguna manera, incluso si la
gente ha reaccionado de forma pasiva, hemos perdido la inocencia digital. ¿Cree usted
que aún persiste la capacidad de rebelarse en esta gobernabilidad digital?
–Con Prism habrá un antes y un después. Este caso mostró hasta qué punto la duplicación
digital de nuestras existencias participa de la memorización y de su explotación. Esto ocurrió en
apenas 30 años bajo la presión económica y de las políticas de seguridad sin que se haya
podido instaurar un debate a la medida de lo que estaba en juego. Este es el momento para
tomar conciencia, para emprender acciones positivas, para que los ciudadanos y las

5. democracias se apropien de lo que está en juego, cuyo alcance concierne a nuestra
civilización.
–La ausencia de Europa ha sido en este robo planetario tan escandalosa como cobarde.
Usted, sin embargo, está convencido de que el Viejo Mundo puede ahora desempeñar un
papel central.
–Me parece que Europa, en nombre de sus valores humanistas históricos, en nombre de su
extensa tradición democrática, debe influir en la relación de fuerzas geopolíticas de Internet y
favorecer la edificación de una legislación y una reglamentación claras. El término Big Data,
más allá de las perspectivas comerciales que se desprenden de él, nombra ese momento
histórico en el cual el mundo está copiado bajo la forma de datos que pueden ser explotados
en una infinidad de funcionalidades. Se trata de una nueva inteligibilidad del mundo que
emerge a través de gigantescas masas de datos. Se trata de una ruptura cognitiva y
epistemológica que, me parece, debe ser acompañada por una “carta ética global” y marcos
legislativos transnacionales. No obstante, hay que desconfiar de todo intento de toma de
control por ciertos países capaz de conducir a una fragmentación de Internet. Justamente, el
valor de Internet radica en su dimensión universalizada. Me parece que lo que necesitamos es
un acuerdo en torno de algunas exigencias fundamentales.
El smartphone, ese “asistente robotizado”
En su libro, usted se refiere a una figura mítica del cine, Hal, el sistema informático de la
nave Discovery que aparece en la película 2001 Odisea del espacio. ¿Hal es, para usted,
como la figura que encarna nuestro devenir tecnológico a través de la inteligencia
artificial?
–Hal es un sistema electrónico hiper sofisticado que representa la figura mayor de la
película de Stanley Kubrick. Hal es un puro producto de la inteligencia artificial, es capaz
de colectar y analizar todas las informaciones disponibles, de interpretar las situaciones
y actuar por sí misma en función de las circunstancias. Exactamente como ciertos
sistemas existentes en el trading algorítmico, o en el protocolo de Google. Hal no
corresponde más a una figura imaginaria y aislada sino a una realidad difusa llamada
infinitamente a infiltrar sectores cada vez más amplios de nuestra vida cotidiana.
–En esa misma línea se sitúa para usted el iPhone o los smartphones. No se trata de
juguetitos sino de un casi complemento existencial.
–Creo que la aparición de los smartphones en 2007 corresponde a un acontecimiento
tecnológico tan decisivo como el de la aparición de Internet. Los smartphones permiten
la conexión sin ruptura espacio-temporal. Con ello los smartphones exponen a un
cuerpo contemporáneo conectado permanentemente, tanto más cuanto que puede ser

6. localizado vía el GPS. También, a través de él se confirma el advenimiento de un
“asistente robotizado” de las existencias por medio de las innúmeras aplicaciones
capaces de interpretar un montón de situaciones y sugerirle a cada individuo las
soluciones supuestamente más adaptadas.
–Esos objetos, que son táctiles, nos hacen mantener una relación estrecha con el tacto.
Pero, al mismo tiempo que tocamos, las cosas se tornan invisibles: toda la información
que acumulamos desaparece en la memoria de los aparatos: fotos, videos, libros, notas,
cartas. Están pero son invisibles.
–En efecto, ese doble movimiento trastornante debería interpelarnos. Nuestra relación
con los objetos digitales se establece según ergonomías cada vez más fluidas, lo que
alienta una suerte de creciente proximidad íntima. La anunciada introducción de circuitos
en nuestros tejidos biológicos amplificará el fenómeno. Por otro lado, esa “familiaridad
carnal” viene acompañada por una distancia creciente, por una forma de invisibilidad del
proceso en curso. Esto es muy emblemático en lo que atañe a los Data Centers que
contribuyen a modelar las formas de nuestro mundo y escapan a toda visibilidad. Es una
necesidad técnica. Sin embargo, esa torsión señala lo que se está jugando en nuestro
medio ambiente digital contemporáneo: por un lado, una impregnación continua de los
sistemas electrónicos, y, por el otro, una forma de opacidad sobre los mecanismos que
la componen.
“Desarrollar una conciencia crítica”
Los poderes públicos, principalmente en Europa, son incapaces de administrar el
universo tecnológico, incapaces de encuadrarlo con leyes o fijar límites. La ignorancia
reina, pero la tecnología termina por imponerse, al igual que las finanzas, a todo el
espectro político. De alguna manera, lospoderes públicos son víctimas de la ignorancia
y de lo que Paul Virilio conceptualizó como nadie: la velocidad.
–Una velocidad aumentada sin nunca cesar caracteriza el movimiento vertiginoso
imprimido por la innovación tecnológica. Estamos viviendo en el seno de un régimen
temporal que se vuelve exponencial, prioritariamente mantenido por la industria que
impone sus leyes. Lo propio de los regímenes democráticos es su facultad deliberativa,
su capacidad colectiva para elegir conscientemente las reglas que enmarcan el curso de
las cosas. Ese componente está hoy eminentemente fragilizado. Ahora como en el
futuro, debemos enfrentarnos activamente, sin nostalgia y bajo diversas formas, a la
amplitud de lo que está en juego éticamente, bajo la inducción de esta “tecnologización”
de nuestras existencias. Tanto en las escuelas y universidades, creo que es urgente
enseñar el código, la composición algorítmica, la inteligencia artificial. Creo que son los
profesores de “humanidad numérica” quienes deberían ingresar en las escuelas y

7. contribuir a despertar las conciencias y ayudar a encontrar las perspectivas positivas
que se están abriendo con este movimiento. Es preciso que en adelante desarrollemos
una conciencia crítica ante nuestra propia utilización, que se instaure lo que yo llamo
“una disciplina de la utilización”. Esta disciplina me parece indispensable si no queremos
estar infinitamente pegados a las producciones tecnológicas, si no queremos volvernos
un mismo cuerpo con la técnica. Es preciso mantener cierta distancia, porque es la
distancia quien condiciona el principio mismo de una relación abierta y singularizada con
el mundo