“La revolución tecnológica
necesita ética o nos esclavizará”
Un grupo de expertos
plantea la necesidad de regular la inteligencia artificial en el Congreso
Mundial de Tecnologías de la Información.
La segunda fase de la
revolución ciberespacial ya está aquí. Definida por la inteligencia artificial,
la computación cuántica y el 5G, promete reescribir el futuro como ninguna otra
combinación de tecnologías ha logrado hasta ahora, pero también someternos a
una nueva era de inseguridad y falta de derechos y libertades si no se introducen nuevas reglas. Es la teoría expresada hoy
por un grupo de expertos en inteligencia artificial, ciberseguridad y derechos
humanos reunidos en el Congreso Mundial de Tecnologías de la Información (WCIT, por sus siglas
en inglés) en Ereván, la capital de Armenia. El encuentro está
organizado por la Alianza de Empresas de Tecnologías de la información y
Servicios (WITSA, por sus
siglas en inglés), que reúne a las asociaciones tecnológicas de 83 países y que
celebra este evento cada año, desde hace 40. El primero, en 1978, se realizó en
Barcelona.
La charla inaugural de
este congreso, que durará tres días, la ofreció Richard Clarke, que fue asesor
de seguridad nacional de los presidentes estadounidenses George W. Bush y Bill
Clinton. Clarke aseguró que los cambios producidos por la revolución de las
tecnologías de la información son más profundos que los generados por la
revolución industrial, “algo que ahora tenemos claro pero que hace 30 años no
era tan obvio”, aseguró, ante una audiencia de unas 3.000 personas de 70
países, que han pagado una media de 400 dólares por asistir a este evento.
Clarke ha explicado que
el presidente Clinton le pidió durante su mandato que recorriera el país
preguntando a los responsables de las grandes empresas qué futuro traería la
tecnología. “Ni Bill Gates [fundador de Microsoft] ni Larry Ellison [fundador
de Oracle] pudieron responderme a esa pregunta. Fue el presidente de una
empresa de ferrocarriles, con más de 100 años de historia, quien lo hizo, al
decirme: ‘No somos ya una empresa de ferrocarriles, somos una empresa de
tecnología que hace trenes’”.
El experto en
ciberseguridad ha asegurado que el momento clave en el que el mundo se dio
cuenta de que, efectivamente, todos dependemos de forma casi patológica de la
tecnología fue en 2017, cuando Rusia dirigió a Ucrania un ciberataque que paralizó el país en
cuestión de minutos y, después, afectó al resto del planeta.
“Se produjeron más de 1.000 millones de pérdidas en un solo día, en todo el
mundo; eso demostró a los directivos de todos los lugares que somos todos
empleados de empresas tecnológicas que, además, hacen algo más”.
Ahora estamos, según
Clarke, en una segunda fase de la revolución tecnológica, protagonizada por
tres nuevas tecnologías: el aprendizaje automático de las máquinas (maching learning), la computación cuántica y, en tercer lugar, el 5G y el
internet de las cosas. Las tres combinadas ofrecen grandes oportunidades,
aseguró, pero también tienen enormes riesgos. “La revolución tecnológica
necesita ética o nos esclavizará”, dijo.
El experto explica, por
ejemplo, cómo las máquinas “están tomando decisiones que no sabemos cómo ni por
qué se están tomando”, y que tienen sesgos que pueden perpetuar el racismo y el
sexismo. “Necesitamos, en machine learning, en la computación
cuántica y en el 5G, introducir la ética y los estándares morales para
asegurarnos de que somos nosotros, y no ellas [las máquinas], los que tenemos
el control”, dice.
En Rusia se usa la tecnología con fines políticos y China utiliza el
reconocimiento facial para controlar a los suyos y puntuarles
RICHARD CLARKE, EXASESOR
DE SEGURIDAD NACIONAL
Clarke citó otras
tecnologías, como la revolución biotecnológica y genética que, combinadas con
las otras tres, pueden crear un mundo totalmente inseguro en el que los ataques
DOS [denegación de servicio, que paralizan webs] sean mayores que nunca o en el
que, por ejemplo, las máquinas de hospitales que mantienen a personas con vida
estén conectadas directamente al ciberespacio y se puedan controlar. También
habló de un mundo distópico, que ya estamos contemplando, en el que los
gobiernos controlan a sus ciudadanos; “en Rusia se usa la tecnología con fines
políticos, y China utiliza el reconocimiento facial para controlar a los suyos y
puntuarles”. El experto cree que necesitamos “normas internacionales” que
protejan los derechos humanos y libertades, y explica: “Todas estas tecnologías
hacen el mundo más interesante, pero también más frágil. Dependemos de ellas y
no podemos volver atrás. Si los sistemas fallan, son atacados o eliminados,
toda nuestra civilización se detiene, nuestras economías se paralizan. Somos
dependientes como lo fueron los conquistadores españoles que llegaron a una
nueva tierra y no pudieron volver atrás, y si no podemos hacer que esta nueva
tierra funcione con seguridad y justicia, tampoco nosotros podremos volver
atrás”.
Clarke concluyó su
intervención dirigiéndose a los asistentes: “Les desafío a ustedes, como
expertos, a que averigüen qué mundo quieren: uno donde la tecnología es inmoral
y no hay normas internacionales que lo eviten, o uno donde usamos la tecnología
para una humanidad mejor. Averigüen qué camino quieren seguir, elijan y, cuando
lo sepan, actuén”.
La rebelión de las
máquinas
Un panel de expertos en
inteligencia artificial siguió a Clarke en su presentación en este evento, al
que EL PAÍS acude invitado por la organización. Y la mayoría coincidieron en
sus conclusiones. “El progreso tecnológico es siempre una bendición para las mentes
preparadas pero una maldición para las que no lo están”, resumió Narayana Murthi, fundador de
Infosys. Daniel Hulme, experto en inteligencia artificial y fundador de
Satalia, es muy pesimista: “En los próximos 10 años todos los trabajos se
redefinirán, y no estamos preparados, no estamos re-entrenando a nuestros
trabajadores para que sean capaces de afrontar ese futuro. Y como tenemos
compañías que solo quieren hacer dinero a corto plazo eso no va a cambiar”,
aseguró.
Christopher Markou, de la
Universidad de Cambridge, se mostró de acuerdo: “Solemos pensar en
el cambio que la automatización del trabajo tendrá en las factorías pero
también cambiará muchos trabajos de mayor valor añadido. Se crearán más, pero
¿serán suficientes?”, se preguntó.
El progreso tecnológico es siempre una bendición para las mentes
preparadas pero una maldición para las que no lo están
NARAYANA MURTHI, FUNDADOR
DE INFOSYS
Los expertos también se
mostraron pesimistas y preocupados por la ética de la inteligencia artificial.
Hulme se mostró especialmente crítico con la responsabilidad de grandes
compañías como Facebook o Google, más preocupadas por “su beneficio a corto
plazo”, dijo, que por los efectos de sus tecnologías sobre el conjunto de la
humanidad, y propuso una solución: obligarlas a convertirse en plataformas
abiertas “en las que cada persona pague dos dólares al año por usarlas” y así,
con más de 2.000 millones de ingresos garantizados, estas empresas podrían
centrarse en la ética de sus soluciones más que en sus beneficios.
El periodista, escritor y
artista James
Bridle fue incluso más allá: “Lo único que ha impedido que las
empresas nacidas de la revolución industrial hayan destruido planeta es la
legislación. Google y Facebook lo saben, y por eso son los mayores donantes
políticos en Estados Unidos”. Bridle propone añadir una nueva norma a las leyes de la robótica de Asimov: los robots deben explicar
sus acciones a los humanos, porque “no entendemos cómo funcionan”.
La abogada armenia Ashkhen Kazaryan fue
la única que se mostró en contra de una regulación a la inteligencia
artificial: “Es problemático tratar de regular el futuro de la inteligencia
artificial si no sabemos cómo será. En 1963, la revista Life publicó que la
tecnología nos dejaría a todos sin trabajo y eso no sucedió”. Se mostró
partidaria de “castigar [a las grandes tecnológicas] si hacen algo mal”, pero
no de “intervenirlas previamente”. “Yo nací en la URSS, un modelo que también
quería regular para el bien común, y no funcionó demasiado bien”, concluyó.
No hay comentarios.:
Publicar un comentario