Recibido:15/06/2019 Aceptado:23/09/2019 Data activism versus algorithmic control. New governance models, old asymmetries El activismo de datos frente al control algorítmico. Nuevos modelos de gobernanza, viejas asimetrías Resumen El artículo discute la noción de gobernanza algorítmica y de activismo de datos con ejemplos que ilustran la aparición de nuevos modelos de gobernanza en diferentes países. La selección y el análisis sucinto del discurso de proyectos específicos pretende ofrecer un panorama amplio que apoye y fomente la investigación y el debate sobre cómo se reposicionan las viejas asimetrías ligadas al ejercicio de la ciudadanía en la «era de los algoritmos». Abstract This paper discusses the notion of algorithmic governance and data activism with examples that illustrate the emergence of new governance models in different countries. With the selection and brief analysis of the discourse of specific projects, the aim is to offer an overview that supports and encourages research and debate on how old asymmetries linked to the exercise of citizenship have repositioned themselves in the ‘Age of Algorithms’. Paz Sastre Domínguez (Universidad Autónoma Metropolitana) [p.sastre@correo.ler.uam.mx] Ángel J. Gordo López (Universidad Complutense de Madrid) [ajgordol@ucm.es] DOI: https://dx.doi.org/10.12795/IC.2019.i16.04 E-ISSN: 2173-1071 IC – Revista Científica de Información y Comunicación 2019, 16, pp. 157 - 182 158 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z Palabras clave gobernanza algorítmica, activismo de datos, datos abiertos, vigilancia de datos, blockchain, solucionismo tecnológico. Keywords algorithmic governance, data activism, open data, dataveillance, blockchain, technological solutionism. Sumario 1. Introducción 2. Gobernanza algorítmica 3. Activismo de datos proactivo y reactivo 4. Criminalización y activismo de datos reactivo: Silk Road 5. Re/invenciones de las instancias del orden público y activismo de datos proactivo: Ciencia Forense Ciudadana y Data Cívica 6. Más allá del voto: de Liquid Feedback a Bitnation 7. Conclusiones 8. Bibliografía Summary 1. Introduction 2. Algorithmic governance 3. Proactive and reactive data activism 4. Criminalisation and reactive data activism: Silk Road 5. Re/inventions of law enforcement agencies and proactive data activism: Ciencia Forense Ciudadana and Data Cívica 6. Beyond the ballot box: from liquid feedback to Bitnation 7. Conclusions 8. Bibliography 159 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO 1. Introducción Las revelaciones de E. Snowden en 2013 sobre la vigilancia global que ejercía EEUU en internet y el escándalo de Cambridge Analytica en 2018 vinculado a los servicios de publicidad de Facebook hicieron patente a nivel internacional el uso y abuso de los datos por parte de empresas y gobiernos para influir en los procesos públicos de deliberación y resolución de conflictos. En Europa se ha discutido si la formulación del nuevo Reglamento General de Protección de Datos incluye o no un “derecho a explicación” que obligaría a informar a los usuarios qué están haciendo los algoritmos con sus datos (Selbst y Powles, 2017). Mientras en España el Tribunal Constitucional anuló recientemente la propuesta del PSOE apoyada por el PP de utilizar las bases de datos con perfilado ideológico como estrategia del marketing de campaña. La propuesta pretendía legalizar el envío automatizado de mensajes electorales personalizados a los contactos de los votantes sin su consentimiento previo (El Minuto Político, El diario.es, 2019) (véase también Europa Press, 2018). Los escándalos que han sacudido al sector público y privado de las TIC han agudizado aún más los problemas de representación, participación, legitimidad y hegemonía que enfrentan desde hace tiempo las democracias parlamentarias (Habermas, 1976; Hall et al., 1978). Las noticias parecen haber convertido al crimen en el protagonista de los dilemas políticos actuales. Como señala J. Lea (2002), la criminalización se ha transformado desde finales del siglo XX en el modelo de gestión de los problemas socioeconómicos además de desplazar por completo a las políticas sociales. En el capitalismo actual el crimen opera como una forma clave de economía donde el aumento de la delincuencia en todos los sectores sociales proporciona la confirmación ideológica para la implementación de nuevos mecanismos de control. A pesar de las alarmas, en este escenario la datificación y automatización de los procedimientos de gobernanza parece ser imparable. El volumen de datos en crecimiento constante excede nuestra capacidad de interpretación, situándonos cada vez más en dependencia de modelos matemáticos requeridos para su análisis. La efervescencia de estos modelos ha supuesto que autores como Rainie y Anderson (2017) denominen al momento actual como la «era de los algoritmos». 160 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z Los algoritmos articulan el funcionamiento de las aplicaciones informáticas mediante secuencias predeterminadas de pasos a seguir para producir, gestionar, analizar e interpretar cantidades masivas de datos. Con esta información alimentan las inteligencias artificiales (IA) de sistemas expertos que indican, por ejemplo, qué comprar, cuál es la ruta más corta, cómo invertir, qué noticias leer, quién puede ser mejor empleado o la pareja ideal, cuál es la condena más adecuada, qué enfermedades padeceremos en el futuro, cuál es el hotel más barato, si somos aptos para un crédito o a quién votar, entre otras muchas cosas. Estos sistemas expertos pretenden anticipar y controlar el comportamiento individual, modelando una suerte de ingeniería de la conducta individual a gran escala, un “conductivismo digital generalizado” como lo llaman A. Rouvroy y T. Berns (2013). Estaríamos así ante nuevas formas de autoritarismo que prescinden de la deliberación pública en torno a los problemas de representación, participación, legitimidad y hegemonía inherentes al ejercicio ciudadano. Las funciones que cumple tradicionalmente el Estado para garantizar el orden social han empezado a competir con el nuevo paradigma de la gobernanza algorítmica. La datificación y automatización de los procedimientos orientados a la toma de decisiones y la resolución de conflictos en todos los ámbitos imaginables perfilan nuevas técnicas de control y vigilancia que garantizarían la obsolescencia programada de la ciudadanía, pero también inauguran nuevas formas de activismo. El activismo de datos explora cómo la información y la ingente cantidad de datos que generamos en línea presentan nuevos retos y oportunidades para la ciudadanía y no solo nuevas formas de control y monitorización social. S. Milán y M. Gutiérrez (2015) entienden el activismo de datos como una nueva manifestación de los medios ciudadanos, donde las personas y las organizaciones dan sentido a información compleja utilizando software que permite la circulación y gestión de esa misma información, centrales para actuaciones ciudadanas dirigidas al cambio social. Esta no es la única lectura posible. El activismo de datos puede ser visto como respuesta a las nuevas técnicas de control algorítmico que están cuestionando las bases mismas de la ciudadanía. Proponemos ilustrar con la ayuda de algunos ejemplos las respuestas que el activismo de datos 161 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO ofrece a las formas emergentes de autoritarismo. Análizando brevemente el discurso de los activistas sobre el uso intensivo de sistemas de información socialmente distribuidos, se espera mostrar cómo han aparecido nuevos modelos de gobernanza alternativos y no solo nuevos medios ciudadanos. El artículo discute, en primer lugar, la noción de gobernanza algorítmica revisando algunas de las aproximaciones teóricas recientes. En segundo lugar, se describen las modalidades reactivas y proactivas del activismo de datos siguiendo el trabajo de S. Milán y M. Gutiérrez (2015). Las características de la gobernanza algorítmica y las diferencias entre subgrupos reactivos y proactivos organizan el análisis de los discursos vinculados a proyectos específicos de activismo de datos que ilustran la aparición de nuevos modelos de gobernanza en diferentes países. Hay que señalar que no se trata de estudios de caso exhaustivos y que la selección ha sido realizada a partir de nuestras experiencias personales y de una investigación previa sobre criminología ambiental (Sastre, en prensa, 2019). Lo que esperamos es ofrecer un panorama amplio que apoye y fomente la investigación y el debate sobre cómo se reposicionan las viejas asimetrías ligadas al ejercicio de la ciudadanía en la «era de los algoritmos». 2. Gobernanza algorítmica La datificación desplaza la información almacenada en los viejos archivos estatales a grandes centros de datos situados en “las nubes” donde se rastrea la actividad social con sofisticados algoritmos capaces de visualizar patrones y anomalías. Solo los algoritmos pueden analizar la acumulación constante y azarosa de información digitalizada a partir de metadatos, datos que describen otros datos. En apariencia el estudio de cualquier fenómeno desde la bolsa, los terremotos, el clima, los virus, las neuronas, el consumo, las emociones o incluso el crimen… puede ser reducido al análisis y la minería de datos algorítmicamente asistidos. En su trabajo sobre las implicaciones sociopolíticas de algoritmos diseñados para la prevención y el control del crimen con Big data, M. Pasquinelli (2016) habla del surgimiento de una «gobernanza algorítmica» inserta en el capitalismo computacional contemporáneo. Según Pasquinelli 162 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z (2016, p. 252, nuestra traducción), la norma del comportamiento social “ya no se construye a través de los archivos de conocimiento institucional sino que es calculada matemáticamente desde abajo”. Los datos adquieren extensión, color, volumen, profundidad, sentido. Se integran a “nuevos paisajes de conocimiento que inauguran una vertiginosa perspectiva sobre el mundo y la sociedad como una totalidad: el ojo del algoritmo o la visión algorítmica” (Pasquinelli, 2016, p. 250, nuestra traducción). Esta mirada propia de los drones militares, corre el riesgo de detectar patrones en datos aleatorios, sin sentido, en los contextos más diversos. La sobreidentificación de patrones, «falsas alarmas» o falsos positivos, conocida como «apofenia», deja entrever la lógica de la visión algorítmica a la que se corresponde, siguiendo a Pasquinelli (2016), una pattern police, una policía de patrones de comportamiento. Aplicaciones orientadas a la «actuación policial preventiva» como PredPol, CompStat o HunchLab ejemplifican la visión algorítmica que caracteriza las nuevas técnicas de gobernanza. Basado en software de monitoreo sísmico, PredPol observa el delito en un área, lo incorpora a datos históricos y predice cuándo y dónde podría repetirse visualizando patrones espaciales. El programa procesa los datos y calcula hora tras hora los hot spots del futuro inmediato, racionalizando la distribución de las patrullas en la ciudad bajo la promesa de optimizar científicamente el trabajo policial, reducir costes y mejorar resultados disminuyendo las tasas de delincuencia callejera. E. Morozov (2015, pp. 208-209) lo señala como epítome del solucionismo tecnológico cuando afirma que “(…) no hay un ejemplo más claro de cómo la tecnología y los macrodatos pueden utilizarse para solucionar el problema del delito eliminando el delito en su conjunto”. De manera parecida al papel que otorga P.K. Dick a la brigada anticrimen y los pre-cognoscentes en el relato breve Minority Report llevado al cine por Spielberg (2002), Morozov pregunta “¿quién no quisiera prevenir el delito antes de que suceda?” (ibíd.). Las operaciones de cómputo en apariencia carentes de sesgos subjetivos reemplazan la intervención humana. No obstante se ha mostrado ya sobradamente que algoritmos y datos reproducen viejas asimetrías de raza, clase y género (Angwin et al., 2016; Pishko, 2014; Rosenblat y Stark, 2016; Dastin, 2018). C. O’Neil (2016) muestra cómo los sistemas de gobernanza 163 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO algorítmica incluyen en sus cálculos los mismos prejuicios y sesgos presentes en la vida social. Aun así la propuesta para establecer auditorías algorítmicas regulares e independientes no se ha generalizado. Las “nubes” y los algoritmos en su mayoría todavía son opacos y ajenos al escrutinio público (Morozov, 2015; Tutt, 2017). En los Estados Unidos más de 20 Estados usan programas de evaluación de riesgos mediante el análisis de datos, en su mayoría software propietario cuyos métodos exactos son desconocidos, para determinar qué personas son más proclives a actos delictivos reincidentes (Pishko, 2014). Estos programas prometen reducir la población de reclusos sin poner en peligro a la ciudadanía bajo pretexto de la transparencia y objetividad de los derivados tecnocientíficos. Si bien un efecto “secundario” de esta «actuación policial preventiva» es la criminalización general de los socialmente excluidos. A este respecto, siguiendo el trabajo de E. Moglen y L. Lessig, H. Nadal y J. de la Cueva (2012) proponían hace tiempo que el código fuente (la programación que rige el funcionamiento del software) y los algoritmos, al igual que la ley y la jurisprudencia, tienen que ser de todas, no cabe que estén sometidos a propiedad intelectual. Según de la Cueva (en prensa, 2019) la soberanía tecnológica de un Estado depende de su capacidad de transparencia respecto al código fuente de los programas que realizan las labores de gestión y control. De ahí la importancia de impulsar “una regulación jurídica que establezca qué órganos tienen competencia para la escritura del código fuente y de los algoritmos --a los que los ciudadanos también tenemos que ser capaces de tener acceso, porque de ellos depende la aplicación de las normas jurídicas--, así como el procedimiento sobre su labor” (de la Cueva, en prensa, 2019). Con base en esta línea de argumentación impedir el acceso al código fuente de los semáforos, de los radares de la carretera o de los programas que gestionan y administran resoluciones judiciales que pudieran deberse a la aplicación de uno u otro software supone obviar que la “soberanía tecnológica de un Estado depende precisamente de su capacidad de ser transparente con respecto al código fuente de los programas que realizan esas dos labores de gestión y control” (ibíd.). La pátina de transparencia y objetividad de la gobernanza algorítmica proviene no solo del volumen creciente de datos relativos a nuestra conducta sino de la modificación de los parámetros tradicionales de 164 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z la estadística. Rouvroy y Berns (2013) analizan cómo se genera la impresión de una normatividad democrática que trata a todo el mundo por igual y que no impone normas sino refleja conductas existentes. La estadística social heredada de Quetelet investiga hipótesis con datos organizados en torno a categorías predefinidas reducibles a promedios y probabilidades matemáticos, mientras los nuevos sistemas se desarrollan en fases ejecutadas simultáneamente sin movilizar hipótesis ni categorías a priori. Cantidades masivas de datos se almacenan automáticamente, todo es potencialmente relevante, nada se filtra, con lo que se cancela cualquier tipo de intencionalidad en el registro y se garantiza su objetividad. Se identifican correlaciones entre los datos de manera automática y en ausencia de hipótesis predefinidas, eliminando de nuevo marcas de subjetividad en el proceso de análisis. El análisis no se interesa por el sujeto en cuestión. No importa quién sea el usuario sino qué hace y dónde y cuándo lo hace. El perfil generado con estos datos pretende evitar toda categoría a priori para eliminar cualquier atisbo de discriminación. De hecho, el individuo de carne y hueso queda aislado y ajeno a su propio perfil que desconoce las más de las veces por completo y sobre el cual no puede intervenir, aunque de todos modos le sean asignadas predicciones con respecto a sus preferencias, intenciones y propensiones que van a modificar no directamente al individuo sino al sistema de información con el cual interactúa (Rouvroy y Berns, 2013). Semejantes sistemas expertos recrean la ficción de un conocimiento y un poder universal no situado, sin rostro, sin cuerpo, sin historia al amparo de la promesa de prevenir o erradicar el comportamiento “desviado”. Así queda reflejado en la noción de «machine learning» o «aprendizaje automatizado», una rama de la inteligencia artificial que plantea que los propios sistemas pueden identificar patrones en los datos y tomar decisiones autónomas, con mínima o nula intervención humana, como paso previo a la construcción y automatización de modelos analíticos. Rouvroy y Berns (2013, p.10, nuestra traducción) recurren también a la noción de «gubernamentalidad algorítmica» para referirse a la racionalidad normativa que predisponen y habilitan estos sistemas a partir de “la recopilación, agregación y análisis automatizados de Big Data para modelar, anticipar y afectar de manera preventiva las posibles conductas”. 165 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO A diferencia de la normatividad legal democrática, la gobernanza algorítmica no es ejecutada de manera pública y discursiva antes de acometer cualquier acción sobre una conducta concreta. Bajo la promesa de objetividad total, con la acción basada en la anticipación de comportamientos y la evaluación racional de los riesgos y las oportunidades, toda anomalía sería asimilada y corregida de antemano. Así la gobernanza algorítmica despliega un horizonte deshumanizado de innovación distópica donde el Estado se convertiría en un conglomerado de sistemas expertos corporativos. Este horizonte reduciría la soberanía tecnológica a las cuestiones asociadas con la noción aún vaga de «gobernanza del software». Hoy muchas de las cosas que utilizamos a diario dependen de aplicaciones informáticas para funcionar correctamente. La automatización creciente de objetos y procesos físicos a través de Big data requiere del desarrollo, mantenimiento, limpieza y actualización de aplicaciones diversas. El símil de Shuttleworth y Moglen (2018, p. 1, nuestra traducción) cuando plantean que los métodos de “«gobernanza del software» son para la tecnología del siglo XXI lo que la ciencia de los materiales y el control de calidad fueron para la actividad industrial del siglo XX” es muy ilustrativo. Si bien, como los mismos autores señalan, ahora estamos ante un “‘insumo oculto’ crucial para la industria y la capacidad del gobierno para regular todo lo que usamos” (ibíd.). Sin embargo, nuestro interés no se centra en debatir sobre la soberanía tecnológica, la «gobernanza del software» y la datificación de objetos y procesos físicos, cuestiones por demás relevantes y pertenecientes al rango muy amplio de problemas planteados por el nuevo paradigma de gobernanza algorítmica. Más bien proponemos ilustrar las respuestas que el activismo de datos ofrece a la automatización de las instancias y los procedimientos democráticos para la toma de decisiones y la resolución de conflictos de que garantizarían la obsolescencia programada de la ciudadanía. 3. Activismo de datos proactivo y reactivo Milán y Gutiérrez (2015, p. 13) distinguen entre dos grandes modalidades de activismo de datos, bien para explotar los datos disponibles o para resistir su recolección masiva: el activismo de datos proactivo y el reactivo. El «activismo 166 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z de datos proactivo» incluye individuos y organizaciones de la sociedad civil que aprovechan los datos abiertos y las redes para impulsar el cambio social y ampliar la participación en la toma de decisiones y la resolución de conflictos mediante sistemas de información socialmente distribuidos diseñados por ellos mismos. La información geolocalizada de Humanitarian OpenStreetMap, los índices de radiación registrados por Safecast tras el desastre de la central nuclear en Fukushima (Brown et al., 2016), la revisión de cientos de miles de kits de ADN procedentes de casos de violación en Estado Unidos gracias a «Ending the Backlog» (O’Connor, 2003), o el proyecto Open Spending que pone a disposición la información de gasto gubernamental más detallada jamás publicada, son algunos ejemplos de esta modalidad proactiva de activismo de datos. Nuestra visión del activismo proactivo en el presente texto incluye el trabajo de Ciencia Forense Ciudadana y Data Cívica en México durante la guerra contra el narco de los últimos años, y las iniciativas de la participación directa de la ciudadanía en los órganos de decisión de las democracias parlamentarias a través de sistemas de información como LiquidFeedback, Democracia 4.0 o DemocracyOS. El «activismo de datos reactivo» procura mayor privacidad y control para intentar prevenir la vigilancia de datos inherente a la gobernanza algorítmica. Las alternativas públicas del software libre a los algoritmos propietarios han permitido la disponibilidad del código fuente de sistemas operativos y aplicaciones que respetan la privacidad. Esto ha favorecido la programación de servicios y aplicaciones de libre acceso como los «servidores autónomos» de Espora en México, Sindominio en España o Austitici/Inventati en Italia, el buscador Duckduckgo, las redes sociales, foros y servicios de mensajería instantánea como Diaspora*, GNU, Telegram, Telekommunisten, Riseup, Freenet y Lorea, por citar algunos. A estos ejemplos de activismo de datos reactivo relacionados con la red federada que son descentralizados, e interoperables (GNU, 2012; Cabello, Franco y Haché, 2012), cabría sumar los sistemas de encriptado y anonimato basados en blockchain y Tor (The Onion Router) que navegan en las profundidades de la deep y la dark web, generando una nueva arquitectura de redes P2P fuertemente protegida de la injerencia externa con algoritmos de cifrado abiertos y/o libres. Estos sistemas de información socialmente distribuidos basados en un cifrado fuerte presentan diferentes desafíos a la gobernanza algorítmica que analizaremos a través de los ejemplos de Silk Road, Bitnation y Democracy Earth Foundation. 167 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO 4. Criminalización y activismo de datos reactivo: Silk Road Silk Road fue un sitio de comercio electrónico de estupefacientes lanzado en febrero de 2011. Entre sus ofertas incluía marihuana, hachís, hongos alucinógenos, LSD, éxtasis, DMT y mezcalina. Utilizaba la red de anonimato Tor para encriptar todo el tráfico hacia y desde el sitio, por lo que según los administradores nadie podía saber “quién es usted o quién dirige Silk Road. Para los pagos, usamos Bitcoin, una moneda digital anónima” (citado en Ladegaard, 2017, p. 1). Silk Road no fue el primer mercado de drogas en línea (Power, 2013) pero sí el primero en operar con criptomonedas en la dark web, utilizando sofisticados mecanismos de encriptación para proteger los flujos de datos de la vigilancia externa (Van Hout y Bingham, 2014). Algunos vendedores ofertaban incluso opio y cocaína bajo la etiqueta de «orgánico», «comercio justo» o «proveniente de una zona libre de conflicto» (Martin, 2014). El cifrado de usuarios y transacciones impedía la intervención policial facilitando el comercio entre clientes y proveedores cuya relación de confianza estaba mediada exclusivamente por un sistema de reputación basado en comentarios públicos y evaluaciones como los de Ebay o Amazon. Clientes y proveedores debían tener fe en el diseño de un sistema técnico que solo algunos pueden comprender completamente (Ladegaard, 2017). A pocos meses de su lanzamiento los diseñadores de Silk Road concedieron una entrevista donde afirmaban que “el Estado es la primera fuente de violencia, opresión, robo y de todas las formas de coerción” (Chen, 2011). El periodista A. Greenberg (2013) recolectó y publicó más tarde otras citas donde se reafirmaba un liberalismo radical. A esta doctrina se sumaba el establecimiento de una ética que prohibía a los usuarios ofrecer cualquier cosa cuyo propósito fuera herir o defraudar (Gayathri, 2011), de tal suerte que el sitio se convertía en una declaración política a favor de la despenalización de las drogas. En 2013 el FBI llevó a juicio a R. W. Ulbricht como único responsable detrás del pseudónimo bajo el cual operaban los responsables de Silk Road --«Dread Pirate Roberts». Ulbricht fue condenado a cadena perpetua sin derecho a apelación pero los criptomercados de sustancias prohibidas han continuado proliferando después del juicio. 168 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z Ante el fracaso de las medidas punitivas, diferentes estudios sugieren que los criptomercados reducen los riesgos del tráfico de drogas en la calle derivados del control territorial entre traficantes y fuerzas de orden público que ha llegado al paroxismo en la “guerra contra las drogas” aplicada en Estados Unidos, Colombia y México (Martin, 2014; Aldridge y Décary-Hétu, 2014; el informe de Global Drug Policy Observatory--Buxton y Bingham, 2015). Estos estudios convierten Silk Road en un ejemplo incómodo de activismo de datos reactivo que evade la vigilancia de datos y establece mecanismos propios para la toma de decisión y la resolución de conflictos, donde no se reconocen ni las políticas ni las instituciones oficiales pero se confía en la buena gestión de los algoritmos y la mano invisible del libre mercado. El discurso de administradores y usuarios deja traslucir cómo una parte de la ciudadanía percibe las fallas, lagunas e inconsistencias de los modelos hegemónicos de gobernanza en las calles y en las redes como un ejercicio renovado de autoritarismo al que responden participando en redes sociales cifradas a las que volveremos más adelante. 5. Re/invenciones de las instancias del orden público y activismo de datos proactivo: Ciencia Forense Ciudadana y Data Cívica Las políticas públicas de los últimos años en torno a la producción, el tráfico y el consumo de estupefacientes se han centrado en la guerra contra las drogas. En el caso de México, el expresidente Felipe Calderón, pocos días después de asumir el cargo, emprendió un combate al crimen organizado con el apoyo de las Fuerzas Armadas. Esta iniciativa, carente de estrategia, como señala Aristegui (2012), tuvo un saldo de decenas de miles de muertos, miles de desaparecidos y desplazados. Durante el gobierno de Calderón la cifra aumentó según fuentes oficiales a un ritmo de 1.000 nuevos desaparecidos al año, aunque organizaciones civiles calculan que hay entre 30.000 y 50.000 personas desaparecidas tras una década de “guerra contra el narco” (El País, s.f.). Ante la falta de respuesta oficial a esta grave crisis humanitaria, junto con los investigadores del proyecto Citizen Led Forensics se puso en marcha “una base de datos forenses y ADN gobernada, construida y utilizada 169 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO por los familiares de los desaparecidos” (Ciencia Forense Ciudadana, 2014). Cienciaforenseciudadana.org permite que los familiares donen su ADN al «Registro Nacional Ciudadano de Personas Desaparecidas» para que gobierno y organizaciones civiles pudieran contrastar los restos humanos encontrados e identificarlos. La tecnología más importante de Ciencia Forense Ciudadana es la gobernanza (no sólo las computadoras, sus sistemas o el análisis de ADN son tecnologías), la cual está conformada por la participación de los familiares de desaparecidos constituidos en un foro de regulación ética y técnica, mismo que dirige la visión estratégica del proyecto [negritas en el original]” (Ciencia Forense Ciudadana, s.f.). El Estado mexicano gestionaba los datos oficiales obtenidos a partir de las denuncias presentadas en el Registro Nacional de Personas Extraviadas o Desaparecidas (RNPED), que no servía para identificar los restos de las 1075 fosas comunes clandestinas localizadas de 2007 a 2016 (González Núñez y Chávez Vargas, 2017) y tampoco ofrecía una base de datos actualizada y confiable. En 2017 Data Cívica publicó la información oficial en una base de datos actualizada y contrastada con nombres y apellidos de los miles de personas desaparecidas (Reza, 2017). En nuestro país los nombres de las y los desaparecidos no son públicos. Nadie sabe quiénes son, cómo son, cuáles son sus historias. No sabemos nada más que el número de personas que no están. (...) Salen del registro sin dejar rastro, sin saber si se quitaron de la base porque fueron encontrados vivos o porque fueron encontrados muertos. Desaparecen dos veces. Este proyecto busca nombrar a las personas desaparecidas y ponerles rostro para que se puedan contar sus historias. Nombrar a las personas desaparecidas en el RNPED significa también la posibilidad de exigir justicia y verdad. (Data Cívica, 2017) 170 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z Días después de la publicación de Personasdesaparecidas.org. mx se firmó, tras una larga espera e intensos debates, la Ley General de Desaparición Forzada de Personas y de Desaparición que contempla la publicación obligatoria de los nombres de las personas desparecidas en la base de datos oficial, del fuero común o federal. No obstante, esta ley no contó con mecanismos concretos de implementación ni con un presupuesto que la respaldase (Ge, 2017). El siguiente gobierno del expresidente Enrique Peña Nieto fue acusado de ciberespionaje a los activistas, periodistas y defensores de derechos humanos que apoyaron iniciativas ciudadanas como las mencionadas (Ahmed y Perlroth, 2017). Tras el escándalo Pegasus, nombre de la aplicación diseñada inicialmente para vigilar a terroristas y narcotraficantes (Reina, 2017), muchas de las organizaciones abandonaron en protesta su participación en la Alianza para el Gobierno Abierto dedicada a fortalecer las aplicaciones cívicas del Big data, suscrita y respaldada por el Estado mexicano como miembro fundador (Article 19, 2017). 6. Más allá del voto: de Liquid Feedback a Bitnation Los ejemplos anteriores de activismo de datos reactivo y proactivo invitan a replantear los modelos oficiales de gobernanza orientados a la resolución de conflictos. Silk Road sustituye las políticas públicas con un sistema de información socialmente distribuido y fuertemente cifrado que opera al margen del Estado. Ciencia Forense Ciudadana y Data Cívica muestran cómo un sector de la ciudadanía se hace cargo de las víctimas asumiendo el papel de técnicas, instancias y procedimientos públicos encargados, como la investigación policial, del proceso de criminalización. Resta ahora ver qué aporta el activismo de datos a la toma de decisiones. La aplicación Liquidfeedback.org fue creada al margen de cualquier partido político particular por el Public Software Group en 2009, como una solución de software viable para ayudar a cualquier organización en la toma colectiva de decisiones (Mendoza, 2015). Esta aplicación se está utilizando en la actualidad como un canal de comunicación adicional entre los ciudadanos 171 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO y sus administraciones (Behrens et al., 2014). El Partido Pirata Alemán fue el primero en adoptarla. En España Democracia Real Ya, integrante del movimiento 15M, presentó Democracia 4.0. La iniciativa proponía que la ciudadanía pudiera votar por Internet todas las leyes presentadas en la Cámara Baja con un certificado digital expedido por el Congreso (Bocanegra, 2011). Nuestros diputados representan la soberanía popular, pero la soberanía nacional reside en el pueblo (art. 1.2 CE).  Como ciudadanía queremos participar directamente en la toma de decisiones que nos afectan, ahora sabemos que eso es posible, desde nuestra casa y gracias a Internet. (...) No se propone, por tanto, prescindir del Congreso, ni de los diputados, ni  de los partidos, ni de las elecciones. Lo que se propone es la combinación de ambos sistemas de participación política, pues creemos  que las condiciones materiales y jurídicas ya lo permiten, por lo que ha  llegado el momento de hacer uso de nuestra cuota de Soberanía, de  decidir, cuando queramos, sobre nuestro futuro. (Democracia 4.0, 2011) El Partidodelared.org en Argentina utiliza un software libre diseñado por ellos mismos llamado DemocracyOS (democracyos.org) para la «Democracia en Red». «Somos una organización de la sociedad conformada por personas activistas, programadoras y científicas sociales que desde el hacer buscamos abrir las instituciones públicas y los procesos de toma de desición. Buscamos recuperar la política” (Democracia en Red, 2014). S. Siri (2016) afirma que el Partido de la Red actúa como “un caballo de Troya para ser introducido en el corazón del Estado nación”, ilustrando las respuestas reactivas a la doble criminalización del control algorítmico y de técnicas, instancias y procedimientos oficiales para la toma de decisiones que hasta ahora han sido parte del ejercicio tradicional de la ciudadanía. El caballo ha cambiado a los soldados dispuestos a morir en batalla por un proyecto desarrollado entre 2015 y 2016 con financiación procedente de Silicon Valley. «Democracy Earth Foundation» está inspirado en una 172 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z lectura autoritaria de las técnicas y los procedimientos de gobernanza hegemónicos. Según sus responsables: «La libertad es una ilusión: nuestros cuerpos pertenecen a los gobiernos, nuestras mentes a las corporaciones. (...) El cifrado juega un papel de importancia creciente para proteger los derechos humanos de ciudadanos digitales ya que puede ayudarlos a separarse de La Nube frente a la trampa de La Tierra» (Democracy Earth Foundation, 2018, p.5). Estos ejemplos de sistemas de información ligados a la noción de «democracia líquida» o «democracia delegativa» que han aparecido en distintos países se caracterizan por facilitar la participación ciudadana en los órganos públicos de decisión mediante delegados revocables en cualquier momento que (idealmente) representan y defienden la decisión votada previamente en línea (Behrens, 2017). Pero la crisis de las instituciones democráticas encuentra un nuevo giro de tuerca en desarrollos de software como la plataforma de gobernanza descentralizada para cualquier tipo de organización desarrollado por la «Democracy Earth Foundation». El software open source denominado Sovereign añade a la creación de criptomonedas sin bancos centrales de Bitcoin, «un sistema de votos incorruptibles” para proteger la soberanía personal y transnacional de sus miembros mediante encriptación (Siri, 2018). El objetivo último es disolver al viejo Estado implementando una gobernanza algorítmica sin fronteras para “cualquiera en cualquier parte”, como reza su eslogan. Susanne Tarkowski Tempelhof, CEO y fundadora de Bitnation -“The Internet of Sovereingty“-, anuncia la primera Nación Voluntaria Descentralizada Sin Fronteras del Mundo (DBVN, en sus siglas en inglés), que es propiedad de la empresa Bitnation Americas Ltd. con sede en Belice: Bitnation comenzó en julio de 2014 y acogió el primer matrimonio blockchain del mundo, el certificado de nacimiento, la identificación de emergencia de refugiados, la ciudadanía mundial, la Constitución del DBVN y mucho más. La „proof-of-concept“ del sitio web, que incluye el blockchain ID y una notaría pública, es utilizada por decenas de miles de ciudadanos de Bitnation y embajadas de todo el mundo. (Bitnation, 2014). 173 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO Desde su lanzamiento Bitnation permite crear Estados al gusto del consumidor, diseñar formas de consenso al margen del sistema judicial y lanzar monedas propias sin la injerencia de los bancos centrales. Estas iniciativas parten de las posibilidades que ofrece la tecnología Bitcoin y el registro público de transacciones entre pares llamado «blockchain»1. Las transacciones realizadas por los nodos de la red a través de algoritmos criptográficos open source quedan registrados y verificados sin intervención humana (“Proof-of-work), autoridad central, punto de control o supervisión de terceros. A este respecto Atzori (2015, p. 2) señala que el sistema blockchain además de estar blindado ante posibles manipulaciones, “convierte en innecesarias el control de las autoridades y la intervención humana”. Otros ejemplos de gobernanza algorítmica descentralizada basados en blockchain se encuentran en las DAO («Decentralized Autonomous Organization») y las DAC («Decentralized Autonomous Corporations») (Buterin, 2014). Las dos proponen a individuos y grupos la posibilidad de rediseñar sus interacciones con la política, los negocios y la sociedad en general, en un proceso de aparente desintermediación a gran escala basado en transacciones automatizadas que se afirman incorruptibles gracias al cifrado. 7. Conclusiones Los sistemas de información socialmente distribuidos del activismo de datos ofrecen modelos de gobernanza alternativos a las técnicas y los procedimientos hegemónicos de gobernanza algorítmica. Los modelos reactivos operan mediante un control cerrado de la producción, distribución y uso de los datos de una red social con una fuerte encriptación. El cifrado supuestamente otorga la autonomía necesaria para construir nuevas formas 1 Blockchain se está implementado en topo tipo de sistemas para la educación (Odem, Moodle Open Badges Plugin), la sanidad (Etheal), el trabajo (CoinLancer), los juegos (FairWin, EtherSprots, Tap Project), el comercio (Choon, Rentberry), la realidad virtual (Decentraland, Vibe), la seguridad (Defense Distributed)… Empresas como Microsoft o Coca-Cola se suman también a las corrientes de innovación en torno al blockchange (Williams, 2018) y la Unión Europea lanzó a inicios de 2018 su Observatorio y Foro sobre Blockchain (Comisión Europea, 2018). 174 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z de consenso mediante algoritmos transparentes diseñados con software libre o abierto, disponibles de manera gratuita en línea. Las iniciativas proactivas utilizan datos abiertos asumiendo el proceso de criminalización antes reservado al Estado, activando, complementando y cuestionado los mecanismos oficiales de resolución de conflictos sin plantear su sustitución por plataformas de gobernanza descentralizadas. Los modelos que persiguen sistemas delegativos basados en aplicaciones como Liquid Feedback ofrecen soluciones que vendrían a complementar y mejorar las instancias oficiales para la toma de decisiones que caracterizan a las democracias representativas. En todos los casos se observa el empoderamiento de grupos activos surgidos de la sociedad civil que exploran formas de reparación de la ciudadanía y el bien común y dejan entrever las grandes fallas de las medidas implementadas por gobiernos y empresas para afrontar los problemas actuales de gobernanza. Contra la tendencia hacia un conductivismo generalizado en las calles y en las redes, el activismo de datos proactivo experimenta con sistemas históricos y geográficamente situados de información para visibilizar el juego de asimetrías existentes entre el Estado, el mercado y la ciudadanía. Estos sistemas de información abiertos y participativos sitúan al ciudadano en primer lugar al intentar revertir las tendencias hermanadas hacia la automatización y la criminalización de lo social. No se trata de una suerte de nostalgia estatista. Son formas institucionales sin Estado, carecen de reconocimiento oficial y no son integradas formalmente a los mecanismos públicos de decisión o resolución de conflictos. No hay nostalgia en estos movimientos sino una reformulación de lo público a través de algoritmos y datos abiertos no exenta de problemas. Siguiendo a J. Lea (2002), no solo la gobernanza algorítmica sino también el activismo de datos sería resultado de una sociedad civil antiestatista y liberal, responsable de sí misma, donde las TIC operarían como catalizadoras de capacidades y conductas individuales y de formas de organización emergentes al margen de lo público. En otras palabras, el restablecimiento de las relaciones sociales de gobernanza vía la descentralización del ejercicio ciudadano no resuelve por sí sola las asimetrías existentes. La definición de la vida en común quedaría en manos de unos pocos ciudadanos condicionados además por factores externos fuera de 175 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO su control, como las fuentes de financiamiento existentes y la ausencia o presencia de reconocimiento institucional. Tampoco los sistemas de participación directa en las decisiones de gobierno garantizan por sí solos que la participación tenga lugar en igualdad de condiciones y pueden reproducir viejas asimetrías2. No son iniciativas aisladas sino movimientos insertos en cambios y conflictos más amplios. La tendencia oficial hacia el open data y el open government puede responder tanto a las demandas de una ciudadanía informatizada y consciente de los nuevos mecanismos de vigilancia y control, cuanto a la voracidad de los sistemas expertos propietarios diseñados por empresas siempre necesitadas de datos y más datos para capitalizar la crisis de lo público. La vigilancia de datos junto a la fragmentación del control territorial y el recrudecimiento de las fronteras políticas y sociales han alimentado con justa razón la tendencia hacia sistemas reactivos de gobernanza algorítmica descentralizada que simulan nuevas formas institucionales. Estos sistemas buscan en el anonimato y el cifrado alternativas al funcionamiento tradicional de las instituciones público/privadas. No obstante, pueden correr el riesgo de reproducir los problemas del solucionismo tecnológico que caracterizan las aplicaciones de la «actuación policial preventiva». Otros riesgos inherentes a estos modelos de gobernanza han sido señalados por D. Golumbia (2017, p. 109) cuando recuerda que una condición de existencia de los mismos pasa en buena medida por un estado imaginario de guerra perpetua (véase Assange, 2012, 2006), “no solo de estados y pseudoestados, como los que claramente tenemos hoy, sino también de todo tipo de actores no estatales desplegando entre sí todo tipo de armas digitales -una categoría cuyos límites ahora no conocemos realmente –y, en general, otorgando la ‘victoria’ a quien pueda acumular el máximo de poder, la mejor defensa, el ejército más fuerte”. Si Internet se convierte en un campo de guerra, la promesa de emancipación vía descentralización y horizontalidad de este tipo de activismo reactivo puede compartir el horizonte conservador de las políticas que criminalizan lo social. Como resultado las instancias públicas dedicadas 2 Véase para el caso la experiencia de redacción crowdsourced de la Consitución de la Ciudad de México en http://congress.crowd.law/case-constitución-cdmx.html, o el catálogo de otras iniciativas de “crowdlaw” de GovLab: https://catalog.crowd.law/ 176 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z a la resolución de conflictos y la toma de decisiones que sustentan el ejercicio ciudadano (o lo que queda de él) serían sustituidos por algoritmos diseñados para evaluar los límites de la conducta adecuada en cada individuo y cada grupo al interior de sistemas de información que muy pocos son capaces de comprender y recodificar. Aun siendo descentralizados, libres y abiertos, estos sistemas prometen ofrecer la solución final a la crisis de las democracias actuales programando la ficción de un conocimiento y un poder universal no situado, sin rostro, sin cuerpo, sin historia, no marcado por cuestiones subjetivas, que haría imposible el disenso. Cualquier anomalía podría ser asimilada y corregida de inmediato, y cualquier dilema político borrado de inmediato para establecer en su lugar el antagonismo como forma de vida generalizada (Mouffe entrevistada por M. López San Miguel, 2010). 8. Bibliografía ––––––– Ahmed, A. y Perlroth, N. (2017). “Somos los nuevos enemigos del Estado: el espionaje a activistas y periodistas en México”. The New York Times, 19 de junio. Recuperado de: https://www.nytimes.com/es/2017/06/19/mexico- pegasus-nso-group-espionaje/?ref=nyt-es-LA ––––––– Aldridge, J. y Décary-Hétu, D. (2014). “Not an ‘Ebay for Drugs’: The Cryptomarket ‘Silk Road’ as a Paradigm Shifting Criminal Innovation”. Recuperado de: DOI: http://dx.doi.org/10.2139/ssrn.2436643 ––––––– Angwin, J., Larson, J., Mattu, S., y Kirchner, L. (2016). “Machine Bias”. ProPublica. Recuperado de: https://www.propublica.org/article/machine- bias-risk-assessments-in-criminal-sentencing ––––––– Aristegui, C. (2012). “Lo blanco y lo negro del sexenio de Felipe Calderón”. Aristegui Noticias, 29 de noviembre. Recuperado de: https:// aristeguinoticias.com/2911/mexico/lo-blanco-y-lo-negro-del-sexenio- de-felipe-calderon/ ––––––– Artículo 19 (2017). “Por espionaje sociedad civil concluye participación en la Alianza para el Gobierno Abierto, 23 de mayo”. Recuperado de: https:// articulo19.org/por-espionaje-sociedad-civil-concluye-participacion-en- el-secretariado-tecnico-tripartita-de-la-aga/ 177 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO ––––––– Assange, J. (2006). “Conspiracy as Governance”. Recuperado de: https:// web.archive.org/web/20070129125831/http://iq.org/conspiracies.pdf ---- (2012). “Introduction: A Call To Cryptographic Arms”. En J. Assange (en colaboración con J. Appelbaum, A. Müller-Maguhn y J. Zimmermann) Cypherpunks. Freedom and the Future of the Internet. Nueva York: OR Books. ––––––– Atzori, M. (2015). “Blockchain Technology and Decentralized Governance: Is the State Still Necessary?” Recuperado de: DOI: http://dx.doi.org/10.2139/ ssrn.2709713 ––––––– Behrens, J. (2017). “The origins of liquid democracy”. The Liquid Democracy Journal,  5. Recuperado de: http://www.liquid-democracy-journal.org/ issue/5/The_Liquid_Democracy_Journal-Issue005-02-The_Origins_of_ Liquid_Democracy.html ––––––– Behrens, J., Kistner, A., Nitsche, A., y Swierczek, B. (2014). The principles of Liquid Feedback. Berlin: Interaktive Demokratie e. V. ––––––– Bitnation (2014). Bitnation. Recuperado de: https://tse.bitnation.co/ ––––––– Bocanegra, R. (2011). “DRY propone que los ciudadanos puedan votar las leyes por Internet”. Público. Recuperado de: https://www.publico.es/ espana/dry-propone-ciudadanos-puedan-votar.html ––––––– Brown, A., Franken, P., Bonner, S., Dolezal, N., y Moross, J. (2016). “Safecast: successful citizen-science for radiation measurement and communication after Fukushima”. Journal of Radiological Protection, 36(2), S82. Recuperado de: http://iopscience.iop.org/article/10.1088/0952-4746/36/2/S82 ––––––– Buterin, V. (2014). DAOS, DACS, DAS and More: “An Incomplete Terminology Guide. Ethereum Blog”. Recuperado de: https://blog. ethereum.org/2014/05/06/daos-dacs-das-and-more-an-incomplete- terminology-guide/ ––––––– Buxton, J. y Bingham, T. (2015). The Rise and Challenge of Dark Net Drug Markets. Policy Brief 7. Swansea University: Global Drug Policy Observatory. Recuperado de: https://www.swansea.ac.uk/media/The- Rise-and-Challenge-of-Dark-Net-Drug-Markets.pdf 178 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z ––––––– Cabello, F., Franco, M. G., y Haché, A. (2012). “Hacia una web social libre y federada: el caso de Lorea”. Teknokultura. Revista de Cultura Digital y Movimientos Sociales, 9(1), 19-43. ––––––– Chen, A. (2011). “The Underground Website Where You Can Buy Any Drug Imaginable”. Gawker. Recuperado de: https://web.archive.org/ web/20110613040631/http://gawker.com/5805928/the-underground- website-where-you-can-buy-any-drug-imaginable ––––––– Ciencia Forense Ciudadana (13 de septiembre 2014). “Proyecto Ciencia Forense Ciudadana”. Ciencia Forense Ciudadana. [Archivo de video]. Disponible en: https://www.youtube.com/watch?v=vQGR2A7eKD0 ---- (s.f.). “¿Qué puedo esperar de esta tecnología?”. Preguntas Frecuentes. Disponible en: http://cienciaforenseciudadana.org/ preguntas-frecuentes/ ––––––– Comisión Europea (2018). “European Commission Launches the EU Blockchain Observatory and Forum”. Recuperado de: http://europa.eu/ rapid/press-release_IP-18-521_en.htm ––––––– Dastin, J. (2018). “Amazon scraps secret AI recruiting tool that showed bias against women”. San Fransico, CA: Reuters, 10 de octubre. Recuperado de: https://www.reuters.com/article/us-amazon-com-jobs-automation- insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias- against-women-idUSKCN1MK08G ––––––– Data Cívica (2017). “¿Por qué lo hicimos?”. Personas desaparecidas. Disponible en: http://personasdesaparecidas.mx/semblanza#why ––––––– De la Cueva, J. (2019, en prensa). “La configuración de la tecnología como cuestión política”. Teknokultura. Revista de Cultura Digital y Movimientos Sociales, 17(1). ––––––– Democracia 4.0 (2011). “Breve explicación Democracia 4.0”. Recuperado de: https://web.archive.org/web/20141225093518/http://demo4punto0. net/es/home ––––––– Democracia en Red (2014). “¿Quiénes somos?”. Democracia en Red. Disponible en: https://democraciaenred.org/ 179 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO ––––––– Democracy Earth Foundation (2018). The Social Smart Contract. An Open Source White Paper. Recuperado de: https://github.com/DemocracyEarth/ paper/blob/master/README.mediawiki ––––––– Europa Press (2018). “Protección de Datos insiste en que es ilegal hacer perfiles ideológicos y estará vigilante a lo que hacen los partidos, 22 de noviembre”. Recuperado de: https://www.europapress.es/sociedad/ noticia-proteccion-datos-insiste-ilegal-hacer-perfiles-ideologicos- estara-vigilante-hacen-partidos-20181122131122.html ––––––– Gayathri, A. (2011). “From marijuana to LSD, now illegal drugs delivered on your doorstep”. International Business Times. Recuperado de: http:// www.ibtimes.com/marijuana-lsd-now-illegal-drugs-delivered-your- doorstep-290021 ––––––– Ge, M. (2017). “Cómo una base de datos en México se adelantó al gobierno para buscar desaparecidos”. School of Data Blog, 5 de diciembre. Recuperado de: https://es.schoolofdata.org/2017/12/05/COMO-UNA- BASE-DE-DATOS-EN-MEXICO-SE-ADELANTO-AL-GOBIERNO-PARA- BUSCAR-DESAPARECIDOS/ ––––––– GNU (2012). “The GNU consensus Manifesto”. Recuperado en: https:// www.gnu.org/consensus/manifesto.html ––––––– González Núñez, D. y Chávez Vargas, L. G. (Coord.) (2017). Violencia y terror. Hallazgo sobre fosas clandestinas en México. México: Universidad Iberoamericana y Comisión Mexicana de Defensa y Promoción de Derechos Humanos A.C. Recuperado de: http://cmdpdh.org/project/ violencia-terror-hallazgos-fosas-clandestinas-mexico/ ––––––– Greenberg, A. (2013). “Collected Quotations of the Dread Pirate Roberts, Founder of Underground Drug Site Silk Road and Radical Libertarian”. Forbes. Recuperado de: https://www.forbes.com/sites/ andygreenberg/2013/04/29/collected-quotations-of-the-dread- pirate-roberts-founder-of-the-drug-site-silk-road-and-radical- libertarian/#36340fd81b0c ––––––– Gutiérrez, M. (2018). Data activism and social change. Hampshire y Nueva York: Palgrave Macmillan. ––––––– Habermas, J. (1976). Legitimation Crisis. London: Heinemann. 180 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z ––––––– Hall, S. (et al.) (1978). Policing the Crisis: Mugging, the State, and Law and Order. London: Macmillan. ––––––– López San Miguel, M. (5 de septiembre 2010). “La democracia consiste en permitir los puntos de vista”. Página 12. Disponible en: https://www. pagina12.com.ar/diario/elmundo/4-152631-2010-09-05.html ––––––– Nadal, H. y De la Cueva, J. (2012). “Redefiniendo la isegoría: open data ciudadanos”. En A. Cerrillo i Martínez, M. Peguera, I. Peña-López, M.J. Pifarré de Moner y M. Vilasau Solana (Coords.). Retos y oportunidades del entretenimiento en línea (pp. 283-300). Actas del VIII Congreso Internacional, Internet, Derecho y Política. Barcelona: UOC-Huygens Editorial. Recuperado en http://openaccess.uoc.edu/webapps/o2/ bitstream/10609/15121/6/IDP_2012.pdf ––––––– Ladegaard, I. (2017). “We Know Where You Are Doing And We Will Catch You”. The British Journal of Criminology, 58(2), 414–433. DOI: https://doi. org/10.1093/bjc/ ––––––– Lea, J. (2002). Crime and Modernity. Continuities in Left Realist Criminology. Londres: Sage. ––––––– Martin, J. (2014). Drugs on the Dark Net: How Cryptomarkets are Transforming the Global Trade in Illicit Drugs. Hampshire y Nueva York: Palgrave Macmillan. ––––––– Mattila, J. (2016). “The Bolckchain Phenomenon”. Research Institute of the Finnish Economy. Recuperado de: http://www.brie.berkeley.edu/wp- content/uploads/2015/02/Juri-Mattila-.pdf ––––––– Mendoza, N. (2015). “Liquid Separation: Three Fundamental Dimensions within LiquidFeedback and other Voting Technologies”. eJournal of eDemocracy & Open Government, 7(2), 45-58. ––––––– Milán, S. y Gutiérrez, M. (2015). “Medios ciudadanos y big data: la emergencia del activismo de datos”. Mediaciones, 11(14), 10-26. ––––––– Minuto Político (2019). “El Constitucional anula las bases de datos con perfilado ideológico de los ciudadanos”. El diario.es, 22 de mayo, 15:08, Recuperado de: https://www.eldiario.es/politica/MINUTO-POLITICO- campana-arranque-Congreso_13_901989793.html 181 E- IS SN : 2 17 3- 10 71 IC – R ev is ta C ie nt ífi ca d e In fo rm a ci ón y C om un ic a ci ón 1 6 (2 0 19 ) [p p . 1 5 7- 18 2] selecta EL ACTIVISMO DE DATOS FRENTE AL CONTROL ALGORÍTMICO ––––––– Morozov, E. (2015). La locura del solucionismo tecnológico. Buenos Aires: Katz. ––––––– O’Neil, C. (2016). Weapons of Math Destruction. Nueva York: Crown Publishers. ––––––– O’Connor, K. L. P. (2003). “Eliminating the Rape-Kit Backlog: Bringing Necessary Changes to the Criminal Justice System”. UMKC Law Review, 72, 193-214. ––––––– Pasquinelli, M. (2016). “The Spike: On the Growth and Form of Pattern Police”. En S. Hankey, M. Tuszynski y A. Franke (Eds.), Nervous Systems (pp. 245-260). Berlin: HKW/ Spector Books. ––––––– Pishko, J. (2014). “Punished For Being Poor: The Problem With Using Big Data In The Justice System”. Pacific Standard. Recuperado de: https:// psmag.com/news/punished-poor-problem-using-big-data-justice- system-88651 ––––––– Power, M. (2013). “Online highs are old as the net: the first e-commerce was a drugs deal”. The Guardian. Recuperado de: https://www.theguardian. com/science/2013/apr/19/online-high-net-drugs-deal ––––––– Rainie, L. y Anderson, J. (2017, February). “Code-Dependent: Pros and Cons of the Algorithm Age. Pew Research Center”. Recuperado de: http:// www.pewinternet.org/2017/02/08/code-dependent-pros-and-cons-of- the-algorithm-age ––––––– Reina, E. (2017). “Pegasus, el programa que espía a los periodistas y activistas mexicanos”. El País, 20 de junio. Recuperado de: https://elpais. com/internacional/2017/06/20/mexico/1497920669_881339.html ––––––– Reza, G. (2017). “Data Cívica descifra nombres de casi 32 mil desaparecidos y evidencia fallas del RNPED”. Proceso, 13 de noviembre. Recuperado de: https://www.proceso.com.mx/510968/DATA-CIVICA-DESCIFRA- NOMBRES-CASI-32-MIL-DESAPARECIDOS-EVIDENCIA-FALLAS-DEL- RNPED ––––––– Rosenblat, A. y Stark, L. (2016). “Algorithmic Labor and Information Asymmetries: A Case Study of Uber’s Drivers”. International Journal of Communication, 10(27), DOI: http://dx.doi.org/10.2139/ssrn.2686227 Recuperado de: https://ssrn.com/abstract=2686227 or  182 IC – R evista C ientífica d e Inform a ción y C om unica ción 16 (20 19) [p p . 15 7-182] E-ISSN : 2173-1071 P a z S a s t r e D o m í n g u e z / Á n g e l J . G o r d o L ó p e z ––––––– Rouvroy, A. y Berns, T. (2013). “Algorithmic governmentality and prospects of emancipation”. Réseaux, 1, 163-196 (traducción a cargo de E. Libbrecht). Recuperado de: https://www.cairn-int.info/article-E_RES_177_0163-- algorithmic-governmentality-and-prospect.htm ––––––– Selbst, A.D. y Powles, J. (2017). “Meaningful Information and the Right to Explanation”. International Data Privacy Law, 7(4), 233-242. Recuperado de: https://ssrn.com/abstract=3039125 ––––––– Sastre Domínguez, P. (2019, en prensa). “Cómo diseñar el crimen perfecto”. En R. Hernández (ed.), Criminología ambiental. Madrid: Editorial Delta. ––––––– Shuttleworth, M. y Moglen, E. (2018). “Automotive Software Governance and Copyleft”. Recuperado de: https://www.softwarefreedom.org/ resources/2018/automotive-software-governance.pdf ––––––– Siri, S. (2016). “Future of Democracy”. TEDx Talks [Archivo de video], 30 de marzo. Recuperado de: https://www.youtube.com/ watch?v=yGmGWZCE4h0 ––––––– Tutt, A. (2017). “An FDA for Algorithms”. 69 Admin. L. Rev. 83, DOI: http:// dx.doi.org/10.2139/ssrn.2747994. Recuperado de: https://ssrn.com/ abstract=2747994 ––––––– Van Hout, M.C. y Bingham, T. (2014). “Responsible Vendors, Intelligent Consumers: Silk Road, the Online Revolution in Drug Trading”. International Journal of Drug Policy, 25, 183–189. ––––––– Williams, S. (2018). “The 3 Most Ambitious Blockchain Projects. The Motley Fool”. Recuperado de: https://www.fool.com/investing/2018/04/18/the-3- most-ambitious-blockchain-projects.aspx