La Violencia de AlgoritmosPor qu Big Data es tan inteligente como aquellos que la generanPor Taylor OwenEn diciembre de 2010, asist a una sesin de entrenamiento para un programa de software de anlisis de inteligencia llamado Palantir. Co-fundada por Peter Thiel, un multimillonario de Silicon Valley tecno-libertario, Palantir es un kit de herramientas de pulido de las capacidades de visualizacin de datos y anlisis dirigidos a los y ampliamente utilizado por la NSA, el FBI, la CIA, y otra la seguridad nacional de Estados Unidos y las instituciones policiales .La sesin de entrenamiento tuvo lugar en la esquina de Tyson, en Washington, DC, en un espacio de oficina Google-esque completo con scooters, un futboln y una cocina equipada con bebidas energticas. Yo estaba tomando el curso para explorar los posibles usos de la herramienta para la investigacin acadmica.The dashboard for the New York Police Department's 'Domain Awareness System' (DAS) is seen in New York May 29, 2013.Shannon Stapleton / ReutersEl tablero de instrumentos para 'Sistema de Conciencia de dominio' del Departamento de Polica de Nueva York (DAS) es visto en Nueva York 29 de mayo 2013.Pasamos el da la realizacin de una investigacin de demostracin. Primero nos dieron una serie de conjuntos de datos y, uno por uno, que los cargara en Palantir. Cada conjunto de datos nos mostr una nueva capacidad analtica del programa: miles de informes de inteligencia diarios fueron desagregados a sus piezas bsicas de informacin y correlacionados con los datos histricos; imgenes de satlite se cubrieron con, ataque areo socioeconmico, y los datos del IED. Y en este proceso, la promesa de Palantir fue revelada: con ms datos provienen mayor claridad. Para los analistas que pasan sus das luchando para interpretar grandes flujos de datos, la demo Palantir era fcil de vender.En nuestro ejercicio final, hemos aadido los datos de vigilancia que detallan los movimientos previstos de un presunto insurgente. Palantir correlaciona la ubicacin y la hora de estos movimientos con los movimientos previstos de un conocido fabricante de bombas. Y hay la formacin termin. Era bastante obvio que el siguiente paso, en la "vida real", sera violento. Los Estados Unidos enviara en un equipo de aviones no tripulados o fuerzas especiales. Nosotros en la demo, por el contrario, slo fuimos a casa.Este programa plantea muchas preguntas difciles. Gran parte de los datos utilizados se introducen y etiquetados por los seres humanos, lo que significa que estaba abarrotada de sesgo humano y los errores. Los algoritmos en los que se construye el sistema estn ellos mismos codificados por los seres humanos, por lo que tambin son subjetivas. Tal vez lo ms consecuentemente, sin embargo, aunque el programa est demostrando que se pretenda informar a la toma de decisiones humana, que no tiene por qu ser el caso. Cada vez ms, este tipo de herramientas, y los algoritmos que los alimentan, se utilizan para automatizar la violencia.Para los gobiernos, la promesa es el control de un espacio digital que est aumentando descentralizado y complejo. Pero puede venir a costa de la propia legitimidad de la que damos el estado de su poder. Palantir, que toma su nombre de la legendaria "piedra de ver" en El Seor de los Anillos de JRR Tolkien, es slo la ltima iteracin de la edad viejo mito de una bola de cristal que todo lo sabe. Ese mito subyace tanto a la rpida expansin de la vigilancia del estado y el creciente uso de algoritmos e inteligencia artificial para luchar y para gobernar. Para los gobiernos, la promesa es el control de un espacio digital que est aumentando descentralizado y complejo. Pero puede venir a costa de la propia legitimidad de la que damos el estado de su poder.EL ESTADO AUTOMATIZADOPalantir es una ventana al pensamiento del estado de la tecnologa. Amenazado por el creciente poder de percepcin de actores digitales nefastos, los estados occidentales han tratado de controlar la propia a red como dicen en documentos filtrados por Edward Snowden, "Recoja todo; Procesar todo; Explotarla Todos; Socio de todo; Sniff todo; Saberlo todo. "Various types of directional antennas are pictured on the roof of a skyscraper in Berlin, November 5, 2013.Fabrizio Bensch / ReutersVarios tipos de antenas direccionales se representan en la azotea de un rascacielos en Berln 5 de noviembre de 2013.El problema, por supuesto, es que la omnisciencia digital es increblemente difcil de lograr. Para incluso aspirar a ella, se necesita dos cosas: una gran cantidad de datos y las herramientas para dar estos datos significado.En primer lugar, la enorme cantidad de datos. De las filtraciones Snowden, sabemos que el gobierno de Estados Unidos est aprovechando la columna vertebral de los sistemas de comunicaciones, nuestros servidores y cables transatlnticos. Se est oliendo las seales inalmbricas en las ciudades y la implementacin de las actividades generales de minera de datos en lnea y telecomunicaciones. Pero esto es slo la punta del iceberg.Instrumentos de vigilancia de rea amplia son capaces de grabar imgenes de alta resolucin de vastas reas por debajo de ellos. A partir de 2004, los Estados Unidos ha desplegado 65 de Lockheed Martin dirigibles en Afganistn que proporcionan video en tiempo real y la vigilancia de audio a travs de 100 kilmetros cuadrados (poco ms de 38 millas cuadradas) a la vez. Estos sistemas de deteccin de amenazas persistentes pueden registrar la actividad por debajo de ellos por perodos de hasta 30 das. Mientras tanto en el suelo, vastas redes de cmaras en nuestras ciudades se estn conectados en red en las bases de datos policiales y centros de control, como la polica de Nueva York en tiempo real Crime Center, que procesa los datos de ms de 6.000 cmaras de vigilancia, as como lectores de placas que proporcionan seguimiento en tiempo real del movimiento del vehculo.Y, por supuesto, Silicon Valley se encuentra en la mezcla. Una compaa llamada Planet laboratorios ha desplegado recientemente una red de 100 satlites de tamao tostadora que se llevar a diario imgenes de alta resolucin de todas partes de la tierra. El objetivo es poner en marcha miles-herramienta persistente vigilancia en tiempo casi real, a disposicin de cualquier persona en lnea. Ellos llaman a estos satlites Palomas. Un coche de Google sin conductor recoge casi un 1 GB de datos por segundo sobre el mundo alrededor de ella, y la Internet de las cosas est trayendo la recopilacin de datos en nuestros hogares. Una advertencia se produjo con una reciente Samsung Smart TV sobre la discusin de "informacin sensible personal u otro" en sus proximidades, ya que podra ser transferida a un tercero.Lo que nos encontramos en el proceso de construccin es un gran tiempo real, la representacin en 3-D del mundo. Un registro permanente de nosotros. Pero de dnde viene el significado de todos estos datos vienen? Qu estamos en el proceso de construccin es un gran tiempo real, la representacin en 3-D del mundo. Un registro permanente de nosotros.Pero de dnde viene el significado de todos estos datos viene? Para ello, se necesita cada vez ms complejos algoritmos, la automatizacin, la mquina de aprendizaje, y la inteligencia artificial. Estas tecnologas estn impulsando una amplia gama de nuevas herramientas de gestin que pueden rastrear y movimientos rcord de personas, detectar patrones, y el riesgo de atribuir a comportamientos fuera de las normas programadas, para predecir eventos futuros.Y cada vez ms, este tipo de algoritmos se utilizan para matar. Rusia guarda cinco instalaciones de misiles balsticos armados con robots de una tonelada, capaces de viajar a una velocidad de 45 kilmetros (unas 28 millas) por hora, usando el radar y un telmetro lser para navegar, analizar los posibles objetivos, y ametralladoras fuego sin tirando el gatillo humano. El Super Aegis 2 torre de arma automatizado puede bloquear a un blanco humano hasta tres kilmetros (casi dos millas) de distancia en la oscuridad y el fuego de forma automtica una ametralladora, lanzacohetes, o un misil tierra-aire. Vehculos areos no tripulados, que van desde los bombarderos autnomas para drones enjambre de insectos de tamao, son cada vez ms capaces de recoger y procesar datos y matar por su cuenta.La pretensin es que estas capacidades estn reservados para las zonas de guerra. Pero el carcter universal de estas herramientas, combinadas con los mandatos legales en expansin de la guerra contra el terrorismo, significa que la capacidad del campo de batalla se estn arrastrando a la polica nacional y la gobernabilidad, a menudo en las zonas grises legales de las fronteras. Por ejemplo, el Departamento de Seguridad Nacional de Estados Unidos at una amplia zona de vigilancia blimp 2,000 pies sobre el desierto en Nogales, Arizona. En su primera noche en uso, el sistema identifica 30 sospechosos que fueron trados para interrogarlo. Ahora hay llamadas para redistribuir los 65 dirigibles de vigilancia utilizados en Irak y Afganistn para Aduanas y Proteccin Fronteriza para patrullar la frontera entre Estados Unidos y Mxico.La consecuencia de las capacidades crecientes de gobernabilidad algortmica y la violencia son significativos. En primer lugar, los actos de guerra se han convertido en el espacio y conceptualmente sin lmites. Las lneas de una vez establecidos legal y normativamente entre la guerra y la paz, as como entre el compromiso nacional e internacional estn desapareciendo.A flock of pigeons flies with a prototype "parcelcopter" of German postal and logistics group Deutsche Post DHL in Bonn December 9, 2013.Wolfgang Rattay / ReutersUna bandada de palomas vuela con un prototipo "parcelcopter" del grupo de correos y logstica Deutsche Post DHL en Bonn 09 de diciembre 2013.En segundo lugar, la representacin digital y los prejuicios, valores y ambigedades que se construyen en l, se estn convirtiendo en los actos de gobierno y la violencia a s mismos, en lugar de simplemente contribuyentes a ellos. Esto nos lleva a un lugar de la gobernanza predictivo, basado en algoritmos que no rinden cuentas y, a menudo desconocidas. Aunque Estados Unidos tiene actualmente una directiva que los seres humanos deben ser parte de cualquier decisin fatal en la guerra, esto ignora todas las decisiones basadas en algoritmos que conducen hasta este punto final. Si son sesgados, defectuoso, o basndose en datos errneos, entonces el ser humano ser tan malo como la mquina.En tercer lugar, se estn erosionando los espacios de disidencia en la sociedad. Aquellos que empuja los lmites de lo que se considera un comportamiento aceptable son capturados cada vez ms al alcance de algoritmos destinados a identificar la desviacin. Ya estamos viendo cambios en el comportamiento entre los periodistas y activistas de investigacin. En un reciente evento de la Escuela de Periodismo de Columbia en una serie llamada "El periodismo Despus de Snowden," los editores de The New York Times, el Washington Post y Politico detallan los retos de la proteccin de las fuentes en un ambiente de vigilancia estatal aumento y el efecto que tiene en su capacidad de hacer la presentacin de informes de rendicin de cuentas. Los actos de desobediencia civil digitales son cada vez ms especficas y procesados ??no como protesta sino como el terrorismo. Cuando los castigos son muy desproporcionada en relacin con los crmenes, entonces una funcin democrtica importante se pierde.Por ltimo, como sostiene el autor Daniel Surez, una combinacin de la fuerza de despliegue remoto automatizado y la inteligencia artificial podra permitir al Estado a matar de forma preventiva y de forma annima. Este es un camino a la guerra automatizado, y un presagio de una recentralizacin del poder. Un camino que nos obliga a tener una conversacin seria sobre el poder y la responsabilidad de los algoritmos implementados tanto por los actores estatales y corporativos.LOS PELIGROS DE GOBIERNO ALGORTMICA El sistema de Estado moderno se basa en un acuerdo entre los gobiernos y los ciudadanos. Estados proporcionan bienes colectivos sociales, ya su vez, a travs de un sistema de normas, instituciones, regulaciones y tica para sostener esta responsabilidad el poder, los ciudadanos dan estados legitimidad. Esta negociacin orden y la estabilidad creado a partir de lo que era un sistema global cada vez ms catica. Si algoritmos representan un nuevo espacio sin gobierno, una oculta y, potencialmente, en constante evolucin incognoscible bien pblico, entonces son una afrenta a nuestro sistema democrtico. Si algoritmos representan un nuevo espacio sin gobierno, una oculta y, potencialmente, en constante evolucin incognoscible bien pblico, entonces son una afrenta a nuestro sistema democrtico, que requiere transparencia y la rendicin de cuentas para poder funcionar. Un nodo de poder que existe fuera de estos lmites es una amenaza a la nocin misma de la gobernanza colectiva. Esto, en su esencia, es una nocin uno profundamente antidemocrtico que los estados tendrn que comprometerse con seriedad si van a seguir siendo relevante y legtimo a sus ciudadanos digitales que les dan su poder.