La militarización de las grandes empresas tecnológicas El auge de la industria de defensa de Silicon Valley

En septiembre de 2011, personal de la CIA y las fuerzas armadas de los Estados Unidos, con autorización del entonces Presidente Barack Obama, lanzaron un ataque con drones en Yemen. El clérigo musulmán nacido en los Estados Unidos, Anwar al Awlaki, fue asesinado en el ataque. Quienes organizaron el ataque apuntaron a Awlaki, sobre la base de datos de geolocalización supervisados por la Agencia de Seguridad Nacional como parte de un programa de vigilancia (Scahill y Greenwald 2014). Dos semanas más tarde, otro ciudadano estadounidense fue asesinado en un ataque con drones lanzado por la CIA, en el que se utilizó el mismo tipo de datos: se trataba del hijo de al Awlaki, Abdulrahman al Awlaki, que tenía de 16 años de edad (Friedersdorf, 2012).

Aunque al Awlaki fue asesinado en forma deliberada por fuerzas estadounidenses, otros ciudadanos estadounidenses –y miles de civiles en Afganistán y otros países de Asia Central y Oriente Medio– fueron asesinados por drones en forma accidental (Taylor, 2015). Estos casos presagian un defecto grave en la versión más reciente de la guerra automatizada: la imprecisión de las tecnologías y el enorme margen de error de los nuevos sistemas armamentísticos más sofisticados. En su forma más avanzada, las herramientas computarizadas utilizan inteligencia artificial y aprendizaje automático y pronto podrían tener capacidades autónomas.

Los dispositivos digitales de bolsillo conectados a Internet han transformado a miles de millones de personas de todo el mundo en máquinas de producción de datos, que transmiten información a cientos o incluso miles de algoritmos al día. Aunque hemos integrado rápidamente a los teléfonos inteligentes y las tabletas en nuestras vidas, no solemos reflexionar sobre la facilidad en que los datos almacenados y transmitidos por estos dispositivos pueden militarizarse. Por ejemplo, informes recientes describen el modo en que la Agencia de Inteligencia de la Defensa de los Estados Unidos, junto con el Departamento de Defensa, utiliza periódicamente datos de geolocalización disponibles comercialmente, que se recopilan a partir de los teléfonos celulares personales, en ocasiones sin órdenes judiciales (Tau, 2021). Las agencias militares y de inteligencia pueden utilizar este tipo de datos no solo para espiar, sino también para reconstruir redes sociales e incluso para lanzar ataques mortales contra personas.

Los drones, los programas informáticos de geolocalización, los programas espía y otras herramientas similares son emblemáticas de una nueva serie de colaboraciones entre las grandes empresas tecnológicas y los organismos de defensa. En los últimos veinte años, el Departamento de Defensa y diecisiete organismos gubernamentales de los Estados Unidos que, en conjunto, son conocidos como la comunidad de inteligencia estadounidense, han intentado captar la innovación tecnológica en su origen: Silicon Valley. Agencias militares y de espionaje lo han logrado mediante la creación de puestos en la costa oeste del país; la organización de una junta asesora de alto perfil que vincula al Pentágono con grandes empresas tecnológicas; la coordinación de cumbres, foros y reuniones privadas con inversores y empresarios influyentes; y apelando al compromiso emocional e intelectual de emprendedores, ingenieros, informáticos e investigadores que, en ocasiones, son escépticos respecto de los burócratas del Gobierno, especialmente los que trabajan en el Departamento de Defensa.

No es posible tener un entendimiento cabal de las fuerzas armadas estadounidenses en la actualidad sin realizar un análisis de su profunda conexión con la industria tecnológica.

Las interconexiones entre los mundos de la tecnología de red y la defensa se remontan a más de cincuenta años atrás. Por ejemplo, desde comienzos de la década del sesenta, la Agencia de Proyectos de Investigación Avanzada del Departamento de Defensa (DARPA) desempeñó un papel crucial en financiar la investigación en informática que dio lugar a la creación de ARPANET, precursora de Internet. El desarrollo temprano de Silicon Valley fue financiado en gran parte por organismos de defensa y de inteligencia, y el Pentágono tuvo un interés especial en las empresas tecnológicas durante la Guerra Fría (Heinrich, 2002).

La guerra virtual tiene significados diferentes para diferentes personas. No hay una definición acordada –lo cual deja espacio para interpretar el término ampliamente, holísticamente y antropológicamente. Personalmente, tengo una visión amplia, centrada en cuatro elementos diferentes: sistemas robóticos y de armas autónomas; una versión de alta tecnología de operaciones psicológicas; programas de estimulación y modelización predictiva, que algunas personas denominan contrainsurgencia informática; y guerra cibernética, es decir, el ataque y la defensa de infraestructuras fundamentales. Estas tecnologías y técnicas se basan en la producción, disponibilidad y análisis de un volumen enorme de datos –a menudo datos de vigilancia– recopilados a partir de drones, satélites, cámaras, teléfonos celulares, transacciones electrónicas, redes sociales, mensajes de correo electrónico y otras fuentes de Internet.

También podemos pensarlo en términos de una guerra por algoritmos. Las tecnologías utilizan cada vez más inteligencia artificial para automatizar procesos de adopción de decisiones. La elaboración de armas virtuales se basa en los esfuerzos combinados de una gran variedad de científicos y expertos técnicos, no solo químicos, físicos, ingenieros, informáticos y analistas de datos, sino también investigadores de biotecnología, politólogos, psicólogos y antropólogos. Gran parte de la labor es banal y tiene lugar en edificios anodinos dentro de parques de oficinas suburbanos, campus tecnológicos o laboratorios universitarios. Silicon Valley se convirtió en el principal centro para este tipo de trabajo de defensa e inteligencia.

De algún modo, la guerra virtual es una continuación de la denominada Revolución en Asuntos Militares, una doctrina elaborada por la Oficina de Evaluación Neta del Pentágono en las décadas del ochenta y del noventa. Se orientaba fundamentalmente a hallar soluciones tecnológicas. Tras los atentados del 11 de septiembre, cuando los Estados Unidos iniciaron la guerra mundial contra el terrorismo y entraron en guerra con redes mundiales de insurgentes con tecnologías relativamente sencillas, como bombas improvisadas, rifles y lanza granadas, la Revolución de Asuntos Militares perdió impulso y la contrainsurgencia se puso de moda tras una larga pausa. Pero en la actualidad, en un periodo marcado por la rápida innovación, los modos de gobernanza algorítmicos y el ascenso al poder de naciones rivales como China y Rusia –que están desarrollando sus propias tecnologías bélicas virtuales– el combate informatizado ha vuelto a ocupar un lugar central entre las élites de las instituciones militares estadounidenses.

Mountain View se encuentra entre las montañas boscosas de Santa Cruz y las costas del sur de la Bahía de San Francisco. Durante la primera mitad del siglo XX era una localidad tranquila, donde había explotaciones de ganado, huertas frutales y calles pintorescas. Pero después de que un equipo de científicos, encabezado por William Shockley, inventara el semiconductor allí en 1956, la localidad creció rápidamente junto con el resto de Silicon Valley. Hoy en día es un barrio periférico con más de 80 mil habitantes.

A primera vista, parece extraño que las agencias militares y de inteligencia se instalen allí. Mountain View está a casi 4.000 km de distancia del Pentágono. Es más cerca viajar de San Francisco a Honolulu que a Washington, D.C.

El Pentágono y Silicon Valley no solo están geográficamente lejos, sino que además hay otras diferencias. El Departamento de Defensa suele considerarse una burocracia inflada, tediosa y derrochadora, con estructuras institucionales jerárquicas y normas de trabajo inflexibles. En cambio, la mayor empleadora de Mountain View, Alphabet, la empresa matriz de Google, es una de las compañías más valiosas del mundo. Su campus de diez hectáreas, conocido como Googleplex, incluye más de treinta cafés, comida y bebida gratuitas para sus empleados, gimnasios y piscinas. Frente al edificio principal se erige el esqueleto de un tiranosaurio rex de tamaño real, que los empleados de Google apodaron Stan, de manera cariñosa.

A pesar de estas diferencias –y como consecuencia de ellas– el Secretario de Defensa durante el Gobierno de Obama, Ash Carter, creó un puesto del Pentágono a menos de 3 km de distancia de Googleplex. La Unidad de Innovación de Defensa (DIU, por sus siglas en inglés), fue creada en agosto de 2015 para identificar rápidamente a empresas que desarrollan tecnologías de vanguardia, que podrían ser útiles para las fuerzas armadas, e invertir en ellas (Kaplan, 2016). Con DIUx, el Pentágono construyó su propia aceleradora de empresas emergentes dedicada a financiar empresas especializadas en inteligencia artificial, sistemas robóticos, análisis de megadatos, ciberseguridad y biotecnología.

La nueva sede de DIUx no estaba tan fuera de lugar. Su sede estaba en un edificio que había sido ocupado por la Guardia Nacional del Ejército, en territorio del Centro de Investigación Ames, la mayor instalación de campo de la NASA, y Moffett Field, que en otra época albergaba al Escuadrón de Rescate número 130 de la Guardia Nacional Aérea de California. Las gigantes de defensa Lockheed Martin y Northrop Grumman tiene oficinas a menos de 3 km de distancia. En 2008, el propio Google estaba ocupando ilegalmente territorio del Gobierno: firmó un contrato de alquiler de cuarenta años con NASA Ames por un nuevo campus de investigación. Luego firmó un acuerdo de sesenta años con la NASA para alquilar Moffett Field, una superficie de 400 hectáreas, que incluye enormes hangares para dirigibles (Kastrenakes, 2014). Hoy en día, Google utiliza los hangares para construir  globos estratosféricos que un día podrían brindar servicios de Internet a personas que viven en zonas rurales (Myrow, 2019), o quizá puedan llevar a cabo misiones de vigilancia militar a gran altitud.

La oficina de DIUx estaba muy cerca de las oficinas de otras empresas tecnológicas: Lab126 de Amazon (donde se crearon Kindle, Amazon Echo y otros dispositivos digitales); la sede de LinkedIn; y el campus de Microsoft en Silicon Valley. Las oficinas de Apple se encuentran a 8km de distancia en la localidad vecina de Cupertino. Las nuevas oficinas del Pentágono estaban literalmente en la intersección de las grandes empresas tecnológicas y las grandes compañías de defensa. La oficina de DIUx, que se encuentra en un edificio de ladrillos ocupado, personificaba las contradicciones de la oficina del Pentágono en el oeste de los Estados Unidos. “Los pasillos son grises, las puertas tienen cerraduras de combinación. Pero dentro del edificio, los recién llegados han renovado sus espacios con pizarrones, pizarras y escritorios colocados en diagonales aleatorias para que estén en armonía con el estilo no jerárquico de una empresa emergente de Silicon Valley”, informó un observador (Kaplan, 2016).

El plan de Ash Carter era ambicioso: aprovechar las mentes más brillantes de la industria tecnológica para beneficio del Pentágono. Carter, que es originario de Pennsylvania, trabajó durante varios años en la Universidad de Stanford antes de ser nombrado Secretario de Defensa y quedó impresionado con el espíritu innovador y los magnates millonarios de la Bahía de San Francisco. “Están creando nueva tecnología, prosperidad, conectividad y libertad” afirmó Carter (Hempel, 2015). “Se consideran empleados públicos y quisieran tener a alguien en Washington con quien establecer un contacto”. Sorprendentemente, Carter fue el primer Secretario de Defensa que visitó Silicon Valley en más de veinte años.

El Pentágono tiene su propio organismo de investigación y desarrollo (DARPA), pero promueve proyectos que tardarán decenios, no meses. Carter quería una oficina ágil y optimizada que pudiera servir como una especie de intermediario, que canalizara decenas o cientos de millones de dólares del enorme presupuesto del Departamento de Defensa a empresas prometedoras que desarrollan tecnologías a punto de concluirse. Idealmente, DIUx funcionaría como enlace para negociar las necesidades de generales veteranos de cuatro estrellas, líderes civiles del Pentágono e ingenieros y emprendedores jóvenes. Pronto, DIUx abrió oficinas en otras ciudades con un sector tecnológico pujante: Boston y Austin.

Carter esperaba que, en el corto plazo, DIUx entablaría relaciones con empresas emergentes locales, contrataría personal de alto nivel, contaría con la participación de reservistas del Ejército en proyectos específicos y simplificaría los engorrosos procesos de adquisiciones del Pentágono. Sus objetivos de largo plazo eran aún más ambiciosos: asignar a oficiales militares de carrera a proyectos futuristas en Silicon Valley durante periodos de varios meses, para “exponerlos a nuevas culturas e ideas, que puedan aplicar en el Pentágono e invitar a los expertos informáticos a pasar un tiempo en el Departamento de Defensa” (Hempel, 2015).

En marzo de 2016, Carter organizó la Junta de Innovación de Defensa (DIB), un grupo de especialistas civiles encargado de brindar asesoramiento y recomendaciones a las autoridades del Pentágono (Mehta, 2016). Nombró al ex director ejecutivo de Google y miembro de la junta directiva de Alphabet, Eric Schmidt, para presidir la junta, que incluía a actuales y antiguos ejecutivos de Facebook, Google e Instagram, entre otros.

Tres años después del lanzamiento de DIUx, el organismo fue renombrado Unidad de Innovación de Defensa (DIU), para señalar que ya no estaba en una fase experimental. A pesar de haber atravesado algunas dificultades iniciales, el entonces Subsecretario de Defensa Patrick Shanahan describió a DIUx como “un activo demostradamente valioso”. “La organización en sí ya no es experimental”, afirmó en 2018 (Mitchell, 2018). “DIU sigue siendo fundamental para fomentar la innovación en todo el Departamento y transformar el modo en que este construye una fuerza más letal”. A comienzos de 2018, el Gobierno de Trump solicitó un aumento considerable del presupuesto de la DIU para el año fiscal 2019, de 30 millones de dólares a 71 millones de dólares (Williams, 2018). Para 2020, el Gobierno solicitó 164 millones de dólares, más del doble de lo que había solicitado el año anterior (Behrens, 2019).

Si bien funcionarios del Pentágono presentaron a la DIUx como una organización pionera, en realidad se inspiró en otra empresa fundada para brindar servicios a la comunidad de inteligencia de los Estados Unidos. A finales de la década del noventa, la CIA creó una entidad sin fines de lucro denominada Peleus, con el fin de capitalizar las innovaciones que se estaban desarrollando en el sector privado, con especial hincapié en Silicon Valley (Reinert, 2013). Poco tiempo después, la organización pasó a llamarse In-Q-Tel.

Su primer presidente, Gilman Louie, describió como la organización fue creada para resolver “el problema de los megadatos”:

[Las autoridades de la CIA] temían lo que en el momento denominaron un posible “Pearl Harbor digital”...Cuando ocurrió el ataque a Pearl Harbor, las diferentes partes del Gobierno tenían información parcial, pero no lograron reunirla para concluir que “el ataque a Pearl Harbor es inminente”...En 1998, comenzaron a darse cuenta de que la información estaba aislada en diferentes agencias de inteligencia y que no era posible vincularla...por lo que estaban intentando resolver el problema de los megadatos. ¿Cómo reunir esa información para obtener inteligencia? (Louie,2017).

Al destinar fondos de la CIA a empresas emergentes que desarrollan tecnologías de vigilancia, recopilación de inteligencia, análisis de datos y guerra cibernética, el organismo esperaba obtener una ventaja respecto de sus rivales internacionales al cooptar a ingenieros, hackers, científicos y programadores creativos. En 2005, la CIA destinó alrededor de 37 millones de dólares a In-Q-Tel. En 2014, la financiación anual destinada a la organización aumentó exponencialmente a alrededor de 94 millones de dólares. Ese mismo año, la CIA había realizado 325 inversiones en una serie de empresas tecnológicas (Paletta, 2016).

Si In-Q-Tel suena a algo salido de una película de James Bond es porque la organización (al igual que su nombre) está parcialmente inspirada en la División Q, la oficina ficticia de investigación y desarrollo del servicio secreto británico en las novelas de espionaje de Ian Fleming, popularizada en su exitosa adaptación cinematográfica de Hollywood. In-Q-Tel y DIUx se crearon para transferir tecnologías emergentes del sector privado a agencias militares y de inteligencia de los Estados Unidos, respectivamente. Una interpretación  un tanto diferente es que estas organizaciones se crearon para “captar innovaciones tecnológicas...y nuevas ideas" (Cook, 2016). Algunos críticos señalan a In-Q-Tel como un excelente ejemplo de la militarización de la industria tecnológica.

En términos monetarios y tecnológicos, probablemente la inversión más rentable de In‑Q‑Tel haya sido Keyhole, una empresa con sede en San Francisco que desarrolló un programa informático que conectaba imágenes satelitales con fotos aéreas para crear modelos tridimensionales de la superficie de la Tierra. El programa podía básicamente crear un mapa de alta resolución de todo el planeta. In-Q-Tel brindó financiación al programa en 2003 y en unos meses, las fuerzas armadas de los Estados Unidos estaban usando Keyhole para apoyar a los soldados estadounidenses en Irak (Schachtman, 2010).

Fuentes oficiales nunca revelaron cuánto In-Q-Tel había invertido en Keyhole, pero en 2004, Google adquirió la empresa emergente. La renombró Google Earth. La adquisición fue significativa: el periodista Yasha Levine señaló que el acuerdo entre Keyhole y Google “marcó el momento en que la empresa dejó de ser exclusivamente una empresa de Internet dirigida a los consumidores y comenzó a integrarse en el Gobierno de los Estados Unidos” (Levine, 2018). En 2007, Google estaba intentando obtener contratos con el Gobierno en organismos militares, de inteligencia y civiles (Kehualani Goo y Klein, 2007)

Además de Google, la cartera de In-Q-Tel incluye a empresas con proyectos futuristas como Cyphy, que fabrica drones conectados a Internet que pueden realizar misiones de reconocimiento durante periodos prolongados gracias a una continua fuente de energía; Atlas Wearables, que produce rastreadores de actividad física que monitorizan los movimientos del cuerpo y los signos vitales; Fuel3d, que vende un dispositivo de bolsillo que produce imágenes tridimensionales detalladas de estructuras u objetos; y Sonitus, que ha desarrollado un sistema de comunicaciones inalámbricas, que entra parcialmente en la boca del usuario (Szoldra, 2016). Mientras que DIUx ha apostado a las empresas de robótica e inteligencia artificial, In-Q-Tel ha intentado generar tecnologías de vigilancia –empresas de satélites geoespaciales, sensores avanzados, equipos biométricos, analistas de ADN, dispositivos de lenguaje y traducción y sistemas de ciberdefensa–.

Más recientemente, In-Q-Tel ha comenzado a centrarse en empresas que se especializan en extraer datos de las redes sociales y otras plataformas de Internet. Estas incluyen Dataminr, que transmite datos de Twitter para detectar tendencias y posibles amenazas; Geofeedia, que recopila mensajes de redes sociales indexados geográficamente, vinculados con noticias de último momento, como protestas; y TrasnVoyant, una empresa que recopila datos de satélites, radares, drones y otros sensores (Fang, 2016).

Es probable que algunas personas incluso aplaudan que los organismos militares y de inteligencia de los Estados Unidos hayan contratado a empresas tecnológicas. Habida cuenta del rápido desarrollo y despliegue de sistemas armamentísticos y programas de vigilancia de alta tecnología por países rivales como China –que ha puesto en marcha tecnologías similares contra sus propios ciudadanos en la provincia de Xinjiang (Wang, 2019)–, sus defensores suelen afirmar que las fuerzas armadas de los Estados Unidos no pueden darse el lujo de estar rezagadas en la carrera armamentista de inteligencia artificial. Pero esos argumentos no tienen en cuenta que la fusión de las grandes empresas de defensa con otra gran industria atará aún más a la economía estadounidense a guerras interminables en el extranjero y al control policial militarizado dentro del país. 

Muchas empresas financiadas por In-Q-Tel y DIUx son pequeñas empresas emergentes desesperadas por efectivo. Pero el interés del Pentágono en Silicon Valley también se extiende a las mayores empresas en Internet.

Analicemos el caso del Proyecto Maven, conocido formalmente como el Equipo Interfuncional de Guerra Algorítmica. El Subsecretario de Defensa Robert Work creó el programa en abril de 2017 y lo describió como un intento de “acelerar la integración por el Departamento de Defensa de megadatos y aprendizaje automático y para convertir el enorme volumen de datos disponible en inteligencia y análisis con aplicaciones prácticas” (Work, 2017). El Boletín de Científicos Atómicos resume el problema :

Aviones y satélites estadounidenses recopilan más datos brutos de los que el Departamento de Defensa podría analizar incluso si dedicara toda su fuerza de trabajo a ello.  Lamentablemente, el análisis de imágenes suele ser una tarea tediosa –implica mirar pantallas para contar automóviles, personas o actividades...la mayoría de los datos de los sensores simplemente desaparecen y nunca se observan–, a pesar de que el Departamento ha contratado a la mayor cantidad posible de analistas durante años (Allen, 2017).

El Pentágono había gastado decenas de miles de millones de dólares en sensores. Crear algoritmos para clasificar y analizar las imágenes tenía sentido desde el punto de vista económico. A un costo previsto de 70 millones de dólares, el Proyecto Maven seguramente pareciera una ganga. La magnitud de la labor era abrumadora. En su estado actual, los sistemas de inteligencia artificial necesitan una gran cantidad de datos para el “aprendizaje profundo”, que básicamente significa aprender mediante el ejemplo. En la segunda mitad de 2017, las personas que trabajaban en el Proyecto Maven supuestamente etiquetaron más de 150.000 imágenes visuales para crear los primeros conjuntos de datos con el fin de entrenar a los algoritmos. Las imágenes –fotos de vehículos, personas, objetos y acontecimientos– debían representar cientos o incluso miles de condiciones variables: diferentes altitudes, ángulos fotográficos, resolución de imagen, condiciones de iluminación, etcétera.

¿Qué organización podía asumir una tarea de esa magnitud? Funcionarios del Pentágono no revelaron qué empresas participaron, pero personal interno dio a entender que actores de importantes empresas tecnológicas estuvieron involucrados (Allen, 2017). El Coronel de la Infantería de Marina, Drew Cukor, que encabezaba el proyecto Maven, observó: “Estamos en una carrera armamentista de inteligencia artificial. Está ocurriendo en la industria y las cinco grandes empresas de Internet están dedicando todos sus recursos a desarrollar esta tecnología”. Muchos habrán notado que Eric Schmidt [el entonces director ejecutivo de Alphabet, Inc., la empresa matriz de Google] ahora considera a Google una empresa de inteligencia artificial, no una empresa de datos” (Pellerin, 2017).

Apenas ocho meses después de que el Departamento de Defensa lanzara el Proyecto Maven, las fuerzas armadas estaban utilizando los algoritmos del programa para apoyar misiones con drones contra el ISIS en Irak y Siria.

En marzo de 2018, Gizmodo publicó una serie de artículos de investigación incendiarios, en los que se revelaba que el Pentágono había contratado a Google para trabajar en el Proyecto Maven en septiembre de 2017 (Conger, 2018a). Según correos electrónicos internos de ejecutivos de Google, el contrato era de al menos 15 millones de dólares, y estaba previsto que ascendería a 250 millones de dólares (Statt, 2018).

En algunos correos electrónicos se detallaban reuniones entre ejecutivos de Google y el Subsecretario de Defensa Jack Shanahan(Conger, 2018b). Más de 10 empleados de Google fueron asignados al proyecto y la empresa se había asociado con otras, como DigitalGlobe, una compañía de imágenes geoespaciales, y CrowdFlower, una empresa de colaboración abierta. CrowdFlower (que desde entonces ha cambiado su nombre a Figure Eight) contrató a los denominados “trabajadores colaborativos” –personas que realizan tareas repetitivas en línea, como identificar fotografías– para que etiquetaran miles de imágenes para el “aprendizaje profundo” algorítmico. Al parecer, estos trabajadores no sabían lo que estaban construyendo ni a quién beneficiaría (Conger, 2018b).

Algunos mensajes internos de Google daban a entender que la empresa tenía aspiraciones de ir más allá de lo que se había sugerido inicialmente en los anuncios del Pentágono. En un correo electrónico se hacía referencia a la creación de un sistema de espionaje “parecido a Google Earth” que diera a los usuarios la posibilidad de “hacer clic en un edificio y ver todo lo que está asociado a él”, incluidas personas y vehículos.

A algunos funcionarios de Google les preocupaban las posibles repercusiones públicas de que se filtraba el Proyecto Maven: “Creo que deberíamos realizar una buena campaña de relaciones públicas sobre la colaboración entre el Departamento de Defensa y GCP desde una perspectiva de la tecnología en la nube (almacenamiento, redes, seguridad, etcétera)”, escribió Fei-Fei Li, principal científico de inteligencia artificial de Google Cloud, “pero debemos evitar A TODA COSTA mencionar o hacer referencia a la inteligencia artificial” (Conger, 2018c).

Sin embargo, finalmente se filtró la información.

En febrero de 2018, correos electrónicos internos sobre el Proyecto Maven se circularon ampliamente entre empleados de Google. Muchos de ellos se sorprendieron y alarmaron por lo que habían hecho los principales ejecutivos de la empresa. En unos meses, más de 4.000 investigadores de Google habían firmado una carta dirigida al director ejecutivo de la empresa, Sundar Pichai, para exigir la anulación del contrato del Proyecto Maven. La carta, firmada por varios ingenieros de alto nivel, comenzaba con la siguiente declaración: “Creemos que Google no debería participar en el negocio de la guerra”. También instaba a Google a elaborar “una política clara que establezca que ni Google ni sus contratistas construirían tecnología de guerra”. Al final del año, alrededor de una decena de empleados renunció en protesta contra los contratos militares de la empresa y la falta de transparencia de los ejecutivos (Conger, 2018c).

Sorprendentemente, los empleados lograron su objetivo, al menos temporalmente. A principios de junio, Google anunció que la empresa dejaría de trabajar en el Proyecto Maven cuando venciera el contrato. Días más tarde, Google publicó un conjunto de directrices éticas o “principios de inteligencia artificial, en los que se afirmaba que la empresa “no diseñaría ni desplegaría inteligencia artificial” destinada a sistemas armamentísticos para “vigilancia que violara las normas internacionalmente aceptadas” o para tecnologías utilizadas en contravención del derecho internacional y los derechos humanos (Pichar, 2018).1

El compromiso de Google de no renovar su contrato con el Proyecto Maven era demasiado bueno para ser cierto. En marzo de 2019, The Intercept obtuvo un correo electrónico de Google en el que se señalaba que una empresa tercera seguiría trabajando en el Proyecto Maven utilizando “la Plataforma Google Cloud disponible (un servicio informático básico, en lugar de Cloud AI u otros servicios en la nube) para alivianar parte de la carga de trabajo”. Walker añadió que Google estaba trabajando con el “Departamento de Defensa para realizar la transición de conformidad con los principios de inteligencia artificial y los compromisos contractuales” (Fang, 2019).

Otros informes revelaron que el Departamento de Defensa había adjudicado el contrato del Proyecto Maven a Anduril Industries, conocida por haber creado los anteojos de realidad virtual Oculus Rift. El año anterior, Anduril había puesto a prueba un sistema de vigilancia desarrollado para agentes de la Oficina de Aduanas y Protección Fronteriza de los Estados Unidos. El sistema utiliza inteligencia artificial para detectar la presencia de personas que intentan cruzar la frontera de los Estados Unidos.

Aunque los informes periodísticos daban a entender que Google (y posteriormente Anduril) eran las únicas empresas que habían participado en el Proyecto Maven, la realidad es mucho más compleja y preocupante. Un examen cuidadoso de la organización de investigación sin fines de lucro Tech Inquiry documenta la participación más profunda de numerosos contratistas y subcontratistas.2 El Pentágono otorgó las “adjudicaciones principales” a ECS Federal y Booz Allen Hamilton, y las “subadjudicaciones” a una serie de empresas, como Microsoft, Clarifai, Rebellion Defense, Cubic Corporation, GATR Technologies, Technical Intelligence Solutions y SAP National Security Services, entre otras. Estos contratos nunca fueron ampliamente publicitados.

Aunque los empleados de Google que se opusieron al Proyecto Maven representaban tan solo un pequeño porcentaje de los 70.000 empleados de la empresa, lograron comenzar la discusión sobre los contratos militares en el sector tecnológico y generaron un debate más amplio sobre la ética en la inteligencia artificial.

La revuelta en Google se amplió a otras grandes empresas tecnológicas e inspiró a otras personas a seguir el ejemplo. En febrero de 2019, más de 200 empleados de Microsoft exigieron que la empresa cancelara un contrato de 480 millones de dólares con el Ejército de los Estados Unidos para abastecer a soldados con más de 100 mil anteojos de realidad aumentada HoloLens. El llamado a licitación del Pentágono establecía que se necesitaba una pantalla montada en la cabeza capaz de dar a los soldados visión nocturna, la búsqueda sigilosa de armas y la capacidad de reconocer amenazas automáticamente. Según el anuncio, idealmente otorgaría a los soldados “mayor letalidad, movilidad y percepción situacional” (Kelly, 2018).

En una carta abierta al director ejecutivo de Microsoft, Satya Nadella, los trabajadores de la empresa expresaron preocupación de que si HoloLens caía en manos de las fuerzas armadas, podría “diseñarse para ayudar a personas a matar” y “convertiría a la guerra en un videojuego simulado”. Los empleados añadieron que “no acordamos trabajar en el desarrollo de armas y exigimos que se tenga en cuenta nuestra opinión con respecto a cómo se utiliza nuestro trabajo” (Lecher, 2019). Los ejecutivos de Microsoft se negaron a anular el contrato. Nadella afirmó: “no vamos a retener tecnología de instituciones que hemos elegido democráticamente para que protejan nuestras libertades” (Riley y Burke, 2019).

A mediados de 2018, alrededor de 450 empleados de la gigante tecnológica Amazon firmaron una carta para exigir a la empresa que dejara de vender Rekognition –un programa de reconocimiento facial– a organismos de orden público (Conger, 2018d). La carta de los empleados también pedía a la división de Servicios Web de Amazon que dejara de alojar a Palantir, una empresa que brindaba programas informáticos de análisis de datos al Servicio de Inmigración y Control de Aduanas de los Estados Unidos, debido a que este organismo deportaba a niños no acompañados y sus familiares. El presidente de Amazon Jeff Bezos hizo caso omiso de la carta de los empleados. “Una de las tareas del equipo de dirección es adoptar la decisión correcta, aunque no sea la más aceptada”, dijo en octubre de 2018. “Si las grandes empresas tecnológicas dan la espalda al Departamento de Defensa de los Estados Unidos, este país estará en problemas” (Leskin, 2018).

Cuando los trabajadores del sector tecnológico expresaron renuencia a participar en proyectos militares, los ejecutivos vendieron los productos de la empresa a funcionarios del Pentágono. Microsoft anunció Azure Government Secret, un servicio en la nube para el Departamento de Defensa y clientes de la comunidad de inteligencia, que implicaba “tareas clasificadas secretas de los Estados Unidos” (Keane,2021). Los sitios web de Oracle se jactaron de que sus productos “ayudan a organizaciones militares a mejorar su eficiencia, preparación y ejecución de misiones”.3 Y Amazon creó un sofisticado video promocional de noventa segundos en agosto de 2018, titulado simplemente “Servicios web de Amazon para el combatiente de guerra”.4

Las tecnologías de Silicon Valley demuestran las consecuencias impredecibles de desplegar nuevo hardware y software. La idea de que una invención pueda utilizarse tanto para fines pacíficos como militares, es decir, la noción de la tecnología de uso dual, se ha vuelto ampliamente aceptada en la sociedad estadounidense en los últimos 100 años.5 La historiadora Margaret O’Mara nos recuerda que durante la Guerra Fría, “Silicon Valley construía pequeños dispositivos: microondas y radares para comunicación de alta frecuencia, transistores y circuitos integrados. Silicon Valley construía máquinas miniatura elegantes que podían alimentar misiles y cohetes, pero también podían ser utilizados con fines pacíficos –en relojes, calculadoras, electrodomésticos y computadoras–” (O’Mara, 2018).

Estas tecnologías siguen teniendo aplicaciones de uso dual. Google Earth puede utilizarse para trazar mapas y para la investigación geográfica, pero puede utilizarse también por equipos de las Fuerzas Especiales para atacar redes de electricidad, puentes y otro tipo de infraestructura (Tucker, 2015). En un principio Microsoft comercializó HoloLens como un dispositivo de realidad aumentada para jugadores de videojuegos, artistas y arquitectos, pero el consumidor más redituable probablemente sea la infantería. El programa de reconocimiento facial de Amazon puede utilizarse para garantizar la seguridad de transacciones bancarias y de cajeros automáticos, pero también puede utilizarse como tecnología de vigilancia para organismos militares, de inteligencia o del orden público, como el Servicio de Inmigración y Control de Aduanas de los Estados Unidos. Las plataformas en la nube ofrecidas por Amazon, Oracle, Microsoft y Google tienen la capacidad de almacenar datos para investigadores científicos, funcionarios de salud pública y empresas comerciales. Pero también pueden aumentar la letalidad de las fuerzas militares.

Quizá haya quienes digan que los ingenieros y científicos disidentes de Google son ingenuos. ¿No sabían, acaso, en lo que se estaban metiendo? Si los científicos son conscientes de que cuando producen conocimientos probablemente no tienen control de cómo se utilizan esos conocimientos, entonces seguramente sepan que los dispositivos y aplicaciones que estaban creando en algún momento podían ser utilizados como armas. ¿O no?

Es posible que muchos científicos e ingenieros que ahora se oponen al trabajo militar de Silicon Valley nunca habrían imaginado que serían arrastrados al complejo militar‑industrial-tecnológico. Quizá incluso decidieron trabajar para empresas tecnológicas porque pensaban que esas empresas no formaban parte del negocio de armas. A fin de cuentas, la carta de los manifestantes a Microsoft dice: “No acordamos trabajar en el desarrollo de armas”.

Los investigadores quizá hayan tenido una fe ciega en los ejecutivos de las empresas. Los empleados de Google se sintieron engañados por decisiones secretas que dieron lugar al contrato del Proyecto Maven. Los periodistas suelen reconocer que la empresa tiene la mejor cultura empresarial de los Estados Unidos, no solo porque los empleados pueden llevar a sus mascotas al trabajo y tienen acceso a alimentos orgánicos preparados por chefs profesionales, sino también porque su organización tiene una reputación de valorar la colaboración de los empleados.

Cuando el Proyecto Maven salió a luz, la falsa conciencia de los trabajadores tecnológicos comenzó a evaporarse. Cuando se obtiene un salario de seis dígitos como ingeniero o programador al salir de la universidad, es difícil considerarse proletario, especialmente cuando gozas de los beneficios que ofrece la industria –comidas gourmet gratuitas, gimnasio en la oficina y servicio de guardería gratuito, por nombrar algunos. Para miles de empleados, ser excluidos de las discusiones acerca de si la empresa debería colaborar en el desarrollo de armas de inteligencia artificial despertó un sentido de conciencia de clase latente.

Pero, había otro problema: Las relaciones de larga data de Silicon Valley con el Pentágono. Como explica el presente artículo y como ha observado  Margaret O’Mara “Aunque sus empleados no se den cuenta, las gigantes tecnológicas hoy en día contienen algún elemento de la industria de defensa...Ello implica un reconocimiento más cabal de la larga y complicada historia de Silicon Valley y el negocio de la guerra” (O’Mara, 2018).

La separación entre el Pentágono y Silicon Valley es en gran medida un mito, nunca existió realmente, al menos no de manera significativa. Las diferencias son superficiales y estilísticas. Durante la mayor parte de un siglo, la economía y cultura regionales se han visto afectadas por lo que podría denominarse el complejo militar-industrial-universitario. Durante la Guerra Fría, el Pentágono ayudó a construir la industria informática al adjudicar contratos militares en campos como la electrónica de las microondas, la producción de misiles y satélites, y los semiconductores.

El historiador Thomas Heinrich nos recuerda que las representaciones populares de “ingeniosos inventores-empresarios e inversores de capital de riesgo que forjaron una economía dinámica de tecnología avanzada sin la intervención del Gobierno” alejaron la atención del papel fundamental de la “financiación del Pentágono para investigación y desarrollo, que contribuyó a sentar las bases tecnológicas para una nueva generación de empresas emergentes” en el siglo XXI (Heinrich, 2002). Desde la década del cincuenta hasta finales de la década del noventa, el mayor empleador del sector privado de Silicon Valley no era Hewlett Packard, Apple, Ampex o Atari. Era la gigante de defensa Lockheed. Hoy en día, la región afronta un patrón conocido, aunque el tamaño y la influencia colosales de las empresas tecnológicas actuales eclipsan a las empresas informáticas de antaño.

Posiblemente ello tendrá grandes repercusiones en el futuro cercano. Jack Poulson, un ex científico de alto nivel de Google y cofundador de Tech Inquiry, me lo explicó de la siguiente manera: “Creo que estamos ante la transformación de las principales empresas tecnológicas de los Estados Unidos en contratistas de defensa y me atrevería a vaticinar que en los próximos años adquirirán a contratistas de defensa, algo similar a cuando Amazon compró Raytheon” (Poulson, J., Comunicación personal, 19 de junio de 2019).

La verdadera separación no es entre el Pentágono y Silicon Valley, sino que está en el seno de Silicon Valley, donde un modesto contingente de ingenieros y científicos políticamente comprometidos han ejercido presión en contra de militarizar su trabajo. Pero, ¿bajarán los brazos ante el ataque frontal de relaciones públicas, campañas sensibleras, discusión “colaborativa”, más remuneración y privilegios, y quizá la amenaza tácita de perder sus empleos o de que estos sean externalizados?

Es muy pronto para saber lo que sucederá, pero el futuro de la guerra virtual y los campos de batalla digitales posiblemente esté en manos de esos empleados.

Allen, Gregory C. (21 de diciembre de 2017). Project Maven Brings AI to the Fight against ISIS. Bulletin of the Atomic Scientists. https://thebulletin.org/2017/12/project-maven-brings-ai-to-the-fight-against-isis/

Amazon Web Services (9 de agosto 2018). Amazon Web Services for the Warfighter [video en línea]. https://www.youtube.com/watch?v=HHbBizyTet4

Behrens, J. (28 de mayo de 2019). FY 20 Budget Request: DOD Science and Technology. AIP. https://www.aip.org/fyi/2019/fy20-budget-request-dod-science-and-technology

Conger, Kate (21 de mayo de 2018a). The Pentagon’s Controversial Drone AI-Imaging Project Extends beyond Google. Gizmodo. https://gizmodo.com/the-pentagons-controversial-drone-ai-imaging-projectex-1826046321

Conger, Kate (1 de junio de 2018b). Google Plans Not to Renew Its Contract for Project Maven. Gizmod. https://gizmodo.com/google-plans-not-to-renew-its-contract-for-project-mave-1826488620

Conger, Kate (14 de mayo de 2018c). Google Employees Resign in Protest against Pentagon Contract. Gizmodo. https://gizmodo.com/google-employees-resign-in-protest-against-pentagon-con-1825729300

Conger, Kate (21 de junio de 2018d). Amazon Workers Demand Jeff Bezos Cancel Face Recognition Contracts with Law Enforcement. Gizmodo. https://gizmodo.com/amazon-workers-demand-jeff-bezos-cancel-facerecogni…

Cook, Cynthia R. (23 de noviembre 2016). DIUx: Capturing Technological Innovation. The RAND Blog. https://www.rand.org/blog/2016/11/diux-capturing-technological-innovation.html

Fang, Lee (14 de abril de 2016). The CIA Is Investing in Firms that Mine Your Tweets and Instagram Photos. The Intercept. https://theintercept.com/2016/04/14/in-undisclosed-cia-investments-social-media-mininglooms-large/

Fang, Lee (9 de marzo de 2019). Defense Tech Startup Founded by Trump’s Most Prominent Silicon Valley Supporters Win Secretive Military AI Contract. The Intercept. https://theintercept.com/2019/03/09/anduril-industries-project-maven-pa…

Friedersdorf, Conor (24 de octubre de 2012). How Team Obama Justifies the Killing of a 16-Year-Old American. The Atlantic. https://www.theatlantic.com/politics/archive/2012/10/how-team-obama-justifies-the-killingof-a-16-year-old-american/264028/

Heinrich, Thomas (2002). Cold War Armory: Military Contracting in Silicon Valley. Enterprise & Society, 3(2), 247-284. https://www.jstor.org/stable/23699688

Hempel, Jessi (18 de noviembre de 2015). DOD Head Aston Carter Enlists Silicon Valley to Transform the Military. Wired. https://www.wired.com/2015/11/secretary-of-defense-ashton-carter/

Keane, Tom (16 de Agosto de 2021). Azure Government Top Secret Now Generally Available for US National Security Missions. Microsoft Azure Blog. https://azure.microsoft.com/en-us/blog/azuregovernmenttop-secret-now-ge…

Kaplan, Fred (19 de diciembre de 2016). The Pentagon’s Innovation Experiment. Technology Review. https://www.technologyreview.com/2016/12/19/155246/the-pentagons-innovation-experiment/

Kastrenakes, Jacob (10 de noviembre de 2014). Google Signs 60-Year Lease on NASA Airfield and Hangars. The Verge. https://www.theverge.com/2014/11/10/7190057/nasa-leases-moffett-airfield-to-google60-years

Kehualani Goo, Sar y Klein, Alan (28 de febrero de 2007). Google Makes Its Pitch to Expand Federal Business. Washington Post. https://www.washingtonpost.com/archive/business/2007/02/28/google-makesits-pitch-to-expand-federal-business/7d045b92-a5bb-44eb-bd6e-c85355210caf/

Kelly, Makena (28 de noviembre de 2018). Microsoft Secures $480 Million HoloLens Contract from US Army. The Verge. https://www.theverge.com/2018/11/28/18116939/microsoft-army-hololens-48…

Lecher, Colin (22 de febrero de 2019). Microsoft Workers’ Letter Demands Company Drop Army HoloLens Contract. The Verge. https://www.theverge.com/2019/2/22/18236116/microsoft-hololens-army-contractworkers-letter

Leskin, Paige (6 de noviembre de 2018). Amazon Employees Are Reportedly Gearing Up to Confront CEO Jeff Bezos at an All-Staff Meeting This Week about Selling Facial Recognition Software to Law Enforcement. Business Insider. https://www.businessinsider.com/amazon-workers-confront-jeff-bezos-faci…

Levine, Yasha (2018). Google Earth: How the Tech Giant is Helping the State Spy on Us. The Guardian. https://www.theguardian.com/news/2018/dec/20/googles-earth-how-the-tech…

Louie, Gilman (8 de mayo de 2017). Citado en una entrevista con Ernestine Fu en la Universidad de Stanford. https://www.youtube.com/watch?v=DfUm0RxXWxI

Mehta, Aaron (10 de junio de 2016). Carter Names Three to Innovation Board. Defense News [en línea], 10 de junio. https://www.defensenews.com/industry/techwatch/2016/06/10/carter-names-three-to-innovation-board/

Mitchell, Billy (9 de agosto de 2018). No Longer an Experiment—DIUx Becomes DIU, Permanent Pentagon Unit. FedScoop. https://fedscoop.com/diu-permanent-no-longer-an-experiment/

Myrow, Rachael (11 de abril de 2019). That Giant Structure off 101 once Housed a Flying Aircraft Carrier. KQED Bay Curious [podcast]. https://www.kqed.org/news/11738379/that-giant-structure-off-101-once-housed-a-flyingaircraft-carrier

O’Mara, Margaret (26 de octubre de 2018). Silicon Valley Can’t Escape the Business of War. New York Times. https://www.nytimes.com/2018/10/26/opinion/amazon-bezos-pentagon-hq2.html

Oracle (2023). Oracle Cloud for the Defense Department. Oracle website. https://www.oracle.com/industries/government/us-defense/

Paletta, Damian (30 de agosto de 2016). The CIA’s Venture-Capital Firm, Like Its Sponsor, Operates in the Shadows. Wall Street Journal. https://www.wsj.com/articles/the-cias-venture-capital-firm-like-its-sponsoroperates-in-the-shadows-1472587352

Pellerin, Cheryl (21 de julio de 2017). Project Maven to Deploy Computer Algorithms to War Zone by Year’s End. DOD News. https://www.defense.gov/News/News-Stories/Article/Article/1254719/project-maven-todeploy-computer-algorithms-to-war-zone-by-years-end/

Pichar, Sundar (7 de junio de 2018). AI at Google: Our Principles. Google Blog. https://blog.google/technology/ai/ai-principles/

Reinert, John T. (2013). In-Q-Tel: The Central Intelligence Agency as Venture Capitalist. Northwestern Journal of International Law & Business, 33(3), 677-709. https://scholarlycommons.law.northwestern.edu/cgi/ viewcontent.cgi?article=1739&context=njilb

Riley, Charles y Burke, Samuel (25 de febrero de 2019). Microsoft CEO Defends US Military Contract That Some Employees Say Crosses a Line. CNN. https://www.cnn.com/2019/02/25/tech/augmented-realitymicrosoft-us-milit…

Schachtman, Noah (18 de julio de 2010). Google, CIA Invest in “Future” of Web Monitoring. Wired. https://www.wired.com/2010/07/exclusive-google-cia/

Scahill, Jeremy y Greenwald, Glenn (9 de febrero de 2014). The NSA’s Secret Role in the US Assassination Program. The Intercept. https://theintercept.com/2014/02/10/the-nsas-secret-role/

Statt, Nick (1 de junio de 2018). Google Reportedly Leaving Project Maven Military AI Program after 2019. The Verge. https://www.theverge.com/2018/6/1/17418406/google-maven-drone-imagery-a…

Szoldra, Paul (21 de septiembre de 2016). 14 Cutting Edge Firms Funded by the CIA. Business Insider. https://www.businessinsider.com/companies-funded-by-cia-2016-9

Tau, Byron (2021). Military Intelligence Agency Says It Monitored US Cellphone Movements without Warrant. Wall Street Journal. https://www.wsj.com/articles/military-intelligence-agencysays-it-monito…

Taylor, Adam (23 de abril de 2015). The US Keeps Killing Americans in Drone Strikes, Mostly by Accident. Washington Post. https://www.washingtonpost.com/news/worldviews/wp/2015/04/23/the-u-s-keeps-killingamericans-in-drone-strikes-mostly-by-accident/

Tech Inquiry (10 de septiembre de2021). Easy as PAI [informe en línea]. https://techinquiry.org/EasyAsPAI/resources/EasyAsPAI.pdf

Tucker, Patrick (7 de enero de 2015). How US Special Forces Uses Google Maps. Defense One. https://www.defenseone.com/technology/2015/01/how-us-special-forces-uses-google-maps/102396/

Wang, Maya (1 de mayo de 2019). China’s Algorithms of Oppression. Human Rights Watch Report https://www.hrw.org/report/2019/05/01/chinas-algorithms-repression/reverse-engineering-xinjiang-police-mass

Williams, Lauren (12 de febrero de 2018). DIUx Gets a Big Boost in FY19 Budget. FCW. https://fcw.com/acquisition/2018/02/diux-gets-a-big-boost-in-fy19-budget/198959/

Work, R.O. (2017). Memorando oficial de los Estados Unidos, 26 de abril. https://www.govexec.com/media/gbc/docs/pdfs_edit/establishment_of_the_a…

<    >