La nave de la Comunicacion

Google va a la guerra virtual y real

(Por Lara Seligman/foreignpolicy.com)  Google llegó a los titulares a principios de este mes cuando se retiró del programa insignia de inteligencia artificial del Departamento de Defensa de EE. UU. Conocido como Project Maven, que aprovecha algoritmos sofisticados para analizar secuencias de drones.

Hasta entonces, el proyecto había sido tan reservado que poca gente sabía que Google estaba involucrado, ni siquiera el ex presidente ejecutivo de la empresa matriz de Google, Alphabet, que ahora es miembro del Consejo Asesor de Innovación del Departamento de Defensa.

Pero la decisión de Google de no buscar otro contrato para el proyecto de inteligencia artificial la ha puesto en el punto de mira a medida que las compañías tecnológicas enfrentan una ola de protestas por los contratos del gobierno.

"Creemos que Google no debería estar en el negocio de la guerra", escribieron más de 3.000 empleados de Google en una carta de abril al presidente de la compañía, SundarPichai, que provocó la decisión.

 

La creciente resistencia de Silicon Valley a trabajar con el gobierno, particularmente con el Pentágono, plantea dudas sobre la viabilidad de los ambiciosos planes del Secretario de Defensa James Mattis de aprovechar la tecnología comercial de vanguardia para fines militares. Pero todo indica que el departamento se está moviendo a toda máquina con AI –inteligencia artificial-, con o sin Google.

"Confío en que tendremos acceso a buenos talentos y personas que tienen un fuerte deseo de ayudar a defender a los Estados Unidos", dijo el general Mike Holmes, comandante del Comando de Combate Aéreo, durante una mesa redonda el 28 de junio en Washington. AI "es una gran parte de nuestro futuro, y continuarán viéndolo expandirse, con Project Maven siendo uno de los primeros pasos".

La controversia sobre el Proyecto Maven refleja una desconexión fundamental entre Washington y el mundo de la tecnología, ya que el Pentágono busca aumentar significativamente su inversión en áreas clave como la IA, la hipersónica y las armas láser. Los empleados de Google están preocupados de que los militares usen la inteligencia artificial para matar personas, pero los funcionarios actuales y anteriores argumentan que en realidad se utilizará para salvar la vida de ciudadanos estadounidenses, aliados y civiles inocentes.

 

Entonces, ¿qué es exactamente Project Maven? Hoy en día, en todo el mundo, los analistas de inteligencia se pasan el día analizando millones de horas de video capturadas por drones volando sobre áreas sensibles, buscando objetos o amenazas particulares. Los comandantes usan esta información de muchas maneras, como el seguimiento de las rutas de transporte del Estado Islámico y el rastreo de los objetivos propuestos para asegurarse de que un ataque no causará víctimas civiles.

La idea detrás del Proyecto Maven, que desde su lanzamiento en abril de 2017 se ha desplegado en al menos cinco ubicaciones clandestinas en África y Medio Oriente, es capacitar computadoras para extraer rápidamente datos de vigilancia sin procesar y convertirlos en información utilizable. Esto no solo acelera el proceso de obtener información crítica del campo de batalla para los comandantes sino que también libera a los operadores humanos para enfocarse en tareas de mayor nivel, dijo el teniente coronel Gary Floyd, subjefe de Project Maven, durante un evento en Washington en mayo.

"Ya estamos viendo lo que algunos llamarían la oleada de datos y que existe esta creciente disparidad entre la cantidad de información que podemos recopilar y la cantidad que podemos procesar", dijo Floyd. "Más personas no van a ser la solución". Entonces, ¿qué viene después?

 

Con este fin, Project Maven está construyendo un centro integral de datos etiquetados que luego se utiliza para entrenar los sofisticados algoritmos necesarios para identificar de forma autónoma objetos a partir de grandes cantidades de datos. Aquí es donde entró Google: el gigante tecnológico es uno de los pocos socios industriales seleccionados para construir, probar y desplegar estos algoritmos.

Pero Google no es la única compañía que puede hacer este trabajo. Su decisión de retirarse del Proyecto Maven crea una apertura en el mercado para otras compañías como Amazon, Microsoft e IBM, que originalmente ofertaron por el trabajo, o incluso nuevos participantes, dijo Michael Horowitz, profesor de ciencias políticas y director asociado de Perry WorldHouse en la Universidad de Pensilvania.

"Creo que en el corto plazo hay otros contratistas listos y dispuestos a dar un paso al frente, por lo que el trabajo en el Proyecto Maven debería continuar", dijo Horowitz. "El riesgo para el Departamento de Defensa es que algo así se convierta en un rechazo más amplio".

Y hay mucho interés. Project Maven organizó demostraciones en el ejercicio TridentSpecter anual cerca de Virginia Beach, Virginia, para una audiencia de 1,000 asistentes, según el Pentágono.

 

El proyecto actualmente involucra alianzas con las nuevas empresas de Silicon Valley, las mayores compañías de AI y datos en el mundo, y las principales instituciones académicas de inteligencia artificial de la nación, según el Pentágono. ECS Federal es el contratista principal.

A largo plazo, los lucrativos contratos del Departamento de Defensa -sin mencionar la oportunidad de trabajar en desafíos de seguridad nacional de vanguardia- serán difíciles de resistir para las compañías tecnológicas, argumentó Horowitz. De hecho, los nuevos principios éticos de IA de Google dejan la puerta abierta para trabajar en programas militares como Project Maven en el futuro, dijo.

Matthew Colford, ex funcionario de la administración Obama y socio de AndreessenHorowitz, una firma de capital riesgo con sede en California que ha respaldado a muchas empresas de defensa, dijo que la reciente reacción no es una "amenaza existencial" a la relación entre el Pentágono y Silicon Valley. Los empleados de Google que apoyan las prohibiciones al por mayor del trabajo militar son una minoría, enfatizó Colford, señalando que la compañía tiene decenas de miles de empleados, pero solo 3,000 firmaron la carta.

 

Pero el Pentágono claramente tiene un problema de mensajería.

"Al final del día, las cosas con las que se usan sus productos muchas veces no se entienden completamente", dijo Colford. "Son muy fáciles de describir de manera simplista y sobregeneralizan que se trata de productos para ayudar a matar mujeres y niños. La respuesta es mucho más complicada; es una herramienta en el arsenal proverbial ".

El ex subsecretario de Defensa Bob Work, un jugador crucial en el lanzamiento del Proyecto Maven, llegó incluso a acusar a Google de ayudar indirectamente a la investigación de IA de China mientras se negaba a ayudar al gobierno de los EE. UU.

"Google tiene un centro en China, donde tienen un concepto llamado fusión civil-militar", dijo Work, quien recientemente se unió al consejo de asesores de la firma de Big Data Govini, en un evento el 26 de junio en Washington. "Todo lo que está sucediendo en ese centro va a ser utilizado por los militares", dijo.

 

Los funcionarios subrayan que la asociación con la industria comercial en materia de IA es una prioridad de seguridad nacional, sobre todo porque los posibles adversarios de los EE. UU. Como Rusia y China aumentan las inversiones en ese área. China, en particular, está dedicando $ 150 mil millones a AI hasta el 2030, dijo Floyd. Mientras tanto, el Departamento de Defensa está gastando $ 7.4 billones en IA, big data y la nube en el año fiscal 2017, según Govini.

 

El Pentágono anunció recientemente un plan para establecer un centro oficial de Inteligencia Artificial para el ejército de los EE. UU., El Centro de Inteligencia Artificial Conjunta. El nuevo jefe de investigación del departamento, Michael Griffin, está actualmente en conversaciones sobre la estructura del nuevo centro, que se supone ayudará a los Estados Unidos a mantener su ventaja competitiva.

 

El Proyecto Maven es solo el comienzo de la incursión del Departamento de Defensa en la IA. Aunque los funcionarios aún no están preocupados por Skynet en la vida real, el sistema de IA ficticio en la franquicia de Terminator que toma conciencia de sí mismo y trata de destruir a la humanidad, Project Maven ahora está yendo más allá de la explotación de video en movimiento a otras áreas.

 

El próximo paso es el cambio del Departamento de Defensa a un sistema basado en la nube, que es crucial para la capacidad del departamento de aprovechar al máximo los avances en la inteligencia artificial. Este trabajo incluye varias iniciativas separadas, como el muy disputado programa Joint Enterprise DefenseInfrastructure, un contrato que podría valer $ 10 mil millones en los próximos 10 años. Se espera que Amazon, Microsoft, Google, Oracle y otros oferten por el trabajo.

La unidad de almacenamiento en la nube de Amazon ya cuenta con un contrato para proporcionar un servicio basado en la nube diseñado para manejar información clasificada para las agencias de inteligencia de los EE. UU., La Región secreta de Amazon Web Services.

En cuanto a la reacción de Google, Holmes reconoce que los militares deben hacer un mejor trabajo al comunicar su intención a Silicon Valley y al público en general. Él espera convencer al público de que "todos estamos en el negocio de evitar grandes guerras".

"Los estadounidenses tienen expectativas sobre lo que hace su gobierno y si el gobierno usa tecnología y herramientas para infringir sus derechos", dijo Holmes. "Así que vamos a tener que trabajar, como estadounidenses, en nuestro nivel de comodidad sobre cómo se usan las tecnologías y cómo se aplican".

 

HumzaJilani contribuyó a este informe.

Lara Seligman es corresponsal del Pentágono de política exterior