La Silicon Valley redémarre sa relation avec l’armée américaine
Le PDG d’IBM, Arvind Krishna, a fait sensation l’année dernière lorsqu’il a déclaré au Congrès américain qu’il «suspendrait» le logiciel de reconnaissance faciale de son entreprise – et a déclaré qu’il avait été abusé par les forces de l’ordre pour effectuer une surveillance de masse.
Les groupes technologiques Microsoft et Amazon ont adopté une position similaire sur le logiciel controversé, après la pression des employés. Ils ont dit qu’ils refuseraient de le vendre aux forces de police et ont demandé au Congrès de réglementer la technologie émergente.
Ces mesures sont intervenues après que les employés de Google aient obligé l’entreprise à se retirer de son travail sur l’intelligence artificielle pour le Pentagone, en 2018.
Certains observateurs interprètent ces développements comme des Big Tech s’éloignant des organes gouvernementaux si essentiels à son essor.
«Je vois tracer ces lignes de bataille, où les entreprises disent dans leurs déclarations de mission ce que [policies] ils veulent s’aligner sur », déclare Miriam Vogel, directrice générale d’EqualAI, une organisation à but non lucratif axée sur l’élimination des préjugés inconscients de l’intelligence artificielle.
Miriam Vogel, directrice générale d’EqualAI
Elle décrit les relations de la Silicon Valley avec le gouvernement et l’armée comme «profondément interconnectées et de plus en plus tendues», alors que les valorisations des plus grandes entreprises technologiques atteignent des milliers de milliards de dollars et que leurs produits touchent désormais la vie des citoyens sur une base quotidienne, voire horaire.
Vogel, ancien responsable de la Maison Blanche et sous-procureur général adjoint, affirme que les employés hautement rémunérés de la technologie votent avec leurs pieds, faisant pression sur les entreprises pour qu’elles s’expriment davantage sur les valeurs qu’elles défendent – souvent en opposition aux préoccupations des responsables de la sécurité.
Ces dernières années, l’impasse la plus importante a été lorsque Apple a refusé d’aider le FBI à pénétrer dans un iPhone lié à l’attaque terroriste et aux tirs de masse de 2015 à San Bernardino, en Californie – une démonstration flagrante de la puissance de l’entreprise et d’un ensemble distinct de valeurs.
«Apple a été inébranlable dans sa protection des droits à la vie privée de ses utilisateurs [while] Les forces de l’ordre voulaient désespérément arrêter les crimes avant qu’ils ne se produisent », déclare Vogel. «Leurs besoins se situaient dans une dichotomie absolue.»
Mais malgré tous les gros titres suggérant que Big Tech évite le travail avec l’armée, les accords majeurs se poursuivent.
Plus tôt cette année, Microsoft a remporté un contrat de 22 milliards de dollars sur 10 ans pour fournir à 120 000 soldats américains de combat rapproché des casques de réalité augmentée. En 2019, il a remporté un contrat de cloud computing de 10 milliards de dollars pour le Pentagone, dont beaucoup pensaient qu’il allait à Amazon, qui avait également été un soumissionnaire enthousiaste.
Brandon Tseng, co-fondateur de Shield AI – une start-up aidant le Pentagone à construire des systèmes sans pilote pour les zones de conflit – dit que, pour chaque exemple de recul de Google, un Microsoft intervient. «C’est un mythe que des ingénieurs talentueux Je ne veux pas travailler avec les militaires », affirme Tseng, un ancien Navy Seal. «Nous sommes maintenant près de 200 employés, ce qui double d’année en année, et il y a des tonnes d’intérêts entrants. . . Dans l’ensemble, vous trouvez une main-d’œuvre enthousiaste qui souhaite aider le gouvernement à résoudre ces problèmes. »
Shield AI fait partie des entreprises qui prospèrent grâce à leur soutien sans faille au secteur de la défense. D’autres incluent Palantir, le groupe de big data cofondé par Peter Thiel qui vaut désormais 40 milliards de dollars, et Anduril, qui construit des technologies pour la surveillance des frontières.
Et le succès de ces groupes reflète en partie la manière dont le département américain de la Défense s’adapte à la culture technologique – trop conscient que ses hiérarchies et traditions rigides ne permettent pas de s’inspirer de l’approche logicielle de l’innovation des entreprises privées.
«Ce que vous voyez, c’est une tendance du gouvernement américain à adopter des individus qui se sont manifestés dans les entreprises de la Silicon Valley», déclare Darron Makrokanis, vice-président senior D2iQ, une start-up de gestion du cloud qui a aidé l’Air Force à passer au travail à distance. pendant la pandémie.
Le secteur technologique américain est depuis longtemps lié à l’armée, depuis que le gouvernement américain est devenu un énorme dépensier en semi-conducteurs et autres équipements coûteux qui manquaient de marché commercial. L’historienne Margaret O’Mara, professeur à l’Université de Washington, a écrit que «que leurs employés le réalisent ou non, les géants technologiques d’aujourd’hui contiennent tous un ADN de l’industrie de la défense».
«La Silicon Valley tire ses origines du ministère de la Défense et de l’industrie aérospatiale et de la défense», explique Yll Bajraktari, directeur exécutif de la Commission de sécurité nationale sur l’intelligence artificielle, un groupe indépendant formé pour faire des recommandations au Congrès et au président.
Bajraktari lance des technologies dans lesquelles l’armée a joué un rôle déterminant. Le radar, le GPS et la technologie furtive ont tous émergé pendant la guerre froide, souligne-t-il, sans parler d’Arpanet – le réseau fondé dans les années 1970 et qui est devenu les fondations d’Internet.
Il dit que ces décennies ont été façonnées par le fait que le gouvernement est le principal investisseur et le plus gros acheteur de la technologie. Mais, à mesure qu’Internet devenait une partie de la vie quotidienne, la Silicon Valley s’est tournée vers les applications grand public et commerciales – des marchés qui sont devenus beaucoup plus grands que les commandes du gouvernement américain.
«Au cours de la dernière décennie, l’armée a réalisé qu’elle devait s’engager plus étroitement avec les entreprises de haute technologie de la vallée pour être en mesure de rivaliser avec des concurrents technologiques tels que la Chine et la Russie», dit Bajraktari.
En 2015, le DoD américain a créé la Defense Innovation Unit, un avant-poste de la Silicon Valley conçu pour accélérer l’adoption par le Pentagone de la toute dernière technologie dans le but d’approfondir l’alliance techno-militaire.
Au cours de ses premières années, la DIU a eu du mal à gagner du terrain, déclare Tom Foldesi, son directeur des produits commerciaux et des partenariats. «Le département, en toute honnêteté, avait mauvaise réputation dans la Vallée», admet-il.
Mais Foldesi dit que ce n’était pas l’éthique mais la bureaucratie qui était la principale préoccupation. «Nous étions considérés comme un client vraiment exigeant», explique-t-il. «Les processus étaient opaques; la prise de décision était lente. Pour une start-up avec 12-18 mois de piste, cultiver [the DoD] en tant que client était un non-partant. «
Il y a à peine trois ans, la DIU émettait des sollicitations et se sentait chanceuse d’obtenir deux ou trois soumissions. Cependant, cela a radicalement changé grâce à des processus rationalisés et à une meilleure compréhension de la culture technologique. «La plupart de nos sollicitations tirent des offres de plus de 100 entreprises – dans certains cas, nous en avons eu plus de 150», dit Foldesi.
Il ajoute qu’il ne peut se souvenir d’une seule conversation où les dilemmes éthiques du travail avec les militaires se sont posés. «Je connais certaines préoccupations très médiatisées qui ont été soulevées dans des entreprises sur lesquelles je peux compter d’une part, mais je ne les ai pas trouvées représentatives de l’écosystème dans son ensemble.»
Pour certains, donc, les refus d’IBM, d’Amazon et de Microsoft de travailler sur la technologie de reconnaissance faciale sont inhabituels. Selon Tseng, le sentiment le plus répandu parmi les acteurs du secteur de la technologie est: «Je préfère travailler côte à côte avec nos clients gouvernementaux plutôt que de rester à l’écart sur de gros problèmes importants.»