Race, intersectionnalité et études critiques du code informatique

J’ai déjà eu l’oc­ca­sion en 2015 de faire un point sur les études numériques et notam­ment sur plusieurs courants émer­gents : Soft­ware Stud­ies, Plat­form Stud­ies et Crit­i­cal Stud­ies. Cha­cun, à leur manière, prête une atten­tion à la matéri­al­ité des phénomènes numériques, sai­sis dans leurs dimen­sions sociales, sémi­o­tiques, cor­porelles, his­toriques, en posant un cer­tain nom­bre de ques­tions : com­ment sont élaborés les logi­ciels ? Com­ment organ­isent-ils les pra­tiques à l’écran ? Quelles représen­ta­tions les codeurs infor­ma­tiques insèrent-ils dans leur code ? etc. Si, dans ma dis­ci­pline, nous avons l’habi­tude d’é­tudi­er depuis les années 90 la cul­ture numérique, il faut cepen­dant recon­naître que les “dig­i­tal stud­ies” ont pro­posé des con­cepts, des théories et des méthodolo­gies qui mérit­eraient d’être dis­cutées, voire inté­grées.

Aujour­d’hui, j’aimerais seule­ment attir­er l’at­ten­tion sur un frémisse­ment, que j’ob­serve de plus en plus dans ma veille sci­en­tifique : la ren­con­tre des études numériques et des ques­tions raciales, voire inter­sec­tion­nelles. Certes, les épisté­molo­gies fémin­istes ont déjà investi le ter­rain des cul­tures numériques : un numéro et un livre vien­nent d’être pub­liés sur le sujet (“Algo­rithms for her? Fem­i­nist claims to tech­ni­cal lan­guage” dans la revue Fem­i­nist Media Stud­ies et Dig­i­tal Fem­i­nist Activism aux Press­es d’Ox­ford) mais de nom­breux travaux exis­tent déjà sur le sujet en France et à l’é­tranger (voir la bib­li­ogra­phie ci-dessous).

Qu’est-ce que les Critical Code Studies ?

La ren­con­tre avec les “stud­ies” men­tion­nées plus haut est plus timide, peut-être parce qu’elles sont en cours de développe­ment, ou parce qu’elles ont existé sous une autre forme. On peut en effet déjà voir des travaux qui artic­u­lent inter­sec­tion­nal­ité et ce qui pour­rait s’ap­par­enter à des plate­form ou soft­ware stud­ies, que ce soit sur la raci­sa­tion des robots (Spar­row), les algo­rithmes décolo­ni­aux (Shakir et al.), les méthodolo­gies inter­sec­tion­nelles pour étudi­er les dis­posi­tifs dits soci­aux (Chris­t­ian), la pro­gram­ma­tion de “bots” dans telle ou telle lutte raciale.

Un labyrinthe pro­duit sur un Com­modore 64 avec la ligne de code : 10 PRINT CHR$(205.5+RND(1)); : GOTO 10

Les Crit­i­cal Code Stud­ies sont cepen­dant moins représen­tées dans ma veille. Quelques mots d’abord sur ce courant (dont un col­lègue vient de faire la fiche wikipé­dia en français), avant de présen­ter un ouvrage récent où études raciales et infor­ma­tiques sont artic­ulées.

Depuis une quin­zaine d’an­nées, ses ten­ants dévelop­pent une her­méneu­tique du code infor­ma­tique. À l’in­star des sémi­oti­ciens ou des lit­téraires, ils pensent le code comme un essai lit­téraire. Dans un arti­cle fon­da­teur daté de 2006, Marc C. Mari­no, qui vient de sor­tir un livre sur la ques­tion, le pense comme un ensem­ble rhé­torique, des­tiné à être lu et à être inter­prété, chargé de valeurs, con­stru­it sociale­ment et his­torique­ment. Dans sa per­spec­tive, le code est une “pra­tique cul­turelle à par­tir de laque­lle s’organisent des com­mu­nautés de savoirs qui définis­sent les normes de sa pro­duc­tion et de son util­i­sa­tion”.

Dès lors, que doit-on analyser d’un pro­gramme infor­ma­tique? “Tout”, pour repren­dre Mari­no, c’est‑à-dire la doc­u­men­ta­tion, les lignes de code, les com­men­taires, les struc­tures, les éléments para­textuels (auteur, descrip­tion, his­toire, voire même les sources de finance­ment publiques mentionnées). En effet, le code infor­ma­tique s’adresse peut‑être à la machine, mais également à des pro­gram­meurs, qui doivent pou­voir le réutiliser ; il s’adresse égale­ment à des non-pro­gram­meurs (chefs de pro­jets, par exem­ple). Ain­si, le pro­gram­meur con­stru­it dans son code une autre “audi­ence”, une audi­ence postulée, imaginée, qui déter­mine l’horizon d’attente du pro­gramme infor­ma­tique. Dès lors, il devient pos­si­ble de tra­vailler le code, comme on tra­vaillerait le style d’un auteur ; à con­di­tion d’ar­tic­uler les théories lit­téraires et sémi­o­tiques avec ses spé­ci­ficités.

De nom­breux travaux sont nés de la propo­si­tion ini­tiale de Mari­no, dont témoigne une bib­li­ogra­phie gran­dis­sante. On peut citer :

Expres­sive Pro­cess­ing: Dig­i­tal Fic­tions, Com­put­er Games, and Soft­ware Stud­ies de Noah Wardrip-Fru­in, une archéolo­gie de pro­grammes infor­ma­tiques his­toriques (Eliza) jusqu’aux jeux vidéos con­tem­po­rains (War­craft, Sec­ond Life), pour met­tre au jour les forces qui régis­sent nos inter­ac­tions avec la machine infor­ma­tique.

Some­where Near­by is Colos­sal Cave: Exam­in­ing Will Crowther’s Ori­gi- nal ‘Adven­ture’ in Code and in Ken­tucky de Den­nis Jerz, une cri­tique géné­tique du code d’un jeu vidéo pour mon­tr­er les dif­férentes pistes aban­don­nées et les dif­férents ajouts pro­gres­sive­ment inté­grés, comme on le ferait avec les brouil­lons d’un écrivain.

10 PRINT CHR$(205.5+RND(1)); : GOTO 10 d’un col­lec­tif qui s’in­téresse à une ligne de code (le titre de l’ou­vrage) en Basic, capa­ble de pro­duire des labyrinthes aléa­toires sur des Com­modore 64. L’oc­ca­sion pour les chercheurs.cheuses de réfléchir à l’his­toire des labyrinthes depuis l’an­tiq­ui­té…

Les inter­faces de pro­gram­ma­tion (API) web : écri­t­ure infor­ma­tique, indus­trie du texte et économie des pas­sages de Samuel Goyet, qui a depuis soutenu sa thèse (et qui fut l’un de mes cama­rades de pro­mo au Cel­sa !).

La manière dont le code de l’ap­pli­ca­tion Waze retra­vaille les villes, crée des ten­sions entre habitant.e.s et rend dif­fi­cile toute con­tes­ta­tion :

Quand la race rencontre le code…

Dans un livre paru l’an­née dernière, Ruha Ben­jamin, soci­o­logue au Départe­ment d’é­tudes afro-améri­caines de l’U­ni­ver­sité de Prince­ton, revendique explicite­ment l’é­tude du code ou des logi­ciels infor­ma­tiques, sans cepen­dant évo­quer le courant lancé par Marc C. Mari­no. Elle forge en effet le con­cept de Race Crit­i­cal Code Stud­ies indépen­dam­ment de lui ; elle recourt plutôt aux Sci­ences & Tech­nolo­gies Stud­ies, qu’elle artic­ule aux travaux en Race and Racism in Inter­net Stud­ies (Daniels ; voir aus­si Hamil­ton).

Suiv­ons pour l’in­stant ses thès­es, avant de con­vers­er avec elles. Je com­mencerai par présen­ter le con­cept de “race”, qui fait polémique en ce moment.

(Et j’en prof­ite pour men­tion­ner l’excel­lent compte ren­du d’Hu­bert Guil­laud, décou­vert en ter­mi­nant ce bil­let…)

La “race”

Nous sommes encore peu fam­i­liers en France avec cette notion, alors que des travaux impor­tants exis­tent (je remer­cie Marie-Anne Paveau et Yos­ra Ghliss de m’avoir mon­tré la voie !) : pour ceux et celles qui la mobilisent, la “race” n’a évidem­ment pas de fonde­ment biologique…mais ce fonde­ment raciste, imag­i­naire, fonc­tionne ordi­naire­ment, sociale­ment. Ain­si, être PERÇU d’une façon ou d’une autre (blanc, noir, asi­a­tique, arabe, etc.) peut créer, selon les sociétés, les espaces, les moments, les sit­u­a­tions, des iné­gal­ités ou des avan­tages entre per­son­nes, jusqu’à des formes d’essen­tial­i­sa­tion et d’in­sti­tu­tion­nal­i­sa­tion de ces iné­gal­ités ou avan­tages, qui nat­u­ralisent des rap­ports cul­turels, en font des expres­sions biologiques.

Par inter­sec­tion­nal­ité, nous enten­dons ici l’ap­proche dev­enue clas­sique depuis Kim­ber­lé Cren­shaw selon laque­lle les indi­vidus subis­sent simul­tané­ment plusieurs formes d’op­pres­sion et qu’il faut impéra­tive­ment les crois­er pour com­pren­dre la dom­i­na­tion au plus juste et non se sat­is­faire d’un cloi­son­nement des caté­gories qui ne dit rien des ressorts pro­fonds de l’in­jus­tice vécue. (Mestiri, p. 10)

Pour ses détracteurs, cette notion viendrait abu­sive­ment rem­plac­er celle de “classe”, aujour­d’hui bien admise dans le paysage médi­a­tique. Mais ses ten­ants n’op­posent pas “race” et “classe” : au con­traire, ils et elles mon­trent, en mobil­isant la notion d’inter­sec­tion­nal­ité, que les dis­crim­i­na­tions, tout comme les avan­tages (être PERÇU comme blanc dans cer­taines régions du monde, être d’une classe supérieure, etc.), peu­vent se crois­er et que la PERCEPTION de la couleur de peau doit notam­ment être prise en compte, mon­nayant une con­tex­tu­al­i­sa­tion géo­graphique, sociale, historique…sans que cette prise en compte ne soit essen­tial­isée ou pré­dom­i­nante : tout l’en­jeu des études dites inter­sec­tion­nelles est de com­pren­dre la dis­crim­i­na­tion, ou l’a­van­tage, comme un TISSAGE fin de plusieurs élé­ments (race, classe mais aus­si genre, âge, hand­i­cap, etc.) qui peu­vent s’ac­tu­alis­er selon les moments, les sit­u­a­tions (c’est mon cas) ; par­fois, tout le temps :

Je ne ren­tr­erai pas dans les détails extrême­ment com­plex­es et les travaux très fins qui ani­ment aujour­d’hui le champ inter­sec­tion­nel, d’au­tant que certain.e.s préfèrent par­ler de “con­sub­stan­tial­ité” ou d’ ”artic­u­la­tion” pour éviter de réi­fi­er les caté­gories mobil­isées, comme si elles n’é­taient pas elles-mêmes con­stru­ites sociale­ment. Vous trou­verez dans cette note1Lila Belka­cem, Amélie Le Renard et Myr­i­am Paris, “Race” dans Juli­ette Rennes (dir.), Ency­clopédie cri­tique du genre, La Décou­verte, 2016 ; Maxime Cervulle, Dans le blanc des yeux, Édi­tions Ams­ter­dam, 2013 ; Maxime Cervulle, Nel­ly Quemen­er et Flo­ri­an Vörös, Matéri­al­ismes, cul­ture et com­mu­ni­ca­tion — Tome 2: Cul­tur­al Stud­ies, théories fémin­istes et décolo­niales., Trans­val­or — Press­es des mines, 2016 ; Patri­cia Hill Collins, Inter­sec­tion­al­i­ty as Crit­i­cal Social The­o­ry, Duke Uni­ver­si­ty Press Books, 2019 ; Angela Davis, Femmes, race et classe, des femmes ‑Antoinette Fouque, 2020 [1983]; Katouar Harchi, “L’intersectionnalité, une cri­tique éman­ci­patrice”, Libéra­tion, 28 octo­bre 2020 ; Jah­jah Marc, “#Lat­inx : une poésie indigéniste, queer et polémique sur Insta­gram”, 7 avril 2020 ; Jah­jah Marc, “Je suis noire, musul­mane et grosse” : des corps indis­ci­plinés sur Insta­gram”, 12 mars 2020 ; Soumaya Mestiri, Elu­cider l’intersectionnalité : Les raisons du fémin­isme noir, Vrin, 2020 ; Omar Slaouti et Olivi­er Le Cour Grand­mai­son, Racismes de France, La Décou­verte, 2020 ; Françoise Vergès, Un fémin­isme décolo­nial, La Fab­rique, 2019 ; L’émis­sion “Kiff ta race” avec Maxime Cervulle : “Les blancs ont-ils une couleur ?”  et Gaby : “Le car­refour des inter­sec­tions” ; enfin, cet appel à com­mu­ni­ca­tions de la revue Itinéraires : “Race et dis­cours. Langues, inter­sec­tion­nal­ité, décolo­nial­ités”. quelques références pour aller plus loin.

Abolir le Code Jim

Dans son livre, Ruha Ben­jamin mon­tre que les ques­tions raciales et inter­sec­tion­nelles sont étroite­ment liées à un ensem­ble de médi­a­tions tech­niques, de tech­nolo­gies numériques, qui font nos quo­ti­di­ens : des stéréo­types raci­aux, sex­istes, clas­sistes, validistes sont inscrits dans leur archi­tec­ture même. Autrement dit : ces tech­nolo­gies recon­duisent ou par­ticipent d’une divi­sion sociale de la société aux États-Unis.

A num­ber of oth­er exam­ples illus­trate algo­rith­mic dis­crim­i­na­tion as an ongo­ing prob­lem. When a grad­u­ate stu­dent searched for “unpro­fes­sion­al hair­styles for work,” she was shown pho­tos of Black women; when she changed the search to “pro­fes­sion­al hair­styles for work,” she was pre­sent­ed with pho­tos of White women. (Ruha Ben­jamin, p. 94)

La soci­o­logue insiste sur un point impor­tant : le racisme n’est pas qu’une “con­struc­tion sociale” (une ren­gaine des thès­es con­struc­tivistes, sou­vent car­i­caturées cela dit) : c’est aus­si une force de con­struc­tion qui, à son tour, fab­rique des sys­tèmes oppres­sifs, les ren­forçant, et qui sont ren­dus pos­si­bles par des logiques sociales, affec­tives, poli­tiques, tech­niques. Ain­si, une grande par­tie de la pop­u­la­tion est amenée à vivre dans l’e­space imag­i­naire de per­son­nes (les infor­mati­ciens) à l’o­rig­ine de ces dis­posi­tifs.

Con­traire­ment à d’autres travaux sur le même sujet2Virginia Eubanks, Automat­ing Inequal­i­ty: How High-Tech Tools Pro­file, Police, and Pun­ish the Poor, St. Martin’s Pub­lish­ing Group, 2018 ; Safiya Umo­ja Noble, Algo­rithms of Oppres­sion: How Search Engines Rein­force Racism, New York Uni­ver­si­ty Press, 2018 ; Cathy O’Neil, Weapons of Math Destruc­tion: How Big Data Increas­es Inequal­i­ty and Threat­ens Democ­ra­cy, Crown, 2016., Ruha Ben­jamin puise dans des exem­ples et des ter­rains très var­iés en his­toire, sci­ence-fic­tion, séries dystopiques, actu­al­ité infor­ma­tique pour mon­tr­er l’am­pleur de la sit­u­a­tion. Un exem­ple par­mi d’autres : une “appli­ca­tion” (Cit­i­zen), qui per­met à des citoyens de sig­naler des prob­lèmes, ou ce qu’ils esti­ment être des problèmes…comme des rassem­ble­ments de per­son­nes de couleur noire sur des pelous­es, en train de pique-niquer. Autres exem­ples cités par la chercheuse :

  • Une base de don­nées de crim­inels com­posées exclu­sive­ment de noir, de lati­nos…et de bébés, cen­sés être des mem­bres de gangs.
  • Un con­cours de beauté jugé par des robots (Beau­ty IA) qui n’ont élu que des can­di­dats à la peau blanche…
  • les algo­rithmes qui ont du mal à “s’in­ter­fac­er” avec des créat­ifs noirs, notam­ment sur Insta­gram, qui sont peu mis en avant, con­traire­ment aux artistes de couleur blanche.
  • l’as­sis­tant vocal de Google Maps qui pro­pose aux con­duc­teurs de se ren­dre dans la rue “Mal­com Ten” au lieu de “Mal­com X”.
Beau­ty IA : un con­cours de beauté jugé par des robots.

Ain­si, et c’est un point impor­tant, la tech­nolo­gie n’a pas qu’un “impact” sur la société (thèse déter­min­iste paresseuse qui a envahi le dis­cours jour­nal­is­tique et par­fois même sci­en­tifique) : on a affaire à un tres­sage très fin, à un ajuste­ment entre des médi­a­tions tech­niques, des normes, des valeurs, des stéréo­types dont nous avons du mal à com­pren­dre qu’ils infor­ment nos sens, nos yeux et nos modal­ités de recon­nais­sance des êtres qui peu­plent l’e­space social.

En tra­vail­lant ses ter­rains, la chercheuse forge un con­cept : “New Jim Code”, en référence aux lois Jim Crow à l’o­rig­ine d’une ségré­ga­tion raciale et d’un sys­tème de castes aux États-Unis de 1877 à 1964. Or, pour une avo­cate comme Michelle Alexan­der, ce sys­tème n’a été aboli qu’en apparence : dans The New Jim Crow elle mon­tre quelles formes nou­velles il prend.

La soci­o­logue pro­longe son tra­vail en l’ap­pli­quant à la cul­ture numérique : avec son nou­veau con­cept (“New Code Jim”), elle désigne l’in­scrip­tion dans le code de représen­ta­tions stéréo­typées sur le monde social, ren­dues objec­tives, nat­u­ral­isées, séduisantes, par toute une “archi­tec­ture” tech­nique, sociale et graphique, à qui il est dif­fi­cile de deman­der des comptes : appli­ca­tions, réseaux soci­aux, se présen­tent à par­tir de listes, de for­mu­laires, de médi­a­tions com­plex­es, comme s’ils n’é­taient pas conçus par des mains et des cerveaux.

Chaque chapitre de son livre présente dif­férents cas, artic­ulés à un sous-con­cept : la manière dont l’iné­gal­ité raciale est inscrite dans le traite­ment des don­nées (engi­neered Inequity), la dis­crim­i­na­tion par défaut des per­son­nes noires à cause de l’im­pen­sé socio-his­torique des ingénieurs (Default Dis­crim­i­na­tion), les dif­férentes tech­nolo­gies qui les invis­i­bilisent et les sur­veil­lent en même temps (Cod­ed Expo­sure), la rel­a­tive bien­veil­lance dont elles font l’ob­jet (Tech­no­log­i­cal Benev­o­lence) parce qu’elles rendraient un ser­vice utile. C’est le cas du UKBA’s Human Prove­nance : ce pro­gramme utilise des tests d’as­cen­dance géné­tique pour exam­in­er des deman­des d’asile d’Afrique de l’est, suite aux doutes man­i­festés par les tra­vailleurs sociaux…Pire : ces tech­nolo­gies racistes révè­lent par­fois des équipes com­plex­es, par exem­ple entre le gou­verne­ment zim­bawé et la Chine, qui développe des algo­rithmes de recon­nais­sance pour class­er les eth­nies du pays…

Race as tech­nol­o­gy: this is an invi­ta­tion to con­sid­er racism in rela­tion to oth­er forms of dom­i­na­tion as not just an ide­ol­o­gy or his­to­ry, but as a set of tech­nolo­gies that gen­er­ate pat­terns of social rela­tions, and these become Black-boxed as nat­ur­al, inevitable, auto­mat­ic. (Ruha Ben­jamin, p. 44)

Ain­si, la chercheuse iden­ti­fie les intri­ca­tions mor­bides entre le racisme et un maître mot de la cul­ture numérique et entre­pre­unar­i­ale, sans doute détournée de ses objec­tifs ini­ti­aux : l’ ”inno­va­tion”. En effet, on a ten­dance à oubli­er que ces dis­posi­tifs sont désirés et que, par con­séquent, le racisme n’est pas qu’une abéra­tion injuste aux yeux de ses pro­mot­teurs incon­scients : ils sont conçus dans des espaces qui les accueil­lent, les promeu­vent, parce qu’ils per­me­t­tent aux uns de domin­er les autres, sans recou­vrir la caté­gorie stéréo­typée du “racisme” qui con­damn­erait aus­sitôt leurs “solu­tions” à leurs pro­pres yeux. Au con­traire, le racisme s’insin­ue dans de minus­cules objets, dans de petits signes, qui le rend dif­fi­cile­ment iden­ti­fi­able, d’au­tant plus que ces signes, ces objets, si anodins, invali­dent les dis­cours antiracistes, aux­quels on demande générale­ment de s’oc­cu­per des “vraies” caus­es.

Au con­traire, cette pen­sée inscrite dans et tra­vail­lée par les tech­nolo­gies numériques s’insin­ue partout et pro­longe une his­toire longue des out­ils insti­tu­tion­nels, admin­is­trat­ifs, sci­en­tifiques qui ont cher­ché à faire de la race une ques­tion biologique, naturelle, en étab­lis­sant des dis­tinc­tions entre les indi­vidus, les ren­dant opéra­toires par de menus signes, de menus for­mu­laires, de tout petits objets en apparence inof­fen­sifs (c’est tout le pro­pos des Mytholo­gies de Barthes). Autrement dit : la race, elle-même, est une tech­nolo­gie dont chaque époque se saisit, en mobil­isant dif­férents out­ils, pour en péren­nis­er la logique séparatiste, jouir des avan­tages qu’elle octroie.

L’or­gan­i­sa­tion “Algo­rith­mic Jus­tice League”

Com­ment y faire face ? Com­ment abolir le New Code Jim ? Ruha Ben­jamin cite plusieurs ini­tia­tives réjouis­santes dans un dernier chapitre (le 5ème) où elle rend hom­mage aux hack­ers, artistes, uni­ver­si­taires, citoyens, étu­di­ants qui dévelop­pent des “con­tre-con­duites” comme dirait Fou­cault, c’est-à-dire un art de n’être pas telle­ment gouverné3Daniele Loren­zi­ni, Éthique et poli­tique de soi. Fou­cault, Hadot, Cavell et les tech­niques de l’or­di­naire, Vrin, 2015. :

Appol­li­tion : lancée en 2017 par le cinéaste-artiste-chercheur Kort­ney Ryan Ziegler, l’ap­pli­ca­tion per­met de pay­er col­lec­tive­ment les cau­tions des per­son­nes pau­vres et noires en prison, dont une par­tie est injuste­ment accusée ou incar­cérée pen­dant leur juge­ment. À l’in­verse, l’ap­pli­ca­tion Promise, parain­née par Jay‑Z, ne ferait qu’ac­tu­alis­er le New Code Jim, selon Ruha Ben­jamin, dans la mesure où elle sur­veille chaque fait des per­son­nes dés­in­car­cérées et ne cherche qu’à juguler le coût de l’en­fer­me­ment pour le con­tribuable.

Design Jus­tice” : Ruha Ben­jamin par­ticipe égale­ment, comme d’autres (Antho­ny Masure, Nico­las Nova, Frédérique Kru­pa, Lau­rent Neyssen­sas, Lau­rence Allard et Alexan­dre Monin…), d’une refonte des méthodolo­gies design, à par­tir desquelles s’éla­borent aujour­d’hui une par­tie des tech­nolo­gies numériques. Selon la soci­o­logue (et j’ai pu sou­vent le véri­fi­er), ces méthodolo­gies con­vo­quent une fig­ure “uni­verselle”, “idéale”, cen­sée représen­ter le futur usager, qui est sou­vent valide, blanc, homme…Cas emblé­ma­tique d’une pseu­do objec­tiv­ité, d’un impen­sé qui ne dit jamais quel point de vue il adopte parce qu’il pense ne pas en avoir. Certes, les “per­sonas” ont été intro­duits en design pour juguler ces risques mais des études soci­ologiques récentes ont bien mon­tré les prob­lèmes qu’ils posaient (voir “Com­ment sont fab­riqués les robots ?”). De mon côté, j’ai pu con­stater à quel point ces “per­sonas” étaient mal conçus, pour dif­férentes raisons : les con­di­tions matérielles, tem­porelles, spa­tiales des exer­ci­ces de co-con­cep­tion d’arte­facts (robots, inter­faces, etc.) ren­dent dif­fi­ciles le recours à cet out­il, cepen­dant intéres­sant. Ruha Ben­jamin sem­ble plutôt se ral­li­er du côté du “Design Jus­tice”, dévelop­pé par Sasha Costan­za-Chock : ce courant rassem­ble aujour­d’hui une com­mu­nauté gran­dis­sante de design­ers, sen­si­bles aux ques­tions inter­sec­tion­nelles. À juste titre, Ruha Ben­jamin fait cepen­dant remar­quer qu’il ne faut pas seule­ment tra­vailler sur les dis­crim­i­na­tions, aux­quelles par­ticipent ces méthodolo­gies, mais égale­ment sur le sys­tème dont elles sont des occur­rences (l’in­no­va­tion entre­pre­neuri­ale, le cap­i­tal­isme des plate­formes).

Algo­rith­mic Jus­tice League : cette organ­i­sa­tion mène des audits auprès des entre­pris­es, à par­tir de méthodolo­gies artis­tiques et sci­en­tifiques, pour faire enten­dre la voix de com­mu­nautés inter­sec­tion­nelles et éviter la recon­duc­tion de préjugés racistes, sex­istes, validistes, clas­si­cistes au sein des algo­rithmes.

Our Data Bod­ies : ce petit col­lec­tif de per­son­nes racisées s’in­téresse à la manière dont les don­nées de com­mu­nautés frag­ilisées et mar­gin­al­isées sont col­lec­tées dans des régions comme Char­lotte, la Car­o­line du Nord, Detroit, Michi­gan, Los Ange­les. Le col­lec­tif a pub­lié un livre impor­tant sur la ques­tion (“Dig­i­tal Defense Play­book”) et sur les con­tre-con­duites pos­si­bles.

Conversations avec…

C’est un livre impor­tant, qui a déjà con­nu des précé­dents (voir la bib­li­ogra­phie), mais Ruha Ben­jamin se dis­tingue par sa maîtrise méthodologique et par sa con­nais­sance des milieux et des métiers de la cul­ture numérique. Pour la tra­vailler, elle développe ce qu’elle appelle une “descrip­tion fine” (thin descrip­tion), par oppo­si­tion à la “descrip­tion dense” de l’an­thro­po­logue Geertz, qui cherche les “toiles de sens”, c’est-à-dire tout ce dont nous avons besoin pour com­pren­dre une action humaine ; ses jeux de lan­gage, pour citer Wittgen­stein.

L’ap­proche “fine” lui per­met, au con­traire, d’être au plus près de son sujet, en tra­vail­lant de manière socio-phénoménologique et cri­tique (voir “Sémi­naire cri­tique des cul­tures numériques”), en prê­tant une atten­tion à ce qui se rend vis­i­ble par le code infor­ma­tique, de la même manière que la couleur de peau man­i­feste l’or­dre social. C’est aus­si un acte poli­tique et asymétrique : alors que le Code Jim s’in­fil­tre dans tous les pans du quo­ti­di­en, la descrip­tion fine refuse de le suiv­re ; elle exprime des lim­ites, notam­ment dans la cap­ta­tion de “don­nées”, quitte à per­dre en détails et à se priv­er de cer­tains ter­rains de recherche.

Quelques lim­ites cepen­dant : de sen­si­bil­ité sémi­o­tique, phénoménologique et eth­nométhodologique, je crois, comme d’autres, que nous n’avons pas néces­saire­ment besoin d’ou­vrir les “boîtes noires” pour accéder à un ordre du réel qui nous serait caché (le code infor­ma­tique, par exem­ple). C’est plutôt notre oeil qu’il nous faut aigu­is­er, en dévelop­pant des méthodolo­gies et des con­cepts capa­bles de nous aider à voir le vis­i­ble. En ce sens, l’é­tude des inter­faces, comme le feraient les Soft­ware Studies, peut suf­fire — Ruha Ben­jamin sem­ble finale­ment plus proche de ce courant. J’ai cepen­dant l’in­tu­ition d’un ren­dez-vous impor­tant et man­qué avec les Crit­i­cal Code Stud­ies, qu’on pour­rait pos­er ain­si : quels con­cepts des race stud­ies pour­raient nous aider à men­er une her­méneu­tique alter­na­tive, inter­sec­tion­nelle et décolo­niale du code infor­ma­tique ?

ce ne sont pas seule­ment des entités matérielles qui s’assem­blent dans les [tech­nol­gies], mais plutôt une col­lec­tion hétérogène d’élé­ments dis­cur­sifs et de pra­tiques qui regroupent, sans priv­ilégi­er une modal­ité par­ti­c­ulière, l’af­fec­tif, le poli­tique, l’in­sti­tu­tion­nel et le biologique.” (Mar­gar­it Shildrick cité par Dal­ib­ert, p. 637.).

Pour finir, un point sou­vent oublié : il n’y a pas que des humains der­rière le code infor­ma­tique, avec leurs valeurs, leurs imag­i­naires, leurs stéréo­types…Le code infor­ma­tique est un être à part entière (Douei­hi), un agence­ment d’in­struc­tions math­é­ma­tiques, de tech­niques infor­ma­tiques mais égale­ment de règles juridiques, d’habi­tudes, de pra­tiques, de normes, d’a­juste­ments poli­tiques, d’op­por­tu­nités finan­cières et sociales qui finit par pro­duire une réal­ité autonome, capa­ble de nous dépos­séder de notre puis­sance d’a­gir. C’est pourquoi l’an­thro­polo­gie écologique ou ontologique sera utile pour nous aider à com­pren­dre à quel type d’a­gen­tiv­ité nous avons réelle­ment affaire et com­ment com­mu­ni­quer diplo­ma­tique­ment avec elle.

Bibliographie non exhaustive

Ci-dessous une bib­li­ogra­phie non exhaus­tive de quelques travaux qui artic­u­lent des ques­tions de race, genre, classe, validisme avec la cul­ture numérique (j’ai égale­ment inté­gré d’autres références citées en notes). Ce sont des études que je con­nais­sais déjà ou que j’ai iden­ti­fiées récem­ment à par­tir de ma vieille sci­en­tifique. Vous y trou­verez égale­ment des références sur les pays dits arabes, la Corée, l’Inde, la Chine, la Colom­bie…la per­spec­tive inter­sec­tion­nelle est d’au­tant plus puis­sante lorsqu’elle se fait décolo­niale.

Lau­rence Allard, “There are no girls on inter­net : pourquoi le cyber fémin­isme ?”,  sémi­naires “Tech­nolo­gies, Inclu­sion et Société”, 11 mars 2019, Ircam.

Pay­al Aro­ra, Dot com mantra: social com­put­ing in the Cen­tral Himalayas, Burling­ton, VT, Etats-Unis d’Amérique, Ash­gate, 2010.

Leti­cia And­lauer, “Pro­fils et avatars, iden­tités au sein d’une com­mu­nauté issue d’un jeu pour ado­les­centes” dans Zlit­ni Sami & Lié­nard Fabi­en (dir), Médias et com­mu­ni­ca­tion élec­tron­ique : enjeux de société, 2019, Édi­tions Lam­bert-Lucas, Limo­ges.

Héc­tor Bel­trán, “Code Work: Think­ing with the Sys­tem in Méx­i­co”, Amer­i­can Anthro­pol­o­gist, n/a(n/a).

Ruha Ben­jamin, Race After Tech­nol­o­gy: Abo­li­tion­ist Tools for the New Jim Code. Poli­ty, 2019.

Sophie Bish­op et al., “Intro­duc­tion to the spe­cial issue: algo­rithms for her? Fem­i­nist claims to tech­ni­cal lan­guage”, Fem­i­nist Media Stud­ies, 20(5), 2020, p. 1‑3.

Melis­sa Bliss, “Under the radar: old­er women YouTu­bers and algo­rith­mic influ­ence”, Fem­i­nist Media Stud­ies, 0(0), 2020, p. 1‑3.

Tan­ja Estel­la Bosch, Mare Admire et Meli Ncube, “Face­book and pol­i­tics in Africa: Zim­bab­we and Kenya”, Media, Cul­ture & Soci­ety, 42(3), 2020, p. 349‑364.

Mélanie Bour­daa et Arnaud Alessan­drin, “Fan Stud­ies / Gen­der Stud­ies : l’introduction du retour” dans Fan Stud­ies / Gen­der Stud­ies : le retour, 2019.

Hélène Bre­da, “La cri­tique fémin­iste pro­fane en ligne de films et de séries télévisées”, Reseaux, n° 201(1), 2017, p. 87‑114.

Earvin Charles Cabalquin­to et Cheryll Ruth R. Sori­ano, “‘Hey, I like ur videos. Super relate!’ Locat­ing sis­ter­hood in a post­colo­nial inti­mate pub­lic on YouTube”, Infor­ma­tion, Com­mu­ni­ca­tion & Soci­ety, 23(6), 2020, p. 892‑907.

Tressie McMil­lan Cot­tom, “Where Plat­form Cap­i­tal­ism and Racial Cap­i­tal­ism Meet: The Soci­ol­o­gy of Race and Racism in the Dig­i­tal Soci­ety”, Soci­ol­o­gy of Race and Eth­nic­i­ty, 6(4), 2020, p. 441‑449.

Maxime Cervulle et Vir­ginie Jul­liard, “Le genre des con­tro­ver­s­es : approches fémin­istes et queer”, Ques­tions de com­mu­ni­ca­tion, (33), 2018.

Del­phine Chedaleux, “Cul­tures féminines et fémin­isme”, La Vie des idées, 2020.

Gino Canel­la, “#Black­Is­Beau­ti­ful: the rad­i­cal pol­i­tics of black hair”, Visu­al Stud­ies, 0(0), 2020, p. 1‑12.

Anto­nio a Casil­li, En atten­dant les robots, Paris XIXe, Le Seuil, 2019.

Xu Chen, D. B. V. Kaye et J. Zeng, “#Pos­i­tiveEn­er­gy Douyin: con­struct­ing “play­ful patri­o­tism” in a Chi­nese short-video appli­ca­tion”, Chi­nese Jour­nal of Com­mu­ni­ca­tion, 2020.

Patri­cia Hill Collins, Inter­sec­tion­al­i­ty as Crit­i­cal Social The­o­ry, Duke Uni­ver­si­ty Press Books, 2019.

Mar­i­on Cov­ille, “Ren­dre vis­i­ble le corps et ses douleurs : Les tech­nolo­gies de l’en­dométriose. Jour­nal d’un diag­nos­tic”, 2018, FemTech — Approches fémin­istes des sci­ences et des tech­nolo­gies.

Anne Cordier, “Présen­ta­tion du numéro : Lit­téra­cies infor­ma­tion­nelles et médi­a­tiques au prisme du genre”, Revue de recherch­es en lit­tératie médi­a­tique mul­ti­modale, 4, 2016.

Aymar Jean Chris­t­ian et al., “Plat­form­ing Inter­sec­tion­al­i­ty: Net­worked Sol­i­dar­i­ty and the Lim­its of Cor­po­rate Social Media”, Social Media + Soci­ety, 6(3), 2020.

Lucie Dal­ib­ert, “Tech­nolo­gie” dans Juli­ette Rennes (dir.), Ency­clopédie cri­tique du genre, La Décou­verte, 2016.

Jessie Daniels, “Race and racism in Inter­net Stud­ies: A review and cri­tique”, New Media & Soci­ety, 2012.

Léna Dormeau, “Tech­nolo­gies NBIC : appro­pri­a­tion des corps et devenir nègre du monde”, Fes­ti­val des Lib­ertés Numériques, 2010, Uni­ver­sité Rennes 2 Haute-Bre­tagne, 1er févri­er 2019.

Milad Douei­hi, Qu’est-ce que le numérique ?, Press­es Uni­ver­si­taires de France, 2013.

David O. Dowl­ing, Christo­pher Goetz et Daniel Lath­rop, “One Year of #Gamer­Gate: The Shared Twit­ter Link as Emblem of Mas­culin­ist Gamer Iden­ti­ty”, Games and Cul­ture, 2019.

Olivi­er Ertzscheid, “Algos à fleur de peau. La gène du gynécée”, Affordance.info, 28 octo­bre 2020.

Vir­ginia Eubanks, Automat­ing Inequal­i­ty: How High-Tech Tools Pro­file, Police, and Pun­ish the Poor, St. Martin’s Pub­lish­ing Group, 2018.

Amber M. Hamil­ton, “A Geneal­o­gy of Crit­i­cal Race and Dig­i­tal Stud­ies: Past, Present, and Future”, Soci­ol­o­gy of Race and Eth­nic­i­ty, 2020.

Jus­tine Humphry, “Look­ing for Wi-Fi: youth home­less­ness and mobile con­nec­tiv­i­ty in the city”, Infor­ma­tion, Com­mu­ni­ca­tion & Soci­ety, 2019.

Lenka Hrbková et Ale­na Mack­ová, “Cam­paign like a girl? Gen­der and com­mu­ni­ca­tion on social net­work­ing sites in the Czech Par­lia­men­tary elec­tion”, Infor­ma­tion, Com­mu­ni­ca­tion & Soci­ety, 2020.

Inter­ne­tAc­tu, “Peut-on cor­riger les biais ?”, 20 févri­er 2020.

John L. Jack­son Jr, Thin Descrip­tion: Ethnog­ra­phy and the African Hebrew Israelites of Jerusalem, Illus­trat­ed Edi­tion. Cam­bridge, Mass­a­chu­setts, Har­vard Uni­ver­si­ty Press, 2013.

Dal Yong Jin, Transna­tion­al Kore­an Cin­e­ma: Cul­tur­al Pol­i­tics, Film Gen­res, and Dig­i­tal Tech­nolo­gies, Rut­gers Uni­ver­si­ty Press, 2019.

Car­rie Kars­gaard et Mag­gie Mac­Don­ald, “Pic­tur­ing the pipeline: Map­ping set­tler colo­nial­ism on Insta­gram”, New Media & Soci­ety, 22(7), 2020, p. 1206‑1226.

Do Own (Don­na) Kim, Nathaniel Ming Cur­ran et Hyun Tae (Calvin) Kim, “Dig­i­tal Fem­i­nism and Affec­tive Splin­ter­ing: South Kore­an Twit­ter Dis­course on 500 Yemeni Refugees”, Inter­na­tion­al Jour­nal of Com­mu­ni­ca­tion, 14(0), 2020, p. 19.

Mar­wan M. Kraidy, The naked blog­ger of Cairo: cre­ative insur­gency in the Arab world, Cam­bridge, Mass­a­chu­setts, Etats-Unis d’Amérique, Har­vard Uni­ver­si­ty Press, 2016.

Frédérique Kru­pa, Girl Games : gen­der, tech­nol­o­gy and design for women’s recruit­ment in Infor­ma­tion and Com­mu­ni­ca­tion Tech­nol­o­gy (ICT)?, Thèse de doc­tor­at, Paris 1, 2018.

Mélanie Lal­let, Libérées, délivrées ?: Rap­ports de pou­voir ani­més, INA, 2020.

Pengx­i­ang Li et al., “#MeToo as a Con­nec­tive Move­ment: Exam­in­ing the Frames Adopt­ed in the Anti-Sex­u­al Harass­ment Move­ment in Chi­na”, Social Sci­ence Com­put­er Review, 2020.

Eliz­a­beth Losh et Jacque­line Wern­i­mont, Bod­ies of Infor­ma­tion: Inter­sec­tion­al Fem­i­nism and the Dig­i­tal Human­i­ties, Uni­ver­si­ty Of Min­neso­ta Press, 2019.

Luwei Rose Luqiu et Fan Yang, “Anti-mus­lim sen­ti­ment on social media in Chi­na and Chi­nese Mus­lims’ reac­tions to hatred and mis­un­der­stand­ing”, Chi­nese Jour­nal of Com­mu­ni­ca­tion, 2019, p. 1‑17.

Breeanne Math­e­son et Emi­ly Jan­u­ary Petersen, “Tac­tics for Pro­fes­sion­al Legit­i­ma­cy: An Appar­ent Fem­i­nist Analy­sis of Indi­an Women’s Expe­ri­ences in Tech­ni­cal Com­mu­ni­ca­tion”, Tech­ni­cal Com­mu­ni­ca­tion Quar­ter­ly, 2019.

Mélanie Mau­voisin, “Étude des per­for­mances sémi­o­tiques des usagers au sein de l’application de mise en con­tact Grindr”, Inter­faces numériques, 8(2), 2020, p. 274‑274.

Kait­lynn Mendes, Jes­si­ca Ringrose et Jes­salynn Keller, Dig­i­tal Fem­i­nist Activism: Girls and Women Fight Back Against Rape Cul­ture, Oxford Uni­ver­si­ty Press, 2019.

Soumaya Mestiri, Elu­cider l’intersectionnalité : Les raisons du fémin­isme noir, Vrin, 2020.

Ser­vanne Mon­jour, “Dibu­tade 2.0 : la ”femme-auteur” à l’ère du numérique”, Sens pub­lic, 2015.

Alexan­dre Mon­nin et Lau­rence Allard, “Ce que le design a fait à l’Anthropocène, ce que l’Anthropocène fait au design”, Sci­ences du Design, n° 11(1), 2020, p. 21‑31.

Valerie Fran­cis­co-Men­chavez, The Labor of Care: Fil­ip­ina Migrants and Transna­tion­al Fam­i­lies in the Dig­i­tal Age, Uni­ver­si­ty of Illi­nois Press, 2018.

Uray­oán Noel, “The Queer Migrant Poemics of #Lat­inx Insta­gram”, New Lit­er­ary His­to­ry, 50(4), 2019, p. 531‑557.

Sefa Ozalp et al., “Anti­semitism on Twit­ter: Col­lec­tive Effi­ca­cy and the Role of Com­mu­ni­ty Organ­i­sa­tions in Chal­leng­ing Online Hate Speech”, Social Media + Soci­ety, 6(2), 2020.

Fred Pailler, Les affects clas­si­fiés : numérique et médi­a­tions sex­uelles, Thèse de doc­tor­at, Uni­ver­sité de Nantes, Nantes, 2019.

Dominique Pasquier, L’internet des familles mod­estes: Enquête dans la France rurale, Trans­val­or — Press­es des mines, 2018.

Marie-Anne Paveau, “Fémin­ismes 2.0. Usages techn­odis­cur­sifs de la généra­tion con­nec­tée”, Argu­men­ta­tion et Analyse du Dis­cours, (18), 2017.

Kristin M. Peter­son, “The Unruly, Loud, and Inter­sec­tion­al Mus­lim Woman: Inter­rupt­ing the Aes­thet­ic Styles of Islam­ic Fash­ion Images on Insta­gram”, Inter­na­tion­al Jour­nal of Com­mu­ni­ca­tion, 14(0), 2020, p. 20.

Bran­don Rogers, “#Biguys and #Biboys: The Dis­cur­sive Pro­duc­tion of Bisex­u­al Men through Instagram’s Homo­nor­ma­tive Visu­al Cul­ture”, Jour­nal of Bisex­u­al­i­ty, 2020, p. 1‑22.

Shakir Mohamed, Marie-Therese Png et William Isaac, “Decolo­nial AI: Decolo­nial The­o­ry as Sociotech­ni­cal Fore­sight in Arti­fi­cial Intel­li­gence”, Phi­los­o­phy & Tech­nol­o­gy, 2020.

Ross Singer, “Toward Inter­sec­tion­al Ecofem­i­nist Com­mu­ni­ca­tion Stud­ies”, Com­mu­ni­ca­tion The­o­ry, 30( 3), 2020, p. 268–289.

Vered Sei­d­mann, “On blogs, autis­tic blog­gers, and autis­tic space”, Infor­ma­tion, Com­mu­ni­ca­tion & Soci­ety, 2020, p. 1‑16.

Erik Skare, Dig­i­tal Jihad: Pales­tin­ian Resis­tance in the Dig­i­tal Era, Zed Books, 2016.

Cheryll Ruth R. Sori­ano et Jason Vin­cent A. Cabañes, “Entre­pre­neur­ial Sol­i­dar­i­ties: Social Media Col­lec­tives and Fil­ipino Dig­i­tal Plat­form Work­ers”, Social Media + Soci­ety, 6(2), 2020.

Robert Spar­row, “Robot­ics Has a Race Prob­lem”, Sci­ence, Tech­nol­o­gy, & Human Val­ues, 45(3), 2020, p. 538‑560.

Michael Stam­bo­lis-Ruh­stor­fer, “Queer Fam­i­lies Online: The Inter­net as a Resource for Access­ing and Facil­i­tat­ing Sur­ro­ga­cy and ART in France and The Unit­ed States, in Access to Assist­ed Repro­duc­tive Tech­nolo­gies: The Case of France and Bel­gium, 2020.

Nicholas Thoburn, “Twit­ter, Book, Riot: Post-Dig­i­tal Pub­lish­ing against Race”, The­o­ry, Cul­ture & Soci­ety, 37(3), 2020, p. 97‑121.

Ver­i­ty Trott, “Net­worked fem­i­nism: coun­ter­publics and the inter­sec­tion­al issues of #MeToo”, Fem­i­nist Media Stud­ies, 2020, p. 1‑18.

Jen­nifer Varde­man et Aman­da Sebesta, “The prob­lem of inter­sec­tion­al­i­ty as an approach to dig­i­tal activism: the Women’s March on Washington’s attempt to unite all women”, Jour­nal of Pub­lic Rela­tions Research, 2020, p. 1‑23.

Bri­an­na I. Wiens et Shana Mac­Don­ald, “Fem­i­nist futures: #MeToo’s pos­si­bil­i­ties as poiesis, tech­né, and phar­makon”, Fem­i­nist Media Stud­ies, 2020, p. 1‑17.

Notes   [ + ]

1. Lila Belka­cem, Amélie Le Renard et Myr­i­am Paris, “Race” dans Juli­ette Rennes (dir.), Ency­clopédie cri­tique du genre, La Décou­verte, 2016 ; Maxime Cervulle, Dans le blanc des yeux, Édi­tions Ams­ter­dam, 2013 ; Maxime Cervulle, Nel­ly Quemen­er et Flo­ri­an Vörös, Matéri­al­ismes, cul­ture et com­mu­ni­ca­tion — Tome 2: Cul­tur­al Stud­ies, théories fémin­istes et décolo­niales., Trans­val­or — Press­es des mines, 2016 ; Patri­cia Hill Collins, Inter­sec­tion­al­i­ty as Crit­i­cal Social The­o­ry, Duke Uni­ver­si­ty Press Books, 2019 ; Angela Davis, Femmes, race et classe, des femmes ‑Antoinette Fouque, 2020 [1983]; Katouar Harchi, “L’intersectionnalité, une cri­tique éman­ci­patrice”, Libéra­tion, 28 octo­bre 2020 ; Jah­jah Marc, “#Lat­inx : une poésie indigéniste, queer et polémique sur Insta­gram”, 7 avril 2020 ; Jah­jah Marc, “Je suis noire, musul­mane et grosse” : des corps indis­ci­plinés sur Insta­gram”, 12 mars 2020 ; Soumaya Mestiri, Elu­cider l’intersectionnalité : Les raisons du fémin­isme noir, Vrin, 2020 ; Omar Slaouti et Olivi­er Le Cour Grand­mai­son, Racismes de France, La Décou­verte, 2020 ; Françoise Vergès, Un fémin­isme décolo­nial, La Fab­rique, 2019 ; L’émis­sion “Kiff ta race” avec Maxime Cervulle : “Les blancs ont-ils une couleur ?”  et Gaby : “Le car­refour des inter­sec­tions” ; enfin, cet appel à com­mu­ni­ca­tions de la revue Itinéraires : “Race et dis­cours. Langues, inter­sec­tion­nal­ité, décolo­nial­ités”.
2. Virginia Eubanks, Automat­ing Inequal­i­ty: How High-Tech Tools Pro­file, Police, and Pun­ish the Poor, St. Martin’s Pub­lish­ing Group, 2018 ; Safiya Umo­ja Noble, Algo­rithms of Oppres­sion: How Search Engines Rein­force Racism, New York Uni­ver­si­ty Press, 2018 ; Cathy O’Neil, Weapons of Math Destruc­tion: How Big Data Increas­es Inequal­i­ty and Threat­ens Democ­ra­cy, Crown, 2016.
3. Daniele Loren­zi­ni, Éthique et poli­tique de soi. Fou­cault, Hadot, Cavell et les tech­niques de l’or­di­naire, Vrin, 2015.