Unease / Malaise

How will identity and bias classification schemas be used in future data products? What about potential for abuse by bad actors, and the unintended consequences of a bias tag like ‘W’ being used by bad actors to search for problematic content, not filter from?

Comment les schémas d’identité et les biais de classification seront utilisés dans les futurs produits construits grâce aux données numériques? Qu’en est-t-il des potentiels d’utilisations abusives perpétrées par des acteurs mal intentionnés et des conséquences imprévisibles liées à l’utilisation par ces mêmes acteurs du label biaiseur ‘W’  pour identifier, lors d’une recherche, un contenu problématique et non le filtrer?

Is this a way to describe, in public, what factors matter to ML algorithms at streaming platforms? In what future scenarios can people make meaningful choices about what parts of identity to share (and for what/with who(m)), what parts to anonymize, and what parts to obfuscate?

Est-ce une manière de décrire, de manière publique, les facteurs qui importent aux algorithmes d’apprentissage automatique chez (par exemple) les plateformes de streaming? Quels scénarios futurs laisserons les utilisateurs faire les justes choix des morceaux d’identités à partager (pourquoi/avec qui), à rendre anonyme ou à brouiller?

What kind of privacy and social constructs would have to be invented for the P2P sharing of one peer’s watch-history-aggregate information with another peer? Could peers/people use this to compare media diets? How to think about identity-model-as-human-right, and as shared or anonymized identity-data-as-part-of-a-group-model?

*Quelle intimité numérique et constructions sociales devraient être inventées pour partager d’égal à égal l’agglomérat d’un historique de visualisation avec l’autre? Ces concepts pourraient-ils être utilisés par ces mêmes personnes dans le but de comparer leurs consommations médiatiques? Comment penser le modèle d’identité en tant que droit de l’homme et les données d’identité (partagées ou anonymisées) comme participant à un modèle de groupe?

*

What work does a visual form or glyph do, sans words, to talk about identity and social context?

Sans catégorie

IA, algorithme, inégalité algorithmique, droit de propriété, faisceau de droits de propriété, collectif, communauté, géographies comparatives, données, éthique, échange, individu, droit inhérent, apprentissage automatique, droit moral, protection, société, trans-national.

Thanks to Alex Petit-Bianco for the EN->FR translation.