En tant qu’adolescent dans les années 90 à la ceinture biblique américaine, vous n’avez pas eu à chercher loin pour trouver quelqu’un portant un bracelet emblématique avec 4 lettres simples: WWJD. Cela visait à rappeler aux jeunes chrétiens d’évaluer constamment les décisions de leur vie quotidienne par rapport à la question «Que ferait Jésus?». Il était destiné à être un encouragement à être gentil et à traiter les autres comme vous voudriez être traité.
Après avoir passé plus d’une décennie dans l’industrie de la technologie, j’ai vu que les humains (en particulier en ligne) n’ont pas toujours à traiter les autres comme leur premier instinct. Entre les trolls Internet, les fermes de robots, les hackers black-hat ou tout nombre de groupes haineux qui ont trouvé leur place en ligne, on peut avoir l’impression qu’Internet devient de plus en plus toxique chaque jour. Ce n’est pas un hasard si l’éthique des produits est devenue un sujet populaire sur les scènes de conférence ces dernières années.
Nous devons tous réfléchir à l’éthique des produits
Il est facile de penser que l’éthique des produits est une chose à laquelle «ces grandes entreprises» doivent réfléchir: celles dont la portée peut réellement avoir un impact sur des choses comme la politique mondiale, la montée du nationalisme toxique et la démocratie elle-même, mais je dirais que presque tout Un produit ou une fonctionnalité apparemment inoffensif peut être mal utilisé.
Nous sommes à une époque où certains des pires de l’humanité voient le jour. Et nos produits leur permettent de faire du mal. Il existe des exemples bien documentés d’agresseurs domestiques utilisant la technologie de la maison intelligente comme instruments de surveillance et d’abus. Nos applications de fitness ont partagé des routines de course régulières avec des inconnus sur Internet, posant de graves risques pour la sécurité des populations vulnérables et même exposant des dispositions détaillées de bases militaires sensibles.
Personnellement, quelqu’un de mon passé m’a retrouvé sur Facebook, non pas parce que je les ai dans mes contacts (ils ont été supprimés il y a longtemps comme quelqu’un avec qui je ne voulais plus interagir), mais parce que mon numéro de téléphone était toujours dans leurs contacts et était également dans mon profil Facebook. La fonctionnalité “Trouvez vos contacts” de Facebook est passée d’un moyen simple de trouver des personnes que vous connaissez à un moyen de suivre une personne qui autrement ne consentirait pas à être suivie. J’ai de la chance que ma situation soit plus un ennui qu’une menace réelle, mais je vous garantis que ce n’est pas toujours le cas.
Évaluation des cas limites éthiques
Il y a un peu plus d’un an, je discutais du concept d’éthique des produits avec un collègue, Eli Montgomery. Il a dit: «Chaque fois que je commence à imaginer une nouvelle fonctionnalité de produit, j’aime me demander:« Que feraient les trolls? » En gros, comment les pires personnes sur Internet, ayant accès à cette fonctionnalité, l’utiliseraient-elles pour harceler ou nuire à d’autres personnes? En tant que chefs de produit, nous sommes formés pour réfléchir aux cas de pointe de nos produits. Nous nous laissons penser au comportement de nos produits si un utilisateur atterrit sur une page sans données, ou a un nom très long, ou s’énerve et commence à cliquer avec rage sur un bouton. Alors pourquoi passons-nous si peu de temps à réfléchir à la façon dont nos produits pourraient réellement être mal utilisé?
J’avais l’habitude de gérer une application de voyage appelée TripCase qui vous permettait de suivre votre voyage. Une demande de fonctionnalité régulière dont nous avons discuté était de pouvoir publier automatiquement vos voyages sur Facebook. Cela ressemble à une fonctionnalité simple – «Je pars en voyage à Paris! Laissez-moi partager cela avec mes amis! Mais au fur et à mesure que notre équipe en parlait, nous avons réalisé à quel point cela pouvait facilement mal tourner. Nous avons pu voir un très court saut vers un scénario où notre application a signalé que quelqu’un allait être hors de la ville la semaine prochaine, et a donné aux voleurs potentiels les dates exactes pendant lesquelles leur maison serait vide. Ou un utilisateur a oublié de désactiver cette fonctionnalité automatisée avant de se rendre dans une autre ville pour interviewer le plus grand concurrent de son entreprise… et son patron était un ami Facebook. Nous avons décidé que le risque ne valait pas le «plaisir».
Mariah Hay de Pluralsight a donné un exemple à #mtpcon d’une demande de fonctionnalité pour l’application Pluralsight qui partagerait les scores d’évaluation des compétences d’un apprenant avec son employeur. Alors que la demande était bien intentionnée de la part des entreprises, l’équipe pouvait facilement voir cette fonctionnalité se traduisant par des promotions, des augmentations ou même des opportunités d’embauche biaisées, ce qui transformerait le produit en une arme. Ils sont retournés à la planche à dessin jusqu’à ce qu’ils puissent trouver un moyen de résoudre les problèmes de l’entreprise sans armer leur produit contre les employés.
Des réalisations comme celles-ci ne nécessitent pas de grands sauts d’imagination ou une horrible perte d’innocence à découvrir. Tout ce qu’ils prennent, c’est admettre que tout le monde sur Internet n’a peut-être pas les intentions les plus pures, ou peut même penser qu’il fait du bien, mais finit par utiliser votre produit contre d’autres personnes. Un rapide brainstorming dans lequel vous demandez “Que feraient les trolls?” pourrait empêcher votre produit d’être la scène sur laquelle se déroule le cauchemar de quelqu’un d’autre.
Les bracelets WWJD de ma jeunesse étaient censés être un rappel que nous sommes censés agir de bonne foi dans tous les aspects de notre vie. Mais en tant que chef de produit dans le domaine de la technologie, je pense que ce dont nous avons vraiment besoin, c’est de nous rappeler que tous nos utilisateurs n’ont pas de bonnes intentions et qu’il y aura toujours des gens qui chercheront à faire du mal. Ce dont nous avons besoin, c’est d’un bracelet qui nous rappelle de nous demander «WWTD?»
