La ruée vers le développement de solutions technologiques pour lutter contre la pandémie a amené une vague de la confidentialité des données et des considérations éthiques – en particulier en ce qui concerne les nombreuses façons dont les communautés marginalisées ont été impacté disproportionné.

Pour que la technologie soit fiable à long terme, les droits de l’homme et la vie privée doivent être pris en compte. En fait, démontrer et gagner la confiance des employés est l’un des problèmes les plus importants les entreprises sont confrontées aujourd’hui.

L’éthique dès la conception est un cadre qui insère des garde-fous éthiques dans la conception, le développement et le déploiement. Cette approche est au cœur de la construction de solutions technologiques responsables, en particulier pendant la précipitation d’une crise.

Ce printemps, alors que Salesforce abordait de nouvelles solutions technologiques pour la crise du COVID-19, nous a élaboré un ensemble de lignes directrices fondées sur des valeurs pour introduire une utilisation éthique dans la technologie que nous construisions. Le processus de création de ces lignes directrices nous a appris des leçons importantes sur la manière de développer la technologie en temps de crise et sur la manière dont l’éthique peut être mise à profit pour stimuler l’innovation. Voici quelques-unes des leçons que nous avons apprises jusqu’à présent.

1) Écoutez vos communautés

Au cœur de la création de directives éthiques, il y a la protection des populations les plus marginalisées de nos communautés et en gardant à l’esprit l’impact qu’un produit peut avoir sur elles. Nous pensons à cela en termes d ‘«intention vs impact». Quelle que soit notre intention, nous avons la responsabilité de considérer l’impact de nos actions.

Pour ce faire, assurez-vous d’incorporer les commentaires et de collecter les points de vue d’un large éventail de votre communauté. Cela peut inclure des groupes de discussion avec des publics diversifiés ou travailler en étroite collaboration avec des groupes de ressources d’employés pour comprendre les différentes expériences et préoccupations.

En outre, réfléchissez à la manière d’impliquer activement un ensemble diversifié d’experts – tels que des professionnels de la santé publique et médicale, ainsi que des experts en protection de la vie privée. Lors de la création de nos lignes directrices, nous avons référencé les normes du Les Nations Unies et Comité international de la Croix-Rouge ainsi que les principes des réglementations en matière de confidentialité et de protection des données comme le règlement général sur la protection des données. Nous avons également consulté nos groupes de ressources pour les employés, notre conseil consultatif sur l’utilisation éthique et d’autres groupes de la société civile. En outre, nous avons assuré la liaison avec le Forum économique mondial Projet d’utilisation responsable de la technologie partager les meilleures pratiques dans des domaines tels que les outils de développement de produits éthiques, la conception organisationnelle et l’habilitation des employés.

De plus, nous consultons régulièrement notre comité consultatif sur l’utilisation éthique pour obtenir des commentaires et des commentaires plus larges sur un éventail de questions. Lors de nos réunions du Conseil, nous entendons également nos employés qui travaillent directement avec le produit, ainsi que les dirigeants, sur les questions clés qui ont un impact sur notre entreprise et notre travail.

2) Assurez-vous que vos conseils sont accessibles et exploitables

Pour que les directives soient considérées comme efficaces en cas de crise, il est essentiel que votre public puisse les comprendre et les mettre en œuvre rapidement. Lorsque nous avons présenté nos lignes directrices pour la première fois à nos propres employés lors de groupes de discussion, on nous a dit « Il se lit comme un article académique,«  parce que le contenu était si long et dense.

Les conseils doivent être adaptés à chaque public, à la fois dans le format et dans le contenu. En conséquence, nous avons créé un diaporama pour aider à mettre nos équipes produits à la place des utilisateurs finaux à travers une série de questions réelles. Alternativement, les équipes de vente voulaient du contenu à grignoter, nous avons donc créé un document FAQ accompagné de courtes vidéos expliquant comment nos conseils résolvent les problèmes des clients.

L’intégration de l’éthique dans le processus de conception est un concept plus récent pour beaucoup et un facteur facilement ignoré dans un délai court. Notre premier ensemble de directives de réponse au COVID-19 a amené de nombreux employés à se demander: «D’accord, c’est génial, mais Qu’est ce que cela signifie pour moi? » Pour que les directives soient utilisées rapidement, nous avons appris que nous devions travailler plus étroitement avec les équipes pour être vraiment «dans le coup» avec elles, pour comprendre l’impact que nos directives auraient sur leur travail. Cela signifiait investir du temps et des ressources pour assister aux stand up des équipes, s’impliquer tôt dans les feuilles de route des produits et faciliter la formation en direct pour divers groupes afin de garantir que nos directives fonctionnaient pour les équipes.

3) Créer des mécanismes de rétroaction continue

Aucun prototype n’est parfait, mais l’amélioration de toute conception précoce nécessitera une collecte continue des commentaires. Le produit résout-il des problèmes ou en crée-t-il plus? Tient-il ses promesses? Au fur et à mesure que nous partagions chaque ensemble de directives, nous avons demandé directement des commentaires – de nos propres employés, mais aussi de nos clients et partenaires. Au fur et à mesure que vous élaborez les plans de projet pour votre produit, assurez-vous de prévoir un espace pour les commentaires à des étapes clés.

Nous demandons continuellement à nos employés des commentaires sur les problèmes d’utilisation éthique, tels que les conséquences involontaires d’un produit ou des questions des clients, et nous fournissons des moyens d’entendre les préoccupations des employés. Nous avons de nombreuses façons de contacter notre Bureau de l’utilisation éthique et humaine, et nous organisons également des heures de bureau pour connaître les problèmes auxquels les employés peuvent être confrontés.

Au fur et à mesure que nous élaborions nos directives COVID-19, nous avons également organisé des groupes de discussion avec des employés de nos organisations de technologie, de marketing et de produits pour tester les conseils et définir les prochaines étapes – en posant des questions telles que «Les directives sont-elles claires?» ou « De quelles ressources supplémentaires avez-vous besoin? » Nos groupes de discussion comprenaient des employés prônant déjà une utilisation éthique ainsi que des groupes d’employés choisis au hasard qui pourraient être moins familiers avec ce travail.

4) Planifiez la vie après la crise

La crise du COVID-19 est un rappel important pour vous assurer que toutes les directives que vous élaborez peuvent être utilisées tout au long d’une reprise et au-delà, reflétant l’évolution des besoins et une approche à long terme.

Par exemple, en matière de partage de données, les dangers immédiats de la crise du COVID-19 plus de personnes sont plus disposées à partager des données qu’elles n’auraient peut-être pas autrement, telles que leur température ou d’autres symptômes du COVID-19. Cependant, cette volonté peut s’estomper à mesure que nous progressons dans la phase de rétablissement, et il est important que nous protégions ce choix. En conséquence, les directives doivent inclure des mesures pour ne conserver les données que le temps nécessaire pour que votre solution soit efficace et offrir des options pour anonymiser et agréger les informations dans la mesure du possible.

5) Évoluez avec la technologie et la société

Nos lignes directrices ne sont pas parfaites et elles continueront d’évoluer. Cette évolution est essentielle pour servir à une époque sans précédent où les solutions évoluent – variant selon le pays, la communauté et les percées technologiques qui remettent constamment en question les pratiques établies.

Face à une crise, il peut être difficile de trouver le temps ou les ressources pour entendre tous les groupes saillants ou relever tous les défis. Pourtant, une approche engagée dans l’évolution garantira que tout ensemble de pratiques reste pertinent. Alors que nous traversons tous cette tempête et jouons notre rôle dans le rétablissement, il est essentiel que nous nous appuyions et écoutions de nouveaux experts et communautés pour guider nos prochaines étapes et être prêts à continuer à apprendre.

La reconstruction après une crise crée une opportunité de changement positif et de croissance si elle est effectuée de manière responsable et en gardant à l’esprit les populations vulnérables. Déjà, nous avons commencé à voir des groupes internes poser de nouveaux types de questions, entamer des conversations réfléchies sur l’impact de leurs produits et chercher une meilleure compréhension des conséquences imprévues de leur technologie.

Nous nous engageons à poursuivre la conversation et à jouer un rôle dans l’orientation de nos communautés tout au long du rétablissement. Les lignes directrices que les entreprises créent maintenant peuvent servir d’outils puissants pour diriger ce changement systémique et naviguer dans les changements à venir.