À partir de ce mois-ci, 21 ans après Microsoft désactivé Clippy parce que les gens détestaient tellement…Google déploie une nouvelle fonctionnalité appelé « écriture d’assistance » qui s’incruste dans votre prose pour prendre des notes de style et de ton sur le choix des mots, la concision et le langage inclusif.

La société parle de cette fonctionnalité depuis un certain temps; L’année dernière, il a publié des directives de documentation qui exhortent les développeurs à utiliser une documentation accessible la langue, la voix et le ton. Il est déployé de manière sélective pour les utilisateurs au niveau de l’entreprise et est activé par défaut. Mais cette fonctionnalité apparaît pour les utilisateurs finaux dans Google Docs, l’un des produits les plus utilisés de l’entreprise, et c’est ennuyeux comme l’enfer.

Chez Motherboard, le rédacteur principal Lorenzo Franceschi-Bicchierai a tapé « agacé » et Google lui a suggéré de le changer en « en colère » ou « contrarié » pour « améliorer votre flux d’écriture ». Être agacé est une émotion complètement différente de celle d’être en colère ou contrarié – et « bouleversé » est si amorphe que cela pourrait signifier tout un spectre de sentiments – mais Google est une machine, tandis que Lorenzo est un écrivain.

La rédactrice sociale Emily Lipstein a tapé « Motherboard » (comme dans, le nom de ce site Web) dans un document et Google est apparu pour lui dire qu’elle était insensible: « Avertissement inclusif. Certains de ces mots peuvent ne pas être inclusifs pour tous les lecteurs. Envisagez d’utiliser des mots différents.

La journaliste Rebecca Baird-Remba a tweeté un « avertissement inclusif » qu’elle a reçu sur le mot « propriétaire », que Google lui a suggéré de changer en « propriétaire » ou « propriétaire ».

L’éditeur de la carte mère Tim Marchman et moi avons continué à tester les limites de cette fonctionnalité avec de la prose d’extraits d’œuvres célèbres et d’interviews. Google a suggéré que Martin Luther King Jr. aurait dû parler de « la intense urgence de maintenant » plutôt que « le féroce urgence de maintenant » dans son discours « I Have a Dream » et édité l’utilisation par le président John F. Kennedy dans son discours inaugural de l’expression « pour toute l’humanité » pour dire « pour toute l’humanité ». Une interview transcrite du néo-nazi et ancien chef du Klan David Duke – dans laquelle il utilise le mot N et parle de la chasse aux Noirs – ne reçoit aucune note. La féministe radicale Valerie Solanas Manifeste de l’ACUM obtient plus de modifications que la tirade de Duke; elle devrait utiliser « policiers » au lieu de « policiers », note utilement Google. Même Jésus (ou du moins les traducteurs responsables de la Bible du roi Jacques) ne s’en tire pas facilement – plutôt que de parler des œuvres « merveilleuses » de Dieu dans le Sermon sur la montagne, affirme le robot de Google, Il aurait dû utiliser les mots « grand », « merveilleux » ou « charmant ».

Google a déclaré à Motherboard que cette fonctionnalité était en « évolution continue ».

« L’écriture assistée utilise des modèles de compréhension du langage, qui s’appuient sur des millions de phrases et de phrases courantes pour apprendre automatiquement comment les gens communiquent. Cela signifie également qu’ils peuvent refléter certains biais cognitifs humains », a déclaré un porte-parole de Google. « Notre technologie s’améliore constamment, et nous n’avons pas encore (et n’aurons peut-être jamais) de solution complète pour identifier et atténuer toutes les associations de mots et les biais indésirables. »

Être plus inclusif dans notre écriture est un bon objectif, et qui vaut la peine de s’efforcer d’atteindre lorsque nous enchaînons ces phrases et les partageons avec le monde. « Policiers » est plus précis que « policiers ». Couper des phrases comme »liste blanche/liste noire« et »maître/esclave« de notre vocabulaire aborde non seulement des années de biais habituels dans la terminologie technologique, mais nous oblige en tant qu’écrivains et chercheurs à être plus créatifs dans la façon dont nous décrivons les choses. Les changements dans notre discours, comme l’échange de vols spatiaux « habités » contre des vols spatiaux « avec équipage », sont des tentatives de corriger les histoires d’effacement des femmes et des personnes non binaires des industries où elles travaillent.

Mais des mots faire les choses méchantes; appeler les propriétaires « propriétaires » est presque pire que de les appeler »les landchads», et deux fois moins précis. Il s’adresse aux gens comme Howard Schultz qui préférerait que vous ne l’appeliez pas un milliardaire, mais une « personne de moyens ». À une fin plus extrême, si quelqu’un Entend pour être raciste, sexiste ou excluant dans leurs écrits, et veulent rédiger cela dans un document Google, ils devraient être autorisés à le faire sans qu’un algorithme tente d’assainir leurs intentions et de confondre leir lecteurs. C’est ainsi que nous nous retrouvons avec des sifflets de chien.

Penser et écrire en dehors des termes binaires comme « mère » et « père » peut être utile, mais certaines personnes are les mères, et la personne qui écrit à leur sujet devrait le savoir. Certains sites Web (et pièces d’ordinateur) sont simplement appelés Carte mère. Essayer d’intégrer la conscience de soi, la sensibilité et l’édition minutieuse dans l’écriture des gens à l’aide d’algorithmes d’apprentissage automatique – des éléments de technologie déjà profondément défectueux et souvent inintelligents – est malavisé. Surtout quand il vient d’une entreprise qui est aux prises avec ses propres comptes internes dans l’inclusion, la diversité et la maltraitance des travailleurs qui défendent une meilleure éthique dans l’IA.

Ces suggestions s’amélioreront probablement à mesure que les utilisateurs de Google Docs y répondront, mettant une quantité incalculable de travail non rémunéré dans la formation des algorithmes, comme nous entraînons déjà ses fonctionnalités de correction automatique, de texte prédictif et de suggestion de recherche. D’ici là, nous devrons continuer à dire que non, nous voulons vraiment dire Carte mère.