Tout dans la société peut sembler orienté vers l’optimisation, qu’il s’agisse de tests standardisés ou d’algorithmes d’intelligence artificielle. On nous apprend à savoir quel résultat vous voulez atteindre et à trouver le chemin pour y parvenir.

Kenneth Stanley, ancien chercheur d’OpenAI et cofondateur d’une nouvelle plateforme de médias sociaux appelée Maven, prêche depuis des années que cette méthode de pensée est contre-productive, voire carrément nuisible. Au lieu de donner la priorité aux objectifs, Stanley dit que nous devrions donner la priorité à la sérendipité.

« Parfois, afin de trouver ces tremplins qui mèneront aux choses qui nous tiennent à cœur, nous devons nous éloigner du chemin de l’objectif et emprunter le chemin de l’intéressant », a déclaré Stanley à fr.techtribune.netdans une interview vidéo. « La sérendipité est le contraire de trouver quelque chose à travers des objectifs. »

L’idée de rechercher la nouveauté pour elle-même a commencé comme un concept algorithmique que les études de Stanley ont appelé Ouverture, un sous-domaine de la recherche sur l’IA sur les systèmes qui « continuent à produire des choses intéressantes pour toujours ».

« Les systèmes ouverts sont comme des systèmes créatifs artificiels », a déclaré Stanley, notant que les humains, l’évolution et la civilisation sont également des systèmes ouverts qui continuent de se construire sur eux-mêmes de manière inattendue.

Cette idée algorithmique s’est transformée en philosophie de vie pour Stanley. Il a même écrit un livre à ce sujet en 2015 avec son ancien doctorant Joel Lehman intitulé Pourquoi la grandeur ne peut pas être planifiée. Le concept a décollé, faisant de Stanley une sorte de point focal international pour l’idée effrontée que, en fait, vous pouvez simplement faire des choses parce qu’elles sont intéressantes, plutôt que parce que vous devez atteindre un objectif déclaré.

Mais en 2022, alors qu’il dirigeait une équipe ouverte chez OpenAI, Stanley a déclaré qu’il était « bouillant de mécontentement » et qu’il avait « eu cette révélation » où il a décidé d’arrêter de parler d’apporter l’ouverture à un public plus large et de commencer plutôt à faire quelque chose à ce sujet.

Et si, se demandait-il, il créait un « réseau de sérendipité », un système mis en place pour augmenter la probabilité de sérendipité, pour que d’autres personnes puissent en profiter ?

Il a donc quitté son emploi et s’est mis à créer Maven, un réseau social construit autour d’un algorithme d’IA ouvert qui évolue à la recherche de nouveauté. Lors de l’inscription, les utilisateurs sélectionnent une série de sujets à suivre – des neurosciences à la parentalité – et l’algorithme leur montre des messages qui correspondent à leurs intérêts. Les algorithmes de médias sociaux d’aujourd’hui vous montrent également des choses que vous pourriez trouver intéressantes, mais la différence est qu’ils sont optimisés pour maximiser l’engagement des utilisateurs, souvent en stimulant le contenu sensationnaliste, pour créer plus d’impressions publicitaires et de revenus. Maven, en revanche, ne se contente pas de vous montrer les articles les plus populaires sur des sujets que vous trouvez intéressants. L’algorithme vous montre les publications en fonction de la probabilité que vous les trouviez attrayantes.

Peut-être le plus révolutionnaire, Maven supprime la configuration actuelle des médias sociaux – il n’y a pas de likes, de votes positifs, de retweets ou de followers, et il n’y a aucun moyen d’amplifier le contenu auprès des masses.

Au lieu de cela, lorsqu’un utilisateur publie quelque chose, l’algorithme lit automatiquement le contenu et le marque avec des intérêts pertinents afin qu’il apparaisse sur ces pages. Les utilisateurs peuvent augmenter le curseur de sérendipité pour aller au-delà de leurs intérêts déclarés, et l’algorithme exécutant la plate-forme connecte les utilisateurs avec des intérêts connexes. Ainsi, si, par exemple, vous suivez des conversations sur l’urbanisme, Maven peut également suggérer des conversations sur les transports en commun.

Et bien qu’il n’y ait aucun moyen de suivre les gens sur la plateforme, vous pouvez voir et vous connecter avec d’autres personnes qui suivent des sujets qui vous intéressent.

À bien des égards, Maven ressemble à un antidote aux médias sociaux d’aujourd’hui, où le « paradoxe objectif est pleinement exposé » alors que les gens se précipitent pour créer un contenu sensationnaliste qui attirera plus d’attention et de popularité.

« Les chambres d’écho et la toxicité, l’amplification du narcissisme et l’image de marque personnelle sont devenues totalement incontrôlables, de sorte que les gens perdent leur âme et se transforment en marques », a déclaré Stanley.

Le Qualités addictives des médias sociaux, Préjudice à la santé mentale chez les adolescents et les adultes, et la capacité de polariser les nations est bien documenté. Selon Stanley, ce sont les conséquences involontaires d’objectifs ambitieux, le résultat de faire de la popularité un indicateur de qualité.

« Et puis yoVous obtenez toutes ces autres choses parce qu’une fois que vous avez de la popularité, vous avez des incitations perverses », a-t-il déclaré.

Stanley a noté que les utilisateurs de Maven peuvent signaler le contenu inapproprié ou la désinformation lorsqu’il apparaît, et son IA surveille activement le contenu hautement incendiaire, offensant « ou pire ». Il a déclaré que Maven ne peut pas réparer la méchanceté de la nature humaine, mais en éliminant les incitations derrière le partage de ce type de contenu, Stanley espère que cela pourrait changer la « dynamique globale de la façon dont les gens se comportent ».

Certaines entreprises de médias sociaux ont tenté de lutter contre de telles incitations dans le passé. Instagram en 2019 a testé le masquage des likes pour limiter les comparaisons et blesser les sentiments qui accompagnent l’attachement de la popularité au contenu. X, anciennement Twitter, se prépare également à rendre les likes privés, mais pour des raisons moins saines. Dans une ligne de pensée très inspirée d’Elon Musk, l’objectif de X est de créer plus d’engagement en permettant aux gens d’aimer en privé un contenu « avant-gardiste » qu’ils ne le feraient pas autrement pour protéger leur image publique.

Maven est moins intéressé à connecter les utilisateurs avec le public et plus à les connecter à ce qui est intéressant.

Le problème de la monétisation

Stanley et ses cofondateurs – Blas Moros et Jimmy Secretan – ont lancé Maven fin janvier. La plateforme a fait ses débuts publics en mai aux côtés d’un Câblé fonctionnalité qui, selon Stanley, a donné à Maven une place de choix sur Recherche de produits et a attiré des milliers d’inscriptions.

Ce sont encore des chiffres faibles par rapport aux autres nouveaux entrants dans l’espace des médias sociaux. Bluesky, qui a été lancé en 2021, a enregistré 5,6 millions d’inscriptions. À partir de janvier 2024, Mastodon en avait 1,8 million utilisateurs actifs. Farcaster, un nouveau protocole social basé sur la cryptographie qui vient de lever 150 millions de dollars, a compté environ 350 000 inscriptions. Tous ces nouveaux réseaux devront se développer de manière significative pour être considérés comme un succès.

La question reste ouverte de savoir si Maven sera même capable d’augmenter sa base d’utilisateurs sans les qualités très toxiques que nous aimons détester, mais qui nous ramènent néanmoins au cloaque que sont les médias sociaux.

Maven a levé 2 millions de dollars en 2023 lors d’un tour de table mené par le cofondateur de Twitter, Ev Williams, a déclaré Stanley à TechCrunch. Le PDG d’OpenAI, Sam Altman, a également participé au tour de table. Stanley a déclaré que Williams et Altman ont investi parce que, comme beaucoup d’entre nous qui sont devenus attachés à la philosophie presque trop douce pour ce monde de Maven, ils pensent que le monde et Internet ont besoin de quelque chose comme ça.

Et en effet, l’espoir idéaliste de Maven de connecter les gens à des idées intéressantes est une bouffée d’air frais qui sent bon le début des années 2000, lorsque Internet était un lieu de connexion et d’exploration. Les sentiments des premiers utilisateurs de la plate-forme sont pour la plupart positifs et optimistes, car beaucoup sont venus sur la plate-forme pour des interactions authentiques et fortuites et l’absence promise de toxicité.

Mais l’idéalisme suffira-t-il à attirer davantage d’investisseurs institutionnels plus tard lorsque Maven voudra se développer ?

« Je pense que le défi auquel nous sommes confrontés est qu’à l’avenir, cela devient un moyen de plus en plus difficile de lever des fonds », a déclaré Stanley, notant que les investisseurs ne jetteront pas des millions à moins qu’il n’y ait une voie claire pour obtenir un retour sur investissement.

« J’ai juste besoin de trouver les bons investisseurs pour aller de l’avant et d’arriver rapidement à un modèle commercial durable », a-t-il poursuivi, réfléchissant à l’idée d’un modèle de souscription qui permettrait à Maven de garder son idéologie intacte.

Il y a, bien sûr, d’autres moyens pour Maven de générer des revenus. La publicité est une voie, mais qui plaît moins à Stanley en raison de son lien avec la viralité et le sensationnalisme.

À terme, Maven pourrait également vendre ses données à des entreprises comme OpenAI qui entraînent leurs algorithmes sur des rames de données. OpenAI a signé plus tôt ce mois-ci un accord avec Reddit pour former son IA sur les données de la société de médias sociaux. Et la proposition de valeur de Maven du point de vue de l’IA n’est même pas seulement le contenu de la plate-forme, c’est l’algorithme ouvert qui l’exécute.

Stanley a déclaré à fr.techtribune.netqu’il pensait que l’ouverture était essentielle à l’intelligence artificielle générale (AGI), un type d’IA qui vise à égaler ou à dépasser les capacités humaines dans une gamme de tâches cognitives. L’ouverture est « un aspect si saillant de l’intelligence », a déclaré Stanley. « C’est comme cet aspect créatif et aussi motivé par la curiosité d’être humain. »

« Les données sont intéressantes du point de vue de l’IA, car ce sont des données sur ce qui est intéressant », a déclaré Stanley, notant que les modèles d’IA actuels ne sont pas pris en compte compréhension intuitive de ce qui est intéressant et de ce qui ne l’est pas, et comment cela peut changer avec le temps. Cependant, même si les données ont une valeur potentielle pour l’IA, Stanley a déclaré que Maven n’avait aucun accord avec une entreprise pour accorder l’accès à ces données.

Et bien qu’il ait dit qu’il n’avait pas exclu cette possibilité à l’avenir, il réfléchirait très attentivement aux implications du partage de telles données.

« Ce n’est pas le but pour moi », a-t-il déclaré, notant qu’il n’est pas convaincu que ce serait une bonne chose pour les réseaux neuronaux d’être complètement ouverts, car cela pourrait rendre tout effort créatif des humains complètement inutile.

« Je voulais vraiment créer cette communauté mondiale fortuite », a-t-il déclaré. « Ce n’est pas comme si j’avais un plan parallèle selon lequel nous allions utiliser Maven pour créer une IA ouverte ou quelque chose comme ça. Je voulais juste créer quelque chose pour les gens parce que j’ai commencé à avoir l’impression que tout le monde allait parler de plus en plus aux chatbots et que nous allions être de moins en moins connectés avec d’autres personnes. Et j’y contribuais en tant que chercheur en IA.

« Quelque chose dans cette idée d’un réseau de sérendipité m’a fait me sentir moralement mieux, comme si je pouvais réellement contribuer à ce que les gens soient plus connectés plutôt que moins. »