Dr Jeffrey Bilbro, professeur d’anglais au Grove City College et éditeur à La République du porche, a écrit un article pour Charrue sur ce qu’il considère comme la principale faiblesse des grands modèles de langage (LLM) comme ChatGPT. Bilbro aborde la question d’un milieu littéraire, ce qui signifie qu’il valorise l’élément humain dans le langage comme mode de communication. La littérature est une « conversation », nécessitant des esprits sensibles. Il voit ChatGPT comme un mécanisme sans âme qui va atrophier notre capacité à écrire et diminuer notre appréciation pour une bonne écriture. Bilbro écrit :

Les LLM sont une technologie adaptée à une culture décadente, qui recherche des profits faciles plutôt que de s’attaquer aux vrais défis auxquels nous sommes confrontés. Il est plus facile de gagner de l’argent en réarrangeant les mots selon diverses probabilités que de gagner sa vie en améliorant la santé de notre couche arable, de nos communautés et de nos âmes. Lorsque nous nous asseyons devant un ordinateur en tapant des invites dans ChatGPT et en le regardant cracher sans effort phrase après phrase, nous pouvons éprouver la ruée du pouvoir. Cette chose peut faire tout ce que je lui demande de faire! Ce qui est moins évident, c’est le pouvoir de séduction que ces outils exercent sur nous. Paul Kingsnorth dramatise cet attrait dans son roman dystopique Alexandrie, à propos d’une communauté restante d’humains résistant à une IA massive. L’un des agents de cette IA incite ces personnes restantes à télécharger leur conscience sur l’IA et à échapper aux difficultés de l’existence : « Au fur et à mesure qu’Alexandria devenait plus accessible, tout le monde voulait entrer. Si votre vie sur Terre va être un dur labeur dans un sol mourant, ou une lutte pour survivre dans un bidonville de mégapole sans loi, pourquoi continuer plus longtemps que nécessaire? Des tâches telles que bien écrire, bien penser et bien vivre sont difficiles, en particulier pour les créatures tombées et faillibles. Mais nous n’acquérons la compétence nécessaire pour relever ces défis de manière responsable que par une pratique prudente et laborieuse. Aucun raccourci technologique, aucun fruit défendu, ne modifiera cette réalité créatrice.

-Jeffrey Bilbro, Quel problème ChatGPT résout-il? par Jeffrey Bilbro (plough.com)

Bilbro note que ChatGPT élimine la lutte d’un processus qui exigeait auparavant un effort mental et de la frustration. Mais à quoi renonce-t-on quand nous renonçons à la lutte ? Nous pourrions manquer la création de sens réelle, ainsi que la capacité de faire le travail difficile de penser, de synthétiser et de tirer nos propres conclusions.

Le modèle conversationnel de ChatGPT lui donne l’illusion de la conversationnalité, mais c’est toujours un algorithme. Ce n’est pas sensible ou créatif.