Original English Version

La personnalisation était censée rendre la technologie plus humaine, anticiper nos besoins, simplifier nos choix et nous faire gagner du temps.

Mais en réalité, la plupart d’entre nous continuons à vivre l’inverse : des recommandations sans fin qui passent à côté de l’essentiel, des systèmes qui suivent nos habitudes mais ne comprennent pas nos vies, et des chatbots qui « comprennent » tout sauf ce que nous voulons vraiment dire.

C’est là tout le paradoxe de la personnalisation par l’IA : la technologie apprend à une vitesse sans précédent, mais écoute de moins en moins.

Une promesse qui n’a jamais été pleinement tenue

Dans des secteurs tels que le voyage et la vente au détail, la personnalisation est un objectif stratégique depuis plus d’une décennie.

Les compagnies aériennes et les plateformes en ligne collectent d’énormes quantités de données pour anticiper ce que nous allons réserver ou acheter ensuite, qu’il s’agisse d’un vol, d’un hôtel ou d’un service supplémentaire. Pourtant, malgré toute cette technologie intelligente, les recommandations tombent souvent à plat.

Dans le secteur du voyage, il existe un dicton : les compagnies aériennes savent où vous voyagez, mais rarement pourquoi. Sans comprendre le « pourquoi », la personnalisation échoue. Le système apprend à partir de ce que vous avez cliqué ou acheté, mais pas à partir de vos intentions ou de vos sentiments. Il analyse, mais n’écoute pas.

En effet, la plupart des systèmes de personnalisation sont conçus pour la rapidité et le profit, plutôt que pour une véritable compréhension. L’objectif est de stimuler les ventes, de réduire les coûts et de gérer des millions de personnes simultanément.

Mais la vie n’est pas (ou ne devrait pas être !) un entonnoir de vente. Ce que nous attendons vraiment de la technologie, c’est de la présence : des systèmes qui réagissent à nos situations réelles, plutôt que de simplement nous regrouper en catégories.

Des études récentes montrent qu’au fil du temps, les flux personnalisés limitent ce que nous voyons, rendant notre monde plus petit et plus prévisible, même si cela ne nous polarise pas toujours immédiatement.

Dans le domaine du voyage, cela signifie que vous êtes bombardé sans cesse de publicités pour des séjours à la plage, même si vous avez déjà pris des vacances et le système ignore totalement que vous êtes maintenant stressé et avez besoin de quelque chose de complètement différent.

Les deux extrêmes : les données sans empathie vs l’empathie sans données

Les start-ups avec lesquelles je travaille aujourd’hui réussissent souvent à bien écouter : elles discutent avec les utilisateurs, comprennent leurs frustrations et réagissent rapidement. Mais elles ont du mal à mettre cela à l’échelle avec des données solides.

Les grandes organisations, en revanche, disposent d’une abondance de données, mais souffrent d’un manque d’empathie. Elles savent ce que les clients ont fait, mais pas ce qu’ils ont voulu dire. Il en résulte un fossé grandissant entre l’apprentissage et l’écoute : des systèmes qui agissent sur la base d’informations plutôt que sur la compréhension.

Les deux parties montrent la même chose : la personnalisation n’est pas seulement un défi technique, c’est aussi un défi organisationnel. Cela dépend de la manière dont les entreprises alignent leurs objectifs, leur système de primes et leur culture sur le fait de servir des personnes et non de prédire leurs achats.

Pourquoi nous avons confondu apprentissage et écoute

L’IA est très douée pour repérer les schémas. Plus les données sont bonnes, plus les prédictions sont précises.

Mais l’écoute n’est pas une prédiction, c’est une interprétation. Elle nécessite du contexte, de l’émotion et du silence.

Lorsque les entreprises affirment « connaître leurs clients », elles veulent généralement dire « pouvoir modéliser leur comportement et prédire leurs actions ».

Mais prédire n’est pas connaître. Les données vous indiquent ce qui s’est passé, et les données comportementales décrivent ce que les gens ont fait, tandis que l’écoute permet d’explorer les raisons qui les ont poussés à agir ainsi. Sans comprendre le pourquoi, la personnalisation se transforme en imitation : répétitive, insistante et souvent manipulatrice.

L’obsession des entreprises pour l’efficacité amplifie cette confusion. Dans la course à l’automatisation, les organisations négligent souvent le fait que l’écoute prend du temps. Il faut du temps pour observer avant de réagir. Il faut du temps pour tester le sens, et pas seulement les mesures. Il faut du temps pour impliquer de vraies personnes avant de faire confiance aux algorithmes.

l’écoute n’est pas une prédiction, c’est une interprétation.

Voici un problème important mis en évidence par des recherches récentes : cette configuration entraîne un « déchargement cognitif », où nous laissons l’IA penser à notre place et où notre cerveau devient paresseux.

Une étude a révélé que les personnes qui s’appuient fortement sur les outils d’IA ont tendance à obtenir des scores plus faibles en matière de pensée critique, et que cette habitude d’externaliser la réflexion joue un rôle clé dans ce déclin.

Dans le contexte de la personnalisation, cela signifie que les systèmes qui se contentent de reproduire vos clics passés plutôt que de vous pousser à évoluer renforcent ce que vous avez fait, et non ce que vous pourriez devenir.

De l’apprentissage à l’écoute : ce qu’il faut

Bonne nouvelle : l’écoute peut s’apprendre. Ce n’est pas superficiel, c’est une véritable compétence qui combine données, cœur et curiosité. Voici comment :

Écoute des données : capturer les signaux significatifs

Passez de la collecte d’un plus grand nombre de données à la collecte de meilleures données. Au lieu de suivre les clics et les conversions, donnez la priorité au contexte, au pourquoi maintenant, à ce que ressentent les utilisateurs et aux commentaires directs.

Dans l’un des projets sur lesquels j’ai travaillé, nous avons introduit une simple question post-interaction : l’alternative proposée a-t-elle réellement aidé ? Cette petite boucle de commentaires a remodelé la façon dont le système classait les options, passant des hypothèses aux résultats réels.

Écoute humaine : donner aux gens les moyens d’interpréter

Aucun algorithme ne peut détecter les nuances comme le font les humains. Créez des « boucles d’écoute » où les équipes partagent régulièrement des plaintes ou des anecdotes inhabituelles.

D’après ce que j’ai pu observer, les jeunes start-ups écoutent presque par défaut ; la proximité facilite les choses. Les grandes organisations peuvent accéder aux mêmes informations, mais elles doivent créer un espace pour cela par le biais d’évaluations planifiées, de rituels partagés ou de cycles de commentaires formels.

L’écoute comme leadership

Suivez la rapidité avec laquelle les retours d’information conduisent à des changements, et pas seulement à des ventes. Créez des espaces où les dirigeants peuvent interrompre les boucles d’automatisation et remettre en question les hypothèses avant de passer à l’échelle supérieure. Car parfois, la décision la plus stratégique n’est pas d’agir, mais d’écouter.

Car parfois, la décision la plus stratégique n’est pas d’agir, mais d’écouter.

De la prédiction à la compréhension

Pour que la personnalisation évolue, elle doit passer d’une précision réactive à une véritable compréhension.

Et cela nécessite de nouvelles capacités, non seulement techniques, mais aussi culturelles :

Conscience du contexte : des systèmes qui s’adaptent aux situations réelles (perturbations de voyage, transitions de vie, états émotionnels) plutôt que de s’appuyer sur des profils statiques.
Transparence dès la conception : expliquez clairement pourquoi quelque chose apparaît, comment cela évolue au fil du temps et ce que l’utilisateur peut contrôler.
Intelligence collaborative : l’IA doit aider les personnes, et non les remplacer, en mettant en évidence des informations pertinentes et en laissant les humains prendre les décisions.
Utilisation éthique des données : commencez par obtenir une autorisation explicite et définissez un objectif clair, sans collecte de données cachée ou automatique.

Cette évolution ne viendra pas uniquement de meilleurs algorithmes, mais d’un leadership qui privilégie l’écoute comme acte stratégique.

Que peuvent faire les dirigeants pour changer les choses ?

Recadrer la personnalisation comme une conversation, et non comme un argumentaire de vente. Changer de mentalité et passer de « proposer des offres pertinentes » à « établir des relations pertinentes ».
Concevoir des équipes axées sur l’interprétation, et pas seulement sur l’optimisation. Associer des data scientists à des experts en comportement, des designers et des défenseurs des clients capables de traduire les chiffres en récits.
Récompenser la curiosité plutôt que la certitude. Créer un espace permettant aux équipes de se demander « pourquoi » avant « comment ».
Mesurer la confiance, pas seulement les clics : les gens reviennent-ils ? Partagent-ils davantage ? Sont-ils satisfaits ?
Apprenez à la technologie à écouter : intégrez des boutons de commentaires, une formation à la reconnaissance des émotions et des évaluations humaines.

Conclusion

La technologie continuera à apprendre à notre sujet, c’est inévitable. La grande question est de savoir si elle finira par écouter ou si elle continuera simplement à refléter notre ancien moi.

C’est l’écoute qui transforme l’information en compréhension et la prédiction en partenariat.

C’est le prochain grand bond en avant pour la personnalisation. En tant que dirigeants, il est de notre responsabilité d’orienter nos systèmes dans cette direction.

Qu’en pensez-vous ? Êtes-vous prêt à commencer à écouter davantage ?

Q276 | Learning without listening: the paradox of AI personalization

Personalization was supposed to make technology more human, anticipating our needs, simplifying choices, and saving us time.

But, in reality, most of us still experience the opposite: endless recommendations that miss the point, systems that track our habits but don’t understand our lives, and chatbots that “get” everything except what we truly mean.

This is the paradox of AI personalization: technology is learning at unprecedented speeds, but listening less.

The promise that never fully delivered

In industries like travel and retail, personalization has been a strategic goal for over a decade. Airlines and online platforms collect massive amounts of data to anticipate what we’ll book or buy next, a flight, a hotel, or some extra service. Yet, despite all this smart tech, recommendations often land flat.

In travel, there is a saying: airlines know where you fly, but rarely why. Without understanding the “why,” personalization falls flat. The system learns from what you clicked or bought, but not from your intentions or feelings. It analyzes, but it doesn’t listen.

That’s because most personalization is built for speed and profit, rather than genuine understanding. The goal is to boost sales, reduce costs, and manage millions simultaneously. But life isn’t a sales funnel. What we really want from tech is presence: systems that react to our actual situations, rather than just grouping us into categories.

Recent studies show that over time, personalized feeds limit what we see, making our world smaller and more predictable, even if it doesn’t always immediately polarize us. In travel, this means you’re bombarded with beach ads endlessly, despite having taken one vacation and ignoring the fact that you’re now stressed and need something completely different.

The two extremes: data without empathy vs. empathy without data

Startups I work with today often get the listening part right: they talk to users, understand their frustrations, and iterate quickly. But they struggle to scale this with solid data.

Large organizations, on the other hand, have an abundance of data but suffer from a scarcity of empathy. They know what customers did, but not what they meant. The result is a widening gap between learning and listening: systems that act on information rather than understanding.

Both sides show the same thing: personalization isn’t just a technical challenge; it’s also an organizational one. It depends on how companies align their purpose, incentives, and culture around serving people, rather than predicting them.

Why we confused learning with listening

AI is great at spotting patterns. The better the data, the sharper the prediction.

But listening isn’t prediction, it’s interpretation. It requires context, emotion, and silence.

When companies say “we know our customers,” what they usually mean is “we can model their behaviour and predict what they’ll do”. But predicting isn’t knowing. Data tells you what happened, and behavioural data describes what people did, while listening explores why they did it. Without the why, personalization turns into copycat stuff: repetitive, pushy, and often manipulative.

Without the why, personalization turns into copycat stuff: repetitive, pushy, and often manipulative

The business obsession with efficiency amplifies this confusion. In the race to automate, organizations often overlook the fact that listening takes time. Time to observe before reacting. Time to test meaning, not just metrics. Time to involve real people before trusting algorithms.

Here’s a significant issue backed by recent research: this setup causes « cognitive offloading » where we allow AI to think for us, and our brains get lazy.

One study found that individuals who rely heavily on AI tools tend to score lower on critical thinking, and that habit of outsourcing thinking plays a key role in that decline.

In the context of personalization, this means systems that simply echo your past clicks rather than push you to grow, reinforce what you’ve done, not what you might become.

From learning to listening: What it takes

Good news: listening can be developed. It’s not superficial; it’s a genuine skill that combines data, heart, and curiosity. Here’s how:

Data listening: capture signals with meaning

Shift from collecting more data to gathering better data. Instead of tracking clicks and conversions, prioritize context, why now, how users feel, and direct feedback.

In one of the projects I worked on, we introduced a simple post-interaction question: did the proposed alternative actually help? This small loop of feedback reshaped how the system ranked options, shifting it from assumptions to real outcomes.

Human listening: empower people to interpret

No algorithm can detect nuance the way humans do. Create « listening loops » where teams regularly share odd complaints or stories.

From what I’ve seen, young startups listen almost by default; proximity makes it easy. Bigger organisations can access the same insight, but they need to create space for it through planned reviews, shared rituals, or formal feedback cycles.

Listening as leadership

Track how quickly feedback leads to changes, not just sales. Create spaces where leaders pause automation loops and question assumptions before scaling. Because sometimes the most strategic move is not to act but to listen.

sometimes the most strategic move is not to act but to listen

From prediction to understanding

If personalization is to evolve, it needs to shift from reactive precision to genuine understanding.

And that requires new capabilities, not just technical ones, but cultural ones:

Context awareness: systems that adapt to real-life situations (travel disruptions, life transitions, emotional states) rather than relying on static profiles.
Transparency by design: make it clear why something appears, how it changes over time, and what the user can control.
Collaborative intelligence: AI should support people, not replace them, surfacing insights and letting humans make the decisions
Ethical data use: start with explicit permission and a clear purpose, not hidden or automatic data collection.

This evolution will not come from better algorithms alone but from leadership that prioritizes listening as a strategic act.

What leaders can do differently?

Reframe personalization as a conversation, not a sales pitch. Shift the mindset from “pushing relevant offers” to “building relevant relationships”;
Design teams around interpretation, not only optimization. Combine data scientists with behavioural experts, designers, and customer advocates who can translate numbers into narratives;
Reward curiosity over certainty. Create space for teams to ask “why” before “how”;
Measure trust, not just clicks: Do people come back? Share more? Are they satisfied?
Teach tech to listen: Integrate feedback buttons, emotion-aware training, and human reviews.