Jour 3 : le résumé de Geneviève Petit

• Conférence de clôture, l’IA sous toutes les coutures, animé par Guillaume Ledit directeur éditorial du groupe l’ADN. 
  

Avec Asma Mhalla, spécialiste des enjeux politiques et géopolitiques de la tech enseignante à Columbia, Sciences Po et Polytechnique.

L’accord du Monde avec open IA a été annoncé mercredi dernier. Le livre d’Asma Mhalla technopolitique, comment la technologie fait de nous des soldats, interroge l’interdépendance entre la société et l’IA.
Asma Mhalla : « C’est le fruit de 8 ans de réflexion les enchevêtrements politiques sous tendus par la technologie. Heidegger expliquait que la technique n’est pas technique mais politique et géopolitique. L’enjeu est celui de la rivalité entre USA et Chine et se joue avec l’IA, à cause des usages militaires de l’IA dopée aux IA, qui permet d’obtenir la suprémacie militaire. Cela résonne avec vos enjeux à vous. La véritable guerre n’est pas entre les pays mais une guerre contre la vitesse. On a des outils qui vont très vite ».

L’accélérationisme de la Silicon Valley est permis par l’IA. « La pensée politique n’est pas produite par les classes politiques, qui ont un no man’s land autour de la technologie. Qu’il ne faut pas réduire aux outils. Au XXI, il y a deux questions, le climat le choc technologique et la dimension démocratique. Le citoyen doit s’emparer de ces sujets. Troisième sujet qui survient, c’est l’explosion des inégalités. Sur « l’accélérationisme », la question idéologique a lieu dans la Sillicon valley. Altman théorise le post capitalisme et comble le vide que nous n’avons pas rempli. Hier, il y a eu un rapport IA à Emmanuel Macron. Mais ces rapports ont 30 ans de retard. Il ne faut plus écrire mais faire. Il y aura beaucoup de commentaires, qui disent il faut se bouger, il faut être à la pointe. Mais dans le détail, il y a beaucoup de contradictions ».

On a des jeunes pousses, comme Mistral. « La réception de ce que je dis est vécu comme pessimiste, parce que nous sommes dans le déni de ce qui se passe. Je suis dans la real politik. Il faut se faire mal. Quand vous êtes chez le médecin, vous voulez qu’il vous dise la réalité. Quand on est en France, on peut devenir une périphérie technologique ; Il s’agit de ne pas faire des rapports mais faire. On met des hubs partout. L’Armée lance son agence. Vous foisonnez sans flécher, ça s’appelle le bordel. ».Mistral « C’est intéressant, on avait la promesse d’avoir un outil souverain, une IA générative retranscrivant une culture française et européenne. Le capital, c’est beaucoup de levée de fonds, aux USA et le partenariat avec Microsoft la semaine dernière. Il y a une fermeture du modèle. Mistral offre la preuve de mon livre techno politique aujourd’hui les hyperscaler sont l’infra système à partir duquel se déploie le fait industriel politique social et militaire Dès qu’on accepte cette hypothèse de départ que ces acteurs là façonnent le système techno politique du XXI ème siècle. Ce sont des vecteurs de pouvoir. Et ça pose une question pour l’Europe. Il n’a que deux blocs qui réussissent à faire naitre des Big tech. Les géants tech sont des extensions politiques de leurs états. Ce sont des acteurs politiques et géopolitiques. Ces acteurs poussent leurs pions dans la campagne. Une partie de la silicon valley vrille sur l’alt right. Ce que vous avez comme app ou comme cloud, cela démontre cela. Ils viennent goulot d’étranglement et un instrument de pouvoir aux mains des USA. Il y a la même chose avec les routes de la soie digitale. Cela pose la question fondamentale de la souveraineté européenne, il faut définir ce qu’elle est et ce qu’on en attend.

2017 souveraineté stratégique. Comment les redéfinir quand on est un onde de co-dépendance avec les Etats-Unis. Thierry Breton pose les choses en 2019 de manière brillante : c’est terminé la construction de l’Europe comme un marché pour assurer la paix. Il le fallait après WW2. Il faut avoir une proposition de valeur tenir un rapport de force avec les alliés. Qu’a-t-on sur la table quand vous devez défendre une autre vision. Il y a eu la réponse normative DSA IA Act data Act RGPD (que la commission essaie de casser). Mais ce qui nous manque pour tenir le rapport de force car les USA ont un outil l’extraterritorialité du droit américain, qui permet de contourner les lois nationales. Il nous manque une vision techno industrielle ; On a mis 52 Mds dans les puces. La France et l’Europe dans 40 ans c’est quoi ? Si vous étiez américain chinois ou russe, ou israelien vous savez me répondre. En France, on ne sait pas où on va. Il ne s’agit pas de faire comme les grands. Il faut avoir des stratégies de niche. Renoncer suppose du courage partout. Le France 20 30 est un cas d’école, on doit être partout satellite fond sous-marin, IA cyber. A un moment il faut faire des choix. Le sous-titre, la technologie fait de nous des soldats parle d’hyper individualisation, pourquoi employer le terme de soldat ? Le choc techno redéfinit la démocratie. Il y a 3 ruptures, on passe d’un monde massif à l’hyper personnalisation de masse. Si on reprend les travaux d’Hannah Arendt, c’est une autoroute vers le totalitarisme s’il n’y a pas de contre lieu de collectif et de commun.

La 2° rupture, les IA (Gen reconnaissance faciale les algos) sont duales, sont à la fois civiles et militaires. On en a la preuve avec l’Ukraine. Neuralink, on peut vous vous manipuler. Contexte d’ingérence de manipulation des opinions et la déstabilisation de nos modèles. Dès l’instant que ces technos sont duales, vous devenez soldat et cible malgré vous. Un discours qui interdit l’écran aux mineurs c’est ne pas avoir compris l’époque. Des raisons d’espérer une nouvelle classe qui acte le changement de siècle. Il faut être frais et curieux du monde. C’est à nous tiers états de sortir du pain et des jeux pour éviter la révolte. C’est à nous de décélérer, parque ça s’emballe. C’est la frénésie avant l’effondrement. C’est à ce moment-là qu’il faut décélérer lire comprendre décoder et s’organiser le risque c’est l’hyper personnalisation de rien".

Avec Romain Roulleau, Chief marketing digital & customer officer & digital strategy Kingfisher France et Amandine de Souza, Directrice Générale Leboncoin.

Amandine de Souza a entre 27 et 30 millions de visiteurs par mois. « On utilise de l’intelligence artificielle depuis de nombreuses années. Il y a ce fantasme de rendre le produit le plus facile et le plus pertinente et automatiser. M convictuin est que cela nous aide. Les développeurs ont des copilot pour travailler mieux, le service client 420 M de conversations initiées et les interactions avec un service client, on a besoin de réponses automatisables. Ce sont des copilotes pour les tâches à moindre valeur ajoutée.

Romain Roulleau, « je retiens de la présentation d’Asma sur la décélération. Ca fait 20 ans que je travaille dans ce secteur et on met de l’emphase partout. Depuis un an j’ai le sentiment que c’est une vraie révolution. Dès que ça sort, on a une multitude de solutions opérables. Contrairement au mobile, quand l’iPhone, l’écosystème n’existait pas. En quelques mois, 300 millions d’humains l’utilisent. Tous les jours, il y a de nouveaux usages et on est inondés de propositions. Mais il faut faire des choix. Notre agent conversationnel. Prenons le risque, on est face au client, mais il faut pas que les hallucinations soient trop fortes ; On a lancé en novembre mais on n’intègre aucune donnée client. Si quelqu’un pose la même question que moi il n’aura pas la même réponse. Je préfère avoir une qualité de réponse, apprendre. Il y aura probablement de la monétisation après. La monétisation viendra après. C’est ce qu’a fait Google au début. Protection des données personnelles et de la vie privée.

Amandine de Souza : « Comment quand vous ouvrez votre page le bon coin, avoir une expérience en fonction de votre historique. Et on se pose des questions sur les biais que cela peut générer, de l’enfermement dans des bulles de filtre. Sur les données personnelles, la réglementation nous accompagne. Une grande partie de notre road map est en fonction de cla. Et en même temps sortir de ce cadre ».

Romain Roulleau : « Hello Casto a développé un framewok atour du conseiller virtuelle pour que le conseiller repousse les données personnelles. Je ne suis pas là pour faire ca. On propose les produits mais après on entre dans le tunnel traditionnel du e-commerce. 48 h après la beta, le public nous a demandé de personnaliser. On ne peut pas stocker aucune donnée et de faire de la personnalisation. Mais dans un deuxième temps, il faudra s’occuper de monétisation.
Amandine de Souza « se pose des question sur l’accessibilité des plateformes, comment va évoluer le SEO. Le bot va-t-il crawler le site ? Sur l’usage, sur la plateforme, comment faciliter le dépôt d’annonce, faire rentrer la description, l’image, le search, la conversion, le service client.
Le troisième pilier est sur les enjeux internes. Nous avons refusé de travailler sur des données confidentielles, avec chat GPT nous avons produit notre propre LLM. Et nous voulons garder une gouvernance sur ces sujet.
Quatrième pilier comment ca ouvre de nouveaux possible, la donnée trop brute, mais qui peut être traitée par l’IA ».

Romain Roulleau : « D’ici à 24 mois, les interfaces des sites e-commerce, qui n’ont pas bougé depuis quinze ans, vont fortement évoluer. On a lancé un moteur de recherche visuel il y a 3 ans. On a développé un moteur de personnalisation, et là le chatbot Hello Casto est conversationnelle. Mais on ne peut pas empiler des modèles de recherche. Demain le conversationnel va intégrer tous ces éléments. On a 70 000 produits, bientôt une market place, l’IA démultiplie des visuels améliore les choses. Pré-automatiser la relation client, ces éléments d’optimisation des métiers back pour les adresser les uns à côté des autres. Il faut prioriser la formation : même dans les équipes digitales, il y a différents niveaux. Il y a des gens qui trouvent à quoi l’appliquer, d’autres qui reviennent à leurs méthodes d’avant. Et ceux qui ont peur. Le groupe va permettre que chacun puisse appréhender les outils, on les sécurise sans risque de sortie de données. Il faut qu’ils comprennent par eux-mêmes les cas d’usage ».

Amandine de Souza « sur l’IA gen, on est une boite tech, beaucoup utilisent Gen IA. Mais il faut accompagner les développeurs et les équipes produits. C’est difficile de faire comprendre à notre gouvernance l’enjeu de ce qui se joue maintenant. Quand on voit ce que font Amazon, Airbnb. Et puis les sales les marketing, les orgas les fiches de poste et l’entreprise doit donner les moyens de comprendre. Il y a un vrai sujet de co-construction. On a 150 cas d’usage qui sont devenus 25 cas d’usage. Ces priorisations ont été faites par les équipes. Les équipes de vente avaient un rythme de vente qui convenait à tout le monde. Mais l’IA permet de réfléchir à quand je l’appelle et ce que je lui propose ».

Romain Roulleau : « Il y a cinq ans égalité devant le numérique. Là on a le même sujet c’est le rôle de l’employeur de ne pas dire ou tu comprends ou tu sors. On doit intégrer que cela fait partie du quotidien."