Comment la Riolle met l’intelligence artificielle en échec

Les applications Maps et Earth de Google sont des instruments quotidiens fort utiles, utilisés dans le monde entier par des dizaines de millions de personnes: trouver un lieu, préparer un déplacement, voyager, mesurer des distances, voir chez les voisins…Il n’y a plus de géographie, nulle part sur la terre, sans que ces deux applications soient utiles; car elles illustrent sous forme de photographies et de plans précis le moindre recoin de la planète. Et comme Google permet à chacun d’y mettre en évidence son petit business (chambre d’hôte, commerce, entreprises…) il y a là une source de revenus extraordinaire pour Google.

Ces outils sont tellement passés dans les moeurs que plus personne ne met en doute leur pertinence. Si c’est sur Maps, c’est que ça existe en vrai. Et Pourtant?

Pourtant, notre post sur les origines de la Riolle montre que Google Maps place la source de la Riolle à un endroit que tout contredit, les documents administratifs tout comme les visites sur le terrain: la source de la Riolle n’est pas, ne peut pas être là où Google le signale. Notre petite Riolle pose donc une question fondamentale: celle de la crédibilité de Google et plus largement de l’intelligence Artificielle (IA)

Nous ne prétendons pas régler la question ici, mais nous aimerions que nos lecteurs mesurent, à partir de l’exemple de la Riolle, à quel point ils peuvent être trompés par l’IA, dans tous les domaines: géographie ici, mais aussi, histoire et vie sociale, santé, économie…

Partons de l’exemple de la Riolle et de sa source. Comment fonctionne l’IA de Google? Des satellites passent et repassent au dessus de nos têtes et photographient des millions et des millions de fois les moindres endroits du globe. Ces images sont traitées (regroupées, améliorées, superposées, datées..) et interprétées. Que veut dire interpréter une image? En réalité c’est la caractériser, dire que tel élément est une maison, que tel autre est une route, et que celui là encore est une rivière. En multipliant les images et les critères qu’on veut y mettre en évidence, on finit par disposer d’images de plus en plus précises et fiables. Encore faut-il que les critères relevés soient vrais.

Commet Google peut-il savoir qu’une rivière est une rivière? Google peut savoir qu’une rivière est une rivière à partir d’un algorithme, c’est à dire d’un enchaînement logique d’opérations ou d’instructions informatiques permettant de répondre à la question: qu’est ce qu’une rivière (sur une photo de satellite)?

Autrement dit, Google a fait travailler ses informaticiens pour qu’ils écrivent un programme capable de reconnaître une rivière sur une photo de satellite. Au début il y a beaucoup d’erreurs. Puis, en multipliant les images, en corrigeant petit à petit dans l’algorithme les erreurs apparues, les informaticiens améliorent leur programme qui devient de plus en plus performant et précis pour reconnaître les rivières sur les photos de satellites. C’est cette démarche qu’on appelle l’Intelligence Artificielle. C’est le programme informatique qui garantit la notion de rivière et non une éventuelle confrontation des photos satellite avec des cartes plus classiques.

Pour Google Maps une rivière n’est donc pas un lit où coule de l’eau, mais une série de codes informatiques qui construisent un algorithme définissant la rivière. Réelle ou non.

Ce point est capital pour la suite de la réflexion: la rivière n’est plus un objet réel défini par l’homme selon des éléments physiques quantifiables, mais un objet abstrait issu d’algorithmes (élaborés par l’homme, ici à partir d’images).

Comment expliquer que les algorithmes de Google se trompent sur l’origine de la Riolle?

Si on regarde les images de Google earth sur la Vallée de la Riolle, on voit bien que le cours d’eau de la Riolle issu de l’étang Fourché est totalement invisible, masqué par la forêt de Grillemont. Toute l’eau qui arrive par la Riolle jusqu’au « petit poisson » est indécelable sur les photos satellite. Inversement, à partir du « petit poisson » les photos satellite mettent bien en évidence le cours d’eau qui remonte vers le terrain de football. Ce cours d’eau est en continuité avec la rivière identifiée facilement sur les photos en aval du « petit poisson »… donc l’algorithme dit que la Riolle c’est bien le ruisseau qui remonte vers le terrain de football jusqu’à l’ancienne voie ferrée. Et pour la suite c’est la même chose. En amont des fossés qui confluent au bord de l’ancienne voie ferrée, les photos satellite ne peuvent plus identifier ces fossés masqués par la végétation ou les clôtures. Les algorithmes concluent donc que la source de la Riolle est au confluent des fossés le long de l’ancienne voie ferrée, au sud du terrain de football. (Fig 3 et 4)

C’est aussi simple que cela. Mais faux.

Peut-on imaginer que Google puisse corriger les erreurs de son algorithme et situer la source là où elle est fixée par l’usage depuis des lustres? Peut-on imaginer que les photos satellite s’améliorent, finissent par voir à travers le feuillage des arbres, et mettent en évidence les eaux qui viennent de Grillemont. Les algorithmes existant seraient-ils en mesure de corriger leur erreur? Pour ma part je ne le crois pas. Parce que la notion de cours d’eau est, dans l’esprit humain, consubstantielle de la notion de source, et que, face à la multiplicité des sources possibles, les hommes ont fait des choix qui sont hors d’atteinte de la notion d’algorithme.

Alors une autre option serait envisageable: pourquoi ne pas considérer que « voir les choses de très haut » (satellite) est une façon de s’extraire des contraintes liées à des questions traitées trop « localement », confinées dans des détails inutiles et trompeurs?

Autrement dit, pourquoi ne pas confier la description de la réalité (ce qui est vrai) à des algorithmes plutôt qu’à l’expérience humaine? Serait-ce un progrès ou une régression?

C’est cette question vitale que pose la source de notre petite Riolle.

Cette question est vitale parce qu’au delà de l’exemple de la Riolle, qui est un exemple géographique de l’utilisation des algorithmes, il faut bien voir que leur champ d’exploitation recouvre toutes les activités humaines. Les « informations », « l’actualité », « l’histoire », la « sociologie » traitées par des algorithmes nous parlent-elles de la réalité « vraie » ou de la cohérence entre des « faits divers » et des algorithmes spécifiquement créés pour les mettre en scène? Quelle confiance peut-on accorder à tous les médias qui nous diffusent leurs « informations » sur la base d’algorithmes? Si c’est comme pour la source de la Riolle, autant fermer tout de suite la télé, les journaux et les réseaux sociaux.

Le problème va être très vite identique pour les domaines de l’économie et de la santé.

Quelle confiance accorder à des incitations à investir dans des placements « verts », éco-citoyens », « éthiques », ou pour acheter une « voiture électrique », quand on sait que toute la démarche est sous la dépendance d’algorithmes prévus pour motiver vos achats? Et pourquoi pas en Bitcoins?

Pour la santé, quand le diagnostic sera fait sur des seules images, il aura autant de chances d’être « vrai » que pour la source de la Riolle.

L’IA est une source de progrès considérables. Mais n’est-ce pas une erreur de considérer que ses algorithmes décrivent la réalité?

3 réflexions sur “Comment la Riolle met l’intelligence artificielle en échec”

  1. j’adore votre raisonnement ! Rien ne vaut l’humain ! La machine doit être à notre service et non l’inverse ! J’habite non loin de la Riolle et je me désole de voir combien le lavoir près du château de Grillemont ait été aussi abîmé, démoli par la main de l’homme, j’espère qu’un jour nous pourrons lui redonner sa spendeur ! Cordialement !

    1. Je ne sais pas si j’ai un raisonnement particulier. Je me contente de signaler un fait: les progrès de l’Intelligence Artificielle sont tels qu’ils en viennent à concurrencer la capacité de discernement et de choix de l’intelligence humaine. La réalité telle qu’elle est décrite ou perçue par les humains pourra-t-elle se maintenir face aux développements de l’IA? C’est la même chose pour la médecine: un diagnostic établi à partir d’une expérience humaine millénaire conservera-t-il un sens face à des millions d’images traitées par des algorithmes? C’est aussi une question pour les choix politiques: quel intérêt de voter, de débattre démocratiquement, quand les milliards de données accumulées sur chaque « citoyen » permettent, sans vote, de fixer des choix politiques mondiaux? La Riolle n’est qu’un révélateur de ces grands problèmes et je trouvais plaisant de le signaler. Merci de votre commentaire.

  2. Autre point: a-t-on conservé des images illustrant le lavoir avant qu’il ait été abîmé? Existerait il une carte postale ou une photo montrant ce lavoir?

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.

The maximum upload file size: 8 Mo. You can upload: image, audio, video, document, spreadsheet, interactive, other. Links to YouTube, Facebook, Twitter and other services inserted in the comment text will be automatically embedded. Drop file here