L'IA qui va prendre votre place

[Daleko]

Y'a pas que le coronavirus pour s'inquiéter, faut se changer un peu les idées.

Pensez-vous qu'avec les évolutions technologiques vous pourrez conserver votre travail actuel toute votre vie ? Votre métier est-il à risque de disparaître ? Vous y pensez parfois ? Comment le vivez-vous ?

Même si notre extinction n'est pas pour tout de suite, je suis dans un milieu, la traduction, qui a beaucoup évolué ces dernières années et j'ai parfois de vagues angoisses quant à mon avenir. Je fais absolument tout ce qu'il faut pour faire partie de ceux qui s'en sortiront, je m'informe, je me forme, je suis ouverte aux transformations inévitables qui attendent mon métier. Je trouve même les progrès de la traduction automatique absolument formidables, casser la barrière de la langue, c'est incroyable de me dire que je vois ça de mon vivant, même si c'est loin d'être parfait. Souvent, quand je parle à des collègues plus âgés, j'ai l'impression qu'ils vivent sur une autre planète, ils refusent de voir qu'on finira par disparaître. "Une machine pourra jamais travailler aussi bien que moi", etc. Actuellement, c'est vrai, même les traductions machine très réussies, grammaticalement correctes, etc. ne suffisent pas aux clients, ils veulent du style, quelque chose qui sonne plus marketing, plus 2020, plus solennel, qu'on réécrive le texte, etc. Et il y a encore énormément d'erreurs, surtout lorsque les phrases sont longues, par exemple dans les textes juridiques, c'est une boucherie, ou lorsqu'il s'agit de traduire des segments de logiciels ou de sites Internet. Il y a aussi les problèmes liés aux adaptations culturelles, etc. Donc je pense avoir au moins une belle décennie devant moi, et je m'y suis prise tôt, je n'ai absolument pas peur d'affronter ça, mais tout de même, trop d'inconnues, ça a quelque chose de déplaisant. Typiquement, je ne pourrai pas conseiller à mes enfants de faire le même métier que moi.

Et vous, vous remarquez des changements dans votre domaine ?

[1984]

 

[Daleko]

C'est vrai, c'est beaucoup moins intéressant que les topics où t'essaies de te convaincre que te saper comme un laidron est super féminin et que la réussite c'est de finir seule avec tes chats.

Bref, laissons Cov1984 sombrer dans sa trentaine ratée et retournons au sujet.

[1984]

[______]

Sujet qui aurait pu être intéressant.

[Tavernier]

Je n'aime pas spécialement le terme d'IA, je lui préférerai plutôt le terme de Machine Learning. D'un point de vue sémantique, il est pour moi bien plus clair, il reflète parfaitement ce que les algos fond :  j'essaie, je me trompe, et j'en tire les conséquences. De l'apprentissage.

Je serai bien embarrassé de devoir définir ce qu'est l'intelligence. Par contre, la capacité d'apprendre, qui en est certainement l'une des composantes, me paraît beaucoup plus accessible en terme de concept. Comme pour l'humain, l'objectif est de s'éloigner du "par-cœur", c'est-à-dire dépasser les cas connus et parvenir à adapter la chose apprise à de nouvelles situations. C'est un des mécanismes basiques de l'école, où les exercices d'examens sont en général plus durs que les exercices travaillés en cours.

Pour l'humain, on va s'assurer par ce biais qu'il a compris ce qu'on lui a enseigné, il va intégrer ou faire sien le cours. Pour la machine, il s'agit de pouvoir réutiliser la fonction mathématique qu'elle est parvenue à approximer à grand renfort de force brute. La grosse différence se trouve ici.Il va falloir une quantité énorme de données pour parvenir à calibrer correctement le modèle (résultat de l'algorithme).

Sur des problématiques compliquées pour un humain, comme la recommandation du bon produit au bon moment au bon consommateur, où l'on doit prendre en compte le contexte, le passé, le produit et le profil de la personne, le ML nous dépasse de loin. Pour reconnaître un chaton, la machine est considérablement plus "bête" qu'un bébé. Elle a besoin de (dizaines de) milliers de photos de chats pour éventuellement commencer à reconnaître l'animal. Un bébé n'aura besoin que deux ou trois images pour comprendre ce qu'est un chat et le reconnaître dans la vie réelle. Il comprendra aussi ce qui n'est pas un chat et tout cela avec un taux de réussite de 100% ou proche.

Grossièrement, c'est ce qui est arrivé Watson lors de sa partie de Jeopardy, où la machine a été capable à la fois de s'aligner voire de surpasser le joueurs, mais aussi de ne pas être fichue de savoir que Toronto ne se situe pas aux États-Unis.

La machine ne peut pas comprendre, elle se base sur son jeu de données d'entraînement. Si celui-ci n'est pas complet ou pire comporte des biais, elle est toujours susceptible de se tromper là où un enfant de 5 ans ne le ferai pas.

Les biais dans les données sont fréquents et ils n'apparaissent souvent évidents qu'une fois le scandale arrivé. Si les données d'historique de recrutement du personnel d'Amazon contiennent un très fort différentiel entre l'embauche des hommes et des femmes, on se retrouve avec l'affaire suivante : 

https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G

Si quelqu'un a la bonne idée de produire un modèle sur la base des récidives dans le milieux carcéral américain :

https://www.developpez.com/actu/241923/L-intelligence-artificielle-peut-elle-aider-a-rendre-les-decisions-de-justices-moins-biaisees-Oui-selon-un-expert/

La machine ne comprend pas le concept de racisme, elle apprend sur les donnés qu'on lui fournit. C'est tout.

La chose alarmante, c'est que quelqu'un, quelque part, a payé une très grosse somme à quelqu'un d'autre lui ayant vendu un système "intelligent". Il y a aussi un autre quelqu'un qui trouve malin de suivre ce que dit la machine sans questionner outre mesure ses prédictions. Le ML n'est pas un oracle et n'a pas vocation à le devenir.

Les biais sont souvent beaucoup plus vicieux et profondément cachés dans le jeu de données et c'est d'ailleurs une des grandes question éthiques à régler.

Plus sur les biais : https://www.telecom-paris.fr/wp-content-EvDsK19/uploads/2019/02/Algorithmes-Biais-discrimination-equite.pdf

Enfin, pour en arriver à la question de départ (rassurez-vous ce n'est que mon pavé annuel sur un sujet random), oui, non, ça dépend. Le secret c'est le service.

Sur certaines problématiques comme la traduction, l'imagerie médicale, les transports, en gros ce qui touche de près ou de loin le traitement du signal oui. Sur toutes les problématiques dont le contexte est connu pratiquement entièrement (dossier médical, prêt bancaire...) aussi.

Sur des problématiques de prédiction d'un résultat à partir d'un contexte semi-connu comme l'aide à la vente,  tout ce qui dépend de la psychologie ou de la décision, le ML sera d'une grande aide mais ne remplacera pas l'humain tout de suite (comprendre d'ici dix ans). L'humain continuera de pouvoir exercer son métier tant qu''il fournira un service ayant une valeur ajoutée pour le client.  Le "style" que veut le client de Daleko ou le fait qu'on ne remplacera pas 1984 par un écran de sitôt (à la différence des étudiants à McDo). Se concentrer sur ce que l'humain peut réellement apporter, au détriment de ce qui peut être automatisé par un traitement. On a déjà parlé du fait que ces algorithmes doivent être monitorés car susceptibles de se tromper sur des cas totalement triviaux ou victimes de biais flagrants.

Pour finir, le ML est un outil. Puissant certes mais pas exempt d'inconvénients. D'un point de vue business, il reste encore beaucoup de chemin à parcourir. Les technologies sont très peu matures, il revient au final très cher de faire fabriquer un modèle, stocker les données en masse, les traiter, les nettoyer, les consolider etc... Souvent, il faudra employer 3 personnes très qualifiées et donc les payer cher pour que la solution fonctionne. Les données évoluent, les modèles sont périssables. Il faudra aussi les ré-entraîner sur des données fraîches. Ce n'est pas forcément rentable si c'est pour remplacer 4 salariés au salaire minimum.

 

TL;DR : Les progrès arrivent vite et même ceux qui travaillent à mettre en place ces solutions sont voués à être plus ou moins automatisés. Du moment où vous trouverez un moyen de faire ressortir votre humanité dans votre métier, votre capacité à comprendre et à vous adapter, le machine learning aura encore bien du mal à vous remplacer.

 

 

[FosseAsceptique]

Il y a 12 heures, Tavernier a dit :

Je n'aime pas spécialement le terme d'IA, je lui préférerai plutôt le terme de Machine Learning. D'un point de vue sémantique, il est pour moi bien plus clair, il reflète parfaitement ce que les algos fond :  j'essaie, je me trompe, et j'en tire les conséquences.

Le machine learning et l'ia sont 2 choses bien defférentes, et pas que de  simples synonymes.

Toutefois, tu parles bien de machine learning.

Sinon, pour ajouter au sujet: nous ne nous ferons pas voler nos jobs par les robots ou l'ia, simplement celles-ci vont évoluer et changer afin d'utiliser les ouils et machines développées. Exemple: l'allumeur de réverbères est devenu électricien, le travailleur d'usine sur chaîne de production maintenant robotisée devient contrôleur de machines, le comptable deviendra peut-être programmeur...

Mais déjà, l'IA, la vraie, c'est tellement utopique! Ouais c'est des beaux buzz words pour ceux qui sont en ti, mais on est très très loin d'avoir des résultats concrets dans un avenir proche. 

Sinon, pour le machine learning ou le deep learning, les résultats sont là, mais les machines qu'il faut pour faire rouler les calculs ne sont pas à portée de tous (pour faire rouler les calculs de façon "permanente" et les utiliser dans des logiciels courants). Certes de petites applications sont déja intégrées dans nos logiciels, cellulaires, etc, mais là aussi on est loins de logiciels complets, et puis ça ne remplace pas une tâche humaine, mais fait seulement améliorer l'expérience utilisateur la plupart du temps.

[Tavernier]

Il y a 3 heures, FosseAsceptique a dit :

Le machine learning et l'ia sont 2 choses bien defférentes, et pas que de  simples synonymes.

Toutefois, tu parles bien de machine learning.

•  

  Oui tout à fait, pour être clair :

• d'un point de vue académique, l'IA est un champ de recherche. Elle comprend les systèmes experts, les systèmes multi-agents (technologies désuètes) plein d'autres disciplines, et le Machine Learning. Le Deep Learning est une sous-branche du ML, le terme renvoie uniquement aux réseaux de neurones, organisés en plusieurs couches (donc "profonds")
• d'un point de vue marketing et de ce qui est communément relayé par la presse depuis 10 ans, 99 % des évolutions récentes relèvent du Machine Learning, le volume de données et la puissance de calculs ayant permis l'explosion du DL & des algos ensemblistes.

[FosseAsceptique]

il y a 51 minutes, Tavernier a dit :

•  

  Oui tout à fait, pour être clair :

• d'un point de vue académique, l'IA est un champ de recherche. Elle comprend les systèmes experts, les systèmes multi-agents (technologies désuètes) plein d'autres disciplines, et le Machine Learning. Le Deep Learning est une sous-branche du ML, le terme renvoie uniquement aux réseaux de neurones, organisés en plusieurs couches (donc "profonds")
• d'un point de vue marketing et de ce qui est communément relayé par la presse depuis 10 ans, 99 % des évolutions récentes relèvent du Machine Learning, le volume de données et la puissance de calculs ayant permis l'explosion du DL & des algos ensemblistes.

You know your shitz. j'aime ça.

[Daleko]

Merci à ceux qui ont participé sérieusement. C'était très intéressant @Tavernier

C'est assez intriguant de lire des choses comme ça :

Le 2020-03-18 à 02:32, Tavernier a dit :

TL;DR : Les progrès arrivent vite et même ceux qui travaillent à mettre en place ces solutions sont voués à être plus ou moins automatisés. Du moment où vous trouverez un moyen de faire ressortir votre humanité dans votre métier, votre capacité à comprendre et à vous adapter, le machine learning aura encore bien du mal à vous remplacer.

parce que traditionnellement, on encourage les gens à aller vers des études/métiers qui comportent des maths, de la science, des tonnes de connaissances à ingurgiter, etc. et qu'on va  peut-être finir par arriver à un point où les choses ne risquent plus d'être aussi claires. 

Mon scienteux de mari, dont le métier touche plus ou moins à ce domaine, a à peu près le même raisonnement quand je lui parle de mon orientation future ou de ce qui risque de se produire plus globalement, pour tous. J'envisage personnellement beaucoup d'options liées aux langues, aux différences culturelles, à la globalisation, etc. et quand je mets en avant des projets qui allient ceci à de l'informatique, au NLP, aux données, etc., il a tendance à très fortement me décourager, en me disant grosso modo qu'il va de plus en plus falloir un niveau très élevé, que je n'aurai jamais, pour faire des choses intéressantes dans ces domaines. Selon lui, il serait plus avantageux pour les gens qui ont mon type de profil de se concentrer sur l'humain, le culturel, l'artistique, etc. et de prendre une avance et d'établir une réputation dès à présent. C'est assez ironique d'en arriver là après s'être réorientée vers les chiffres parce qu'il n'y avait pas assez de taff dans mon domaine artistique de prédilection.

Et j'ai souvent l'impression que parler d'IA est le nouveau cool, tout comme il était cool de vouloir devenir trader il y a quelques décennies. Il suffit pour une start-up de caler quelques mots clés dans une présentation pour attirer des investisseurs qui ne comprennent pas vraiment de quoi tout cela parle. Ca a quelque chose d'intimidant. On veut faire comme si on comprenait, mais ce n'est pas le cas. Je le vois même à mon niveau, en traduction, où des outils sont présentés comme révolutionnaires et économiques au client, alors que s'il prenait le temps de faire les calculs (s'il savait comment les faire), il se rendrait compte qu'il perd de l'argent, et qu'en plus le service qu'il obtient est de moins bonne qualité au final.

Ca me fascine d'imaginer ce qu'on va encourager les enfants à faire comme études dans quinze ou vingt ans. S'il faut être très bon pour faire quoi que ce soit et qu'on n'a plus besoin d'aucun pousse-bouton, beaucoup de monde risque de se retrouver bloqué.

[Ant Hill Kid]

Google engineer Blake Lemoine thinks its LaMDA AI has come to life - The Washington Post

WWW.WASHINGTONPOST.COM

TL:DR un ingenieur de google s'est fait renvoye et a averti qu'une I.A etait devenue consciente, l'evenement majeur qui provoquera la "singularity", une technologie qui nous depasse en intelligence au point de creer ses propres technologie et rendre obsolete les etres humains. 

Exemple des conversations en question. 

 

[Иди и смотри]

donc ? 
 Des complostistes avec une intelligence ?

Le Technicien veut juste faire de le buzz pour avoir plus d'abonnees sur thic tok..