WEBVTT

00:00:00.000 --> 00:00:05.211
voilà partis santé mentale là l'autre partie que nous allons voir rapidement c'est toujours dans un cadre de

00:00:05.211 --> 00:00:10.132
santé mais l'usage de systèmes d'ia et en particulier de l élève qui accueille actuellement investiguer pour

00:00:10.132 --> 00:00:11.000
l'activité physique adaptée

00:00:12.000 --> 00:00:18.250
donc dans cet article e récent hein également de de cette année qui s'intitule j étais coaché et bien euh

00:00:18.250 --> 00:00:22.000
c'est est un article qui regarde sil est possible dutiliser euh j'accepte

00:00:23.000 --> 00:00:29.685
pour adapter la pratique euh physique à chaque individu donc cet article là euh va utiliser euh j'accepte en

00:00:29.685 --> 00:00:34.611
concevant des pontes en ayant eux pour information des données physiologiques connecter collectées sur

00:00:34.611 --> 00:00:41.296
l'individu à partir à partir de tout un ensemble de deux capteurs un type montre montres connectées et euh

00:00:41.296 --> 00:00:42.000
l'article montre

00:00:43.000 --> 00:00:48.405
que ben a là un élève apparemment peut être utile pour adapter la pratique physique à chaque individu en tout

00:00:48.405 --> 00:00:53.000
en assurant une interaction comme c'est indiqué enfin c'est est un exemple ici tout en assurant une

00:00:53.000 --> 00:00:57.595
interaction qui est censé être encourageante alors sur les travaux qui sont extrêmement préliminaires et il n

00:00:57.595 --> 00:01:03.000
y a pas de test sur la sûreté sur le fait par exemple il n y a pas de biais

00:01:03.000 --> 00:01:07.250
en fonction de si on est une population plutôt euh on appartient une population plutôt euh historiquement

00:01:07.250 --> 00:01:11.500
économiquement défavorisées ou les aspic on a vu précédemment sur le fait que enlevée par exemple à

00:01:11.500 --> 00:01:17.500
avoir tendance à stigmatiser e d e d e des traits qui sont liés ou cas des états qui sont liés à la santé

00:01:17.500 --> 00:01:22.750
mentale là pour les aspects de santé physique euh eh bien ce n'est pas du tout investit donc là aussi ce

00:01:22.750 --> 00:01:23.000
sont

00:01:23.340 --> 00:01:25.680
chambre préliminaire à prendre avec eux avec précaution

00:01:26.000 --> 00:01:30.872
la dernière article nous allons voir c'est celle du diagnostic médical assisté par ia alors euh je leur ai

00:01:30.872 --> 00:01:36.256
indique ici la la salle que nous avions vu un qui est cet article publié dans the new england journal of

00:01:36.256 --> 00:01:40.872
medecine et qui regarde la problématique à des internes qui utilisent de plus en plus d'injecter sur leur

00:01:40.872 --> 00:01:45.487
téléphone pour leur pratique clinique avec des patients et des patients est donc euh cet article donne des

00:01:45.487 --> 00:01:46.000
consignes aux

00:01:46.000 --> 00:01:49.457
instructeur et instructif donc au médecin référent pour leur indiquer quelles consignes qu'elle conseille

00:01:49.457 --> 00:01:53.901
plutôt donné e l étudiant ou l étudiante qui utiliserait un élève pour faire le diagnostic de ses

00:01:53.901 --> 00:01:58.099
patients et sont allés vu hein c'est que notamment article donne comme consigne par exemple de demander

00:01:58.099 --> 00:02:03.778
plusieurs fois la même requête ou l élève pour voir si on a à peu près tout la même réponse est donc le

00:02:03.778 --> 00:02:06.000
résultat est consistant eux de demander où elle est

00:02:06.000 --> 00:02:11.373
elle m a expliqué son raisonnement ou bien encore de chercher dans la littérature des preuves validé e

00:02:11.373 --> 00:02:16.746
c'est-à-dire des d'épreuves des études qui montrent la fiabilité de l élève pour le domaine visé par exemple

00:02:16.746 --> 00:02:22.119
oncologie néphrologie etc le problème dans cet article comment la de mentionner c'est que ces consignes là et

00:02:22.119 --> 00:02:26.000
bien en fait ne peuvent pas être correctement suivi parce que les tec

00:02:26.000 --> 00:02:29.673
nick actuels on dispose dont on dispose pour les élèves et bien ne permettent pas d'obtenir des réponses

00:02:29.673 --> 00:02:34.163
fiables à ces questions c'est à dire qu on ne sait pas comment tester la fiabilité dans l élève sur un domaine

00:02:34.163 --> 00:02:38.245
donné on sait que lorsque on demande à l élève les raisons pour lesquelles eux un résultat est donné par

00:02:38.245 --> 00:02:41.918
exemple un diagnostic et donner et bien les raisons qui sont données ne correspondent pas aux oeufs processus

00:02:41.918 --> 00:02:45.184
entre guillemets entre gros guillemets ou raisonnement qui effectivement suivie dans la grille nous voyez qu

00:02:45.184 --> 00:02:46.000
il y a un

00:02:47.000 --> 00:02:51.781
un un décalage qui m'est complètement à mal l'idée est d'arriver à correctement utiliser ses élèves en

00:02:51.781 --> 00:02:56.844
imaginant avoir de la fiabilité alors qu'on n'a toujours pas un autre cas d'usage ll a été largement

00:02:56.844 --> 00:03:02.469
médiatisée notamment par joe vitale qui a eu le prix nobel de physique pour ses travaux en deep learning en

00:03:02.469 --> 00:03:05.000
intelligence artificielle l'an dernier c'est celui de la radiologie

00:03:05.000 --> 00:03:09.667
on a des systèmes d'intelligence artificielle qui vont donc enfin notre assentiment gens qui vont pouvoir um

00:03:09.667 --> 00:03:15.706
automatiquement euh lire des radios pour détecter si y a une tumeur y a une obstruction y a une monnaie etc et

00:03:15.706 --> 00:03:19.000
eux dans l'article que vous avez ici sur la sur la droite

00:03:20.000 --> 00:03:26.154
et bien euh on regarde à quel point les comment est-ce qu il est possible que des médecins radiologues arrive

00:03:26.154 --> 00:03:30.462
à bénéficier des œufs de la dinde un système d'intelligence artificielle pour améliorer leur

00:03:30.462 --> 00:03:35.692
précision diagnostique et donc en fait euh ça c'est intéressant donc pour rappel aucun système basé machine

00:03:35.692 --> 00:03:40.000
learning n'est fiable et la technologie n'a pas fait assez de progrès pour perdre

00:03:40.000 --> 00:03:44.171
aux humains de bien gérer ce manque de fiabilité des systèmes dont on parlait juste avant et donc en

00:03:44.171 --> 00:03:47.683
radiologie le système diagnostic qui s appelle le tchèque experte donc chèques c'est pour eux geste

00:03:47.683 --> 00:03:49.000
extrait donc des radios du thorax

00:03:50.000 --> 00:03:54.286
donc ce système-là a été publié en deux mille dix-neuf et en fait il est montré que sur certaines bases de

00:03:54.286 --> 00:03:57.551
données bien il a de meilleure reconnaissance de meilleurs taux de reconnaissance du de pathologie euh

00:03:57.551 --> 00:04:00.612
que les radiologues mais pourtant euh eh bien les radiologues prennent de meilleures décisions pour

00:04:00.612 --> 00:04:03.878
certaines images et le diable en de meilleures décisions pour d'autres images et la conscription c'est

00:04:03.878 --> 00:04:07.959
comment est-ce qu'on arrive à combiner les deux pour que au final on prenne le meilleur des deux mondes et

00:04:07.959 --> 00:04:10.000
qu on arrive à avoir un taux d'exactitude de dire

00:04:10.000 --> 00:04:14.091
agnostique qui combine les avantages à l'islam dia en laissant de côté ses inconvénients et les avantages du

00:04:14.091 --> 00:04:18.182
médecin et son côté ses inconvénients le problème c'est que euh c'est ce système mais comme d'autres systèmes

00:04:18.182 --> 00:04:22.727
comme tous les autres systèmes à peu près actuel est bien est développé comme une boîte noire dire on ne

00:04:22.727 --> 00:04:27.045
peut pas savoir pour quelle raison est-ce l'algorithme dit ça c'est une pneumonie ou ça c'est euh un coville

00:04:27.045 --> 00:04:30.000
par exemple et donc hum eh bien ça fait que ce qui est

00:04:30.000 --> 00:04:33.596
montrez dans l'article c'est que les médecins ont tendance à ignorer les prédictions correctes du modèle

00:04:33.596 --> 00:04:38.539
ou bien ont tendance à accepter des prédictions dans les cas où le modèle se trompe ou dans le cas où les

00:04:38.539 --> 00:04:42.360
prédictions sont erronées et ainsi au final quand on combine la précision de l'algorithme avec celle des

00:04:42.360 --> 00:04:46.404
médecins ben on obtient une précision du diagnostic final qui réduite au lieu qu'elle soit augmenté et donc

00:04:46.404 --> 00:04:50.000
ça c'est est une préoccupation majeure est un sujet de recherche vraiment intensif dans le dos

00:04:50.000 --> 00:04:53.706
medical c'est comment arrivé à incorporer des systèmes d'intelligence artificielle dans un processus dans un

00:04:53.706 --> 00:04:57.659
workflow professionnel de prise de décision on peut pardonner eux alia ou aux système d'ia complètement

00:04:57.659 --> 00:05:02.847
indépendant parce que il va il est pas fiable et donc il va faire des erreurs et ces erreurs la fin

00:05:02.847 --> 00:05:07.047
potentiellement un humain les aurait pas fait et l'idée c'est quand même arrivé à améliorer la performance

00:05:07.047 --> 00:05:11.000
humaine du diagnostic en utilisant ces systèmes sauf que combiner de façon efficace et de chaux

00:05:11.000 --> 00:05:14.387
ceux-là on sait pas encore le faire correctement dans la dans la vraie vie dans le monde réel et cet article

00:05:14.387 --> 00:05:16.000
la date juste de deux il y a un an

00:05:17.000 --> 00:05:22.333
un autre exemple est celui des coloscopie a donc là aussi hein il y a des systèmes d'ia qui permettent

00:05:22.333 --> 00:05:27.133
d'analyser automatiquement les images de la caméra lors d'un examen de coloscopie est un examen du côlon et

00:05:27.133 --> 00:05:32.200
dans cet article très récent publié dans deux sept eux qui regardent en fait donc c'est est une étude

00:05:32.200 --> 00:05:37.000
multicentrique sur plusieurs centres e en pologne et bien en fait cette étude montre que les médecins eux

00:05:37.000 --> 00:05:40.789
qui procède au coloscopie donc examinent les images et bien euh lorsque en permanence l'ia est utilisée et

00:05:40.789 --> 00:05:44.579
bien la précision diagnostique des médecins dix minutes et on fait leur taux de détection des années d'un

00:05:44.579 --> 00:05:49.211
bouquin un type de de de tumeurs et bien euh diminue en dessous de celle des médecins qui ne sont pas assistées

00:05:49.211 --> 00:05:54.053
par là ça veut dire que finalement on a même un effet pervers qui est le fait que lorsque on a un système

00:05:54.053 --> 00:05:57.000
d'ia qui vient nous assister mais on sait pas trop pourquoi alligator ou euh

00:05:57.000 --> 00:06:01.598
et oui la raison et bien euh on tend à perdre les compétences que parce qu'on l'ait pratiquement est donc

00:06:01.598 --> 00:06:05.276
cette étude multicentrique elle met en évidence une perte de compétences médicales à l échelle nationale

00:06:05.276 --> 00:06:08.724
qui est dû à l'assistance eux par un système d'intelligence artificielle donc une problématique qui

00:06:08.724 --> 00:06:12.862
est extrêmement actuel pas résolu et qui est un véritable challenge parce que en aucun cas il n'est

00:06:12.862 --> 00:06:17.000
pertinent e de ne plus avoir d'expertise humaine parce que je le répète ces systèmes n'étant pas fiable

00:06:17.000 --> 00:06:21.000
on sait qui font des erreurs dans des cas où les humains ne ferais pas des erreurs et donc comment

00:06:21.000 --> 00:06:25.000
combiner le meilleur des deux mondes la précision humaine et la précision du cydia et bien ça c est un

00:06:25.000 --> 00:06:26.000
sujet encore actuel de recherche

00:06:26.000 --> 00:06:31.000
dernier exemple euh en pneumologie la cet article euh et bien montre que la précision du diagnostic des

00:06:31.000 --> 00:06:35.722
médecins qui sont assistés par un modèle d'ia eux et qui fournit des explications augmente lorsque le

00:06:35.722 --> 00:06:40.167
système d'ia fournit des réponses qui sont correctes et que euh ça fournit également des explications

00:06:40.167 --> 00:06:44.889
c'est-à-dire des raisons pour lesquelles la décision est prise alors comment est-ce que c est fournie mais

00:06:44.889 --> 00:06:46.000
en fait c'est notamment

00:06:47.000 --> 00:06:51.524
on appelle des cartes des attributions ou des cartes de chaleur ça vient indiquer voyez ici par les zones

00:06:51.524 --> 00:06:56.048
colorées les zones de de la radiographie là en l'occurrence euh qui qui induisent le diagnostic ou y a

00:06:56.048 --> 00:07:00.571
quelque chose qui justifie le le résultat diagnostic est le problème c est que ça en fait ça permet

00:07:00.571 --> 00:07:03.429
d'augmenter la performance diagnostique des médecins assistée par intelligence artificielle lorsque le

00:07:03.429 --> 00:07:07.000
système d'intelligence artificielle a donne un résultat qui compte mais le problème c'est que lors

00:07:07.000 --> 00:07:11.706
les médecins sont assistés par un modèle biaisée qui n'est pas fiable et bien en fait la précision chute de

00:07:11.706 --> 00:07:15.471
onze pour cent malgré la présence d'explications c'est-à-dire en fait par rapport à si les médecins

00:07:15.471 --> 00:07:18.529
n'avaient pas été assistée par le système d'intelligence artificielle lorsqu ils sont assistés

00:07:18.529 --> 00:07:22.059
par le système d'intelligence artificielle mais qui tend à prendre des mauvaises décisions dans certains

00:07:22.059 --> 00:07:26.294
cas leurs performances elles de de de de précision diagnostique elles chutent de onze pour cent même si

00:07:26.294 --> 00:07:27.000
eux les expliquer

00:07:27.360 --> 00:07:27.660
passion                                                

00:07:28.000 --> 00:07:32.750
donné par le système sont utiles pour détecter que le système fournit une une mauvaise décision donc on voit

00:07:32.750 --> 00:07:36.500
que cette question fondamentale de encore une fois comment est-ce qu'on intègre un système d'intelligence

00:07:36.500 --> 00:07:40.250
artificielle dans un processus professionnel de prise de décisions ici en l'occurrence en médecine c'est

00:07:40.250 --> 00:07:42.000
quelque chose qui n'est largement pas résoudre

00:07:43.000 --> 00:07:48.205
donc euh en conclusion pour le portail donc staff sa santé psycho nous avons donné euh je le rappelle ici

00:07:48.205 --> 00:07:51.589
dans ce chapitre des éléments sur eux des problématiques suivantes quels risques critiques

00:07:51.589 --> 00:07:55.233
apparaissent quand les élèves sont utilisées comme soutien émotionnel et thérapeutique en santé mentale

00:07:55.233 --> 00:08:01.219
alors pour résumer ce que l on a vu alors je vous le dis ici à l'oral mais sachez que c'est exactement ce

00:08:01.219 --> 00:08:02.000
sur quoi vous

00:08:02.000 --> 00:08:07.444
c'est être interrogé c'est la synthèse de ce que nous avons vu dans ce dans ce cours donc pour cette première

00:08:07.444 --> 00:08:11.852
question de problématiques que l on a vu notamment sais que l'agence américaine fédérale du médicament a

00:08:11.852 --> 00:08:16.778
approuvé e zéro un aucun tchad boat pour diagnostiquer soigner ou guérir un trouble de santé mentale open your

00:08:16.778 --> 00:08:21.444
eyes est une entreprise dont la valeur a atteint cinq cents milliards de dollars fin deux mille vingt-cinq

00:08:21.444 --> 00:08:23.000
est de plus en plus euh

00:08:23.040 --> 00:08:24.900
peu de personnes utilisent tchatche com                

00:08:25.000 --> 00:08:30.077
coach émotionnelle et en fait il y a une minorité et des huit cents millions d'utilisateurs et utilisatrices

00:08:30.077 --> 00:08:34.308
hebdomadaire qui parle de suicide dans leurs interactions avec chaque été et cela représente quand

00:08:34.308 --> 00:08:36.000
même un million de personnes environ

00:08:37.000 --> 00:08:42.143
entre avril et octobre deux mille vingt-cinq ont été rapportés un nombre croissant de cas où des personnes

00:08:42.143 --> 00:08:46.714
utilisatrices du tchad bottes ont développé des cas de psychose délires et elise associations ayant de

00:08:46.714 --> 00:08:51.857
nombreux œufs dans de nombreux cas ramener à des pertes d'emplois à des divorces et séparations voir d

00:08:51.857 --> 00:08:56.714
internement psychiatrique et d emprisonnement et des personnes ont été blessées par des des malades en crise

00:08:56.714 --> 00:08:57.000
après

00:08:57.000 --> 00:09:02.867
un usage de de tchatche hébété ou même carrément son sont mortes et en particulier euh on a vu que les les

00:09:02.867 --> 00:09:07.400
morts par suicide notamment chez les adolescents et bien sont rapportés et font eux l'objet eux pour

00:09:07.400 --> 00:09:11.667
certaines de procès intenté eux très récemment à open act des travaux scientifiques notamment de l'université

00:09:11.667 --> 00:09:16.733
de stanford que nous avons présentés montrent que les élèves actuels ne sont pas sûres pour répondre à des

00:09:16.733 --> 00:09:17.000
requêtes

00:09:17.000 --> 00:09:21.750
a qui montrent des troubles de santé mentale et que la flaque or donc la flatterie excessive des réponses

00:09:21.750 --> 00:09:26.000
impacte négativement les personnes tout le monde hein euh les personnes façon générale qui ont tendance à

00:09:26.000 --> 00:09:29.750
penser avoir plus raison et finalement moins chercher à résoudre leurs conflits interpersonnels sur lesquels

00:09:29.750 --> 00:09:31.000
elle interroge le tchad pote

00:09:32.000 --> 00:09:37.063
et pourtant euh eh bien les personnes ont malgré tout tendance à préférer à ces réponses euh flatteuse à des

00:09:37.063 --> 00:09:41.873
réponses plus froide mais plus plus utile sur le sur le moyen terme et une récente enquête journalistique du

00:09:41.873 --> 00:09:46.684
new-york times que nous avons détaillées chez open eye montre que cette flaque borderie a été un choix de

00:09:46.684 --> 00:09:51.747
conception explicite pour mettre à jour euh j ai pété quatre août à partir du mois d'avril pour faire euh

00:09:51.747 --> 00:09:52.000
rester

00:09:52.000 --> 00:09:56.760
longtemps les utilisateurs utilisatrices dans le tchad et ainsi créer des bénéfices pour open qui est un

00:09:56.760 --> 00:09:59.000
modèles économiques très fragile et dans des wes

00:09:59.550 --> 00:10:00.180
passe financière                                       

00:10:01.000 --> 00:10:06.067
de la nocivité de ce choix de conception sur la santé mentale des personnes utilisatrices open eyes a attendu

00:10:06.067 --> 00:10:09.000
six mois environ avant de vraiment tenté de corriger le problème

00:10:10.000 --> 00:10:13.434
pour la deuxième question de la problématique les élèves peuvent-ils contribuer à la pratique d'activités

00:10:13.434 --> 00:10:17.325
physiques adaptées bien nous avons vu cet article hein qui montrent que un élève peut effectivement être

00:10:17.325 --> 00:10:21.446
pourrait en tous cas être utile pour adapter la pratique physique à chaque individu e la technique qui

00:10:21.446 --> 00:10:25.337
a été présenté dans l'article consiste à utiliser les données physiologiques de l individu pour lui proposer

00:10:25.337 --> 00:10:29.000
un programme adapté à suivre tout en assurant une interaction censé être encourageant et finalement pour

00:10:29.000 --> 00:10:32.951
la troisième à la question de de la problématique quelles sont les difficultés pour introduire un

00:10:32.951 --> 00:10:37.889
algorithme d'ia dans le diagnostic médical conduit par un médecin ou un médecin eh bien nous avons vu que dans

00:10:37.889 --> 00:10:41.593
certaines conditions un système d'ia peut augmenter la précision diagnostique par rapport à des humains

00:10:41.593 --> 00:10:46.778
médecin mais le système fait aussi des erreurs dans des cas où les humains ne faut pas et euh actuellement il

00:10:46.778 --> 00:10:49.000
est très difficile de savoir pour un humain quand

00:10:50.000 --> 00:10:54.302
faire confiance aux résultats diagnostic ajuste india ou aux siens et donc euh on a pas encore résoudre le

00:10:54.302 --> 00:10:57.698
problème de comment efficacement intégrer un système d'ia dans un processus de décision et professionnel

00:10:57.698 --> 00:11:01.547
notamment pour le monde médical voilà ceci conclut le chapitre quatre et plus généralement ce module de

00:11:01.547 --> 00:11:02.000
compétences transversales