Les algorithmes de la vie et de la mort: comment comprendre l'intelligence artificielle, qui permet de guérir les gens?

Quand il s'agit de l'application d'apprentissage, le plus souvent des conversations mènent sur le domaine médical. Et il n'est pas étonnant: une énorme industrie qui génère une quantité phénoménale de données et de revenus, dans lequel les progrès technologiques peuvent améliorer ou sauver la vie de millions de personnes. À peine une semaine ne passe sans l'apparition d'une étude qui suggère que les algorithmes très bientôt seront mieux d'experts d'identifier la pneumonie ou la maladie d'Alzheimer — la maladie organes complexes, de l'œil du cœur. Et tout cela va, mais…

Le Problème entassés dans les hôpitaux et les surchargé et infirmiers empoisonnent les systèmes de santé publics, et conduisent à une augmentation des dépenses privées de santé. Et ici, encore une fois, les algorithmes offrent une solution alléchante. Combien de fois fait, vous devez consulter votre médecin? Est-il possible de remplacer ces visites intelligent чатботом — qui sera équipé d'un baladeur des tests diagnostique, en utilisant les dernières avancées dans le domaine de la biotechnologie? Visites inutiles pourrait être réduit, et les patients pourraient diagnostiquer et d'orienter vers les professionnels rapidement, sans attendre la consultation initiale.

Comme dans le cas des algorithmes d'intelligence artificielle, le but n'est pas de remplacer les médecins, mais de leur donner les outils pour réduire les quotidiennes répétitives ou des morceaux de travail. Avec l'IA, qui peut explorer les milliers de scans par minute, «ennuyeuse routine» reste sur les machines, et les médecins peuvent se concentrer sur les parties de l'œuvre, qui exigent de plus en plus complexe, subtil, fondée sur l'expérience des jugements sur les meilleures méthodes de traitement et les besoins du patient.

les taux Élevés

Et pourtant, comme dans le cas des algorithmes d'IA, il existe des risques associés à leur utilisation, même pour des tâches qui sont considérées comme ordinaires. Le problème des algorithmes de «boîte noire», qui prennent inexpliquée de la décision, sont suffisamment graves, lorsque vous essayez de comprendre pourquoi automatisé чатбот-le recruteur n'est pas impressionné par votre histoire au cours de l'entretien. Dans le contexte de la santé, où la prise de décision peut signifier la vie ou la mort, les conséquences de l'algorithmique, de l'échec peuvent être fatales.

Les réseaux de Neurones sont bons pour le traitement de grandes quantités de données d'entraînement et de la communication, de l'absorption des régularités sous-jacentes ou de la logique du système des calques masqués de l'algèbre linéaire; qu'il s'agisse de la détection du cancer de la peau à partir de photos ou de formation à l'écriture псевдошекспировским de la langue. Mais ils sont horriblement expliquent la logique sous-jacente détectés par les relations: il y a quelque chose de plus que juste une chaîne de chiffres, de statistiques «de poids» entre les couches. Et ils ne peuvent distinguer la corrélation de cause à effet.

Rencontrez des dilemmes intéressants pour les professionnels de la santé. Le rêve de grandes données en médecine réside dans le fait de fournir à un réseau de neurones «d'énormes quantités de données sur la santé», de trouver les complexes, les relations et faire des individuels d'évaluation à l'égard des patients. Que si un tel algorithme serait excessivement efficace dans le diagnostic de l'état de santé ou de l'attribution du traitement, mais vous n'avez pas une compréhension scientifique de la façon dont cette relation fonctionne vraiment?

Trop de flux, qui ont besoin de démêler

Des modèles Statistiques qui sont à la base de ces réseaux de neurones, souvent suggèrent que les variables sont indépendantes l'une de l'autre, mais dans le complexe, interactif système comme le corps humain, ce n'est pas toujours le cas.

Dans un sens, il s'agit d'un concept dans les sciences médicales — il y a beaucoup de phénomènes et les relations qui ont été observées depuis des décennies, mais encore mal explorées sur le plan biologique. Le paracétamol est l'un des plus populaires des analgésiques, mais encore en cours de discussions à propos de son action. Les pratiques peuvent s'efforcer d'utiliser n'importe quel outil le plus efficace, peu importe, fondée sur une profonde connaissance scientifique. Les amateurs de l'interprétation de copenhague de la mécanique quantique peut le reformuler comme «tais-toi et soigne!».

Bien sûr, dans ce domaine, en cours de débat sur la, ne risquons-nous avec cette approche perdre de vue la plus de compréhension, qui finalement sera plus fructueuse — par exemple, pour la recherche de nouveaux médicaments.

En plus philosophiques les crochets, il ya des problèmes pratiques: si vous ne comprenez pas comment fonctionne la boîte noire médical de l'algorithme, la façon d'aborder les questions d'essais cliniques et de la réglementation?

Vous devrez Peut-être la transparence à l'égard du mode de fonctionnement de l'algorithme de données, qu'il regarde, les seuils à partir desquelles une conclusion ou fournit des conseils, mais cela peut aller à l'encontre des motifs de profit et à la poursuite de la confidentialité médicale de startups.

Une des solutions peut être une exception d'algorithmes qui ne peuvent expliquer à eux-mêmes ou ne s'est pas bien compréhensible de la science médicale. Mais cela peut empêcher les gens de récolter les fruits d'un travail utile de ces algorithmes.

l'Évaluation des algorithmes

De Nouveaux algorithmes dans le domaine de la santé ne peuvent pas faire ce que les physiciens ont fait de la mécanique quantique, car ils ne seront pas déployés sur le terrain. Et de nombreux algorithmes s'améliorent c'est en travaillant sur le terrain. Comment pouvons-nous choisir l'approche la plus prometteuse approche?

La Création d'un système standardisé pour les essais cliniques et tests dans la même mesure sera applicable aux algorithmes travaillant différemmentou utilisant différentes données d'entrée, il sera difficile de. Les essais cliniques qui utilisent un échantillon de petite taille, par exemple, avec des algorithmes qui tentent de personnaliser le traitement des personnes, seront également complexes. Avec de petits échantillons et les plus faibles de la compréhension scientifique de ce qui se passe il est impossible de déterminer, a réussi un algorithme ou écrasé, parce qu'il peut être un bon général, mais de montrer un mauvais exemple.

Allons ajouter à ce mélange la formation et l'image devient encore plus complexe. «Plus important encore, l'idéal de l'algorithme dans la «boîte noire» en plastique et est constamment mis à jour, par conséquent, le modèle traditionnel des essais cliniques ne convient pas car se fonde sur la statique produit, stable à l'évaluation».

Devrez adapter l'ensemble du système de santé et des essais cliniques.

la Réalisation de l'équilibre

la santé reflète l'histoire de l'intelligence artificielle dans de nombreux aspects. Il n'est pas fortuit IBM a essayé de modifier le champ de la santé, en utilisant leur intelligence artificielle Watson.

Le Solde devra trouver. Nous allons devoir trouver un moyen de traiter de grands volumes de données, utiliser la terrible force de réseaux de neurones et d'automatiser la pensée. Nous devons nous rendre compte des inconvénients de préjugés et d'une approche de la résolution de problèmes.

Dans ce cas, nous devons accueillir ces technologies, car ils peuvent être un complément utile aux compétences, aux connaissances et une compréhension plus profonde, qui peuvent fournir les gens. Comme un réseau de neurones, nos industries ont besoin d'être formés, en étendant cette coopération à l'avenir.

D'Accord? Nous allons en discuter dans notre