Algorithmen über Leben und Tod: wie künstliche Intelligenz zu verstehen, die Menschen zu behandeln?

Wenn es darum geht, über die Anwendung des maschinellen Lernens, meistens Gespräche führen über den medizinischen Bereich. Und es ist keine überraschung: eine riesige Industrie, die eine phänomenale Menge von Daten und Einkommen, in denen technologische Fortschritte können zu verbessern oder zu retten das Leben von Millionen von Menschen. Kaum eine Woche vergeht, ohne dass Studien, die davon ausgegangen, dass die algorithmen sehr bald wird es besser, Experten zu identifizieren Lungenentzündung oder Alzheimer — Krankheit von komplexen Organen, vom Auge ins Herz. Und all dies geht, aber…

Problem der überfüllten Krankenhäuser und Pflegepersonal überlastet ist Gift für die öffentlichen Gesundheitssysteme und führen zu einer Erhöhung der Kosten auf das private Gesundheitssystem. Und auch hier sind die algorithmen bieten eine attraktive Lösung. Wie oft eigentlich müssen Sie Ihren Arzt besuchen? Kann ich ersetzen Sie besuchen diese Smart чатботом — der wird mit einem tragbaren Diagnose-Tests, unter Verwendung der neuesten Fortschritte in der Biotechnologie? Unnötige Besuche reduzieren würde, und Patienten möglich sein würde, zu diagnostizieren und führen zu den Spezialisten schneller, ohne zu warten, primären Beratung.

Wie in dem Fall mit algorithmen der künstlichen Intelligenz, das Ziel besteht nicht darin, ärzte zu ersetzen, sondern darum, Ihnen Werkzeuge zur Verkürzung der täglichen oder wiederkehrenden Werkstücken. Mit einer KI, die erforschen kann Tausende von Scans pro Minute, «langweilige Routine» bleibt auf den Wagen, und der Arzt können sich auf jenen teilen der Arbeit, die die kompliziertere, dünnen, Erfahrungs-Urteile über die besten Behandlungsmethoden und die Bedürfnisse des Patienten.

High Stakes

Und doch, wie im Fall von KI-algorithmen, es gibt Risiken, die mit Ihrem Einsatz — auch für Aufgaben, die als banal. Probleme algorithmen «Blackbox», die nehmen unerklärliche Entscheidungen, die schwerwiegend genug, wenn Sie versuchen zu verstehen, warum automatisierte чатбот-Recruiter nicht beeindruckt mit Ihrer Geschichte während des Vorstellungsgesprächs. Im Kontext des Gesundheitswesens, wo Entscheidungen können bedeuten, Leben oder Tod, die Folgen der algorithmischen Absturz kann tödlich sein.

Neuronale Netze sehr gut zurecht mit der Verarbeitung der großen Menge der Trainings-Daten und den Aufbau von Beziehungen, die der Absorption zugrunde liegenden Gesetzmäßigkeiten oder die Logik des Systems in ausgeblendeten Ebenen Linear algebra; sei es die Erkennung von Hautkrebs durch die Fotos oder die Ausbildung schreiben псевдошекспировским Sprache. Allerdings sind Sie schrecklich erklären tatsächlich zugrunde liegende Logik der Beziehungen erkannten Sie: es gibt etwas mehr als nur eine Zeichenfolge von zahlen, statistischen «Gewicht» zwischen den Schichten. Und Sie können nicht unterscheiden, Korrelation von Kausalität.

Entstehen interessante Dilemmas für Gesundheitsberufe. Der Traum von Big data in der Medizin besteht darin, ein neuronales Netzwerk zu versorgen «sehr großen Datenmengen über die Gesundheit», finden komplexe, implizite Beziehungen und machen die individuellen Einschätzungen in Bezug auf die Patienten. Was wenn ein solcher Algorithmus wäre ungerechtfertigt wirksam bei der Diagnose einer Erkrankung oder der Behandlung, aber Sie werden nicht das wissenschaftliche Verständnis, wie diese Verbindung funktioniert wirklich?

Zu viele Threads, die zu entwirren

Statistische Modelle zugrunde, dass solche neuronalen Netze, oft vermuten, dass die Variablen unabhängig voneinander sind, sondern in einem komplexen, wechselwirkenden System wie den menschlichen Körper, es ist nicht immer so.

In gewisser Weise ist es ein bekanntes Konzept in den Gesundheitswissenschaften — es gibt viele Erscheinungen und Beziehungen, die seit Jahrzehnten beobachtet, aber noch kaum erforscht sind auf der biologischen Ebene. Paracetamol gehört zu den beliebtesten Schmerzmitteln, aber bisher gibt es eine Intensive Diskussion über seine Aktion. Ärzte-Praxis anstreben können ein beliebiges Werkzeug zu verwenden, die effektivste, unabhängig davon, ob er basiert auf einem tiefen wissenschaftlichen Verständnis. Fans der Kopenhagener Deutung der Quantenmechanik anders formulieren können wie «halt ' s Maul und zieh!».

Natürlich, in diesem Bereich gibt es eine Debatte darüber, ob wir nicht Gefahr, mit diesem Ansatz aus den Augen verlieren, ein tieferes Verständnis, die letztlich wäre mehr als lohnend — Beispiel für die Suche nach neuen Medikamenten.

Neben der philosophischen закорючек, es gibt auch praktische Probleme: wenn Sie nicht verstehen, wie funktioniert die medizinischen BLACK-Box-Algorithmus, wie geeignet Fragen zu klinischen Studien und Regulierung?

Sie müssen die Transparenz in Bezug darauf, wie funktioniert der Algorithmus — Daten, auf die er schaut, von Schwellenwerten, anhand derer Schlüsse gibt oder beratend tätig wird, aber es kann im Gegensatz zu den Motiven der Gewinn und das Streben nach Geheimhaltung in der medizinischen Start-UPS.

Eine der Lösungen kann eine Ausnahme von algorithmen, die sich nicht selbst erklären können oder nicht, stützen sich auf gut verständliche Heilkunde. Aber es kann verhindern, dass die Menschen ernten die Früchte der nützlichen Arbeit dieser algorithmen.

Ergebnis der algorithmen

Die Neuen algorithmen im Bereich des Gesundheitswesens nicht in der Lage, das zu tun, was die Physiker haben mit der Quantenmechanik, weil Sie nicht eingesetzt werden, in Feldbedingungen. Und viele algorithmen verbessern sich gerade die Arbeit in Feldbedingungen. Wie können wir die maximal vielversprechender Ansatz?

Erstellen eines standardisierten Systems von klinischen Studien und Tests, die in gleicher Weise gilt für algorithmen, die auf unterschiedliche Weiseoder die unterschiedliche Eingabe, wird eine schwierige Aufgabe. Klinische Studien, in denen geringe Größe der Stichprobe, Z. B. mit algorithmen, die versuchen, zu Personalisieren und die für die Behandlung der einzelnen Personen, auch wird es schwierig sein. Mit kleinen Beispielen und einer schwachen wissenschaftlichen Verständnis des Geschehens nicht erkennen, zeichnete sich der Algorithmus oder Versagen, denn er kann gut in der Regel, zeigen aber ein schlechtes Beispiel.

Fügen Sie zu dieser Mischung die Ausbildung und das Bild wird noch komplexer. «Noch wichtiger ist, den perfekten Algorithmus in der «BLACK Box» Plastik und wird ständig aktualisiert, so dass das traditionelle Modell von klinischen Studien nicht geeignet, da verlässt sich auf das statische Produkt, das eine stabile Einschätzung».

Besonders angefertigt werden Müssen, das gesamte System der medizinischen und klinischen Studien.

Gleichgewicht

das Gesundheitswesen spiegelt die Geschichte der künstlichen Intelligenz in vielen Aspekten. Es ist kein Zufall, IBM versucht den Gesundheitssektor, indem Sie Ihre künstliche Intelligenz Watson.

Das Gleichgewicht finden müssen. Wir müssen einen Weg finden, verarbeiten große Datenmengen, verwenden Sie eine schreckliche Kraft neuronalen Netzen denken und zu automatisieren. Wir müssen erkennen Mängel und Vorurteile dieses Ansatzes zur Lösung von Problemen.

Dabei müssen wir begrüßen diese Technologie, denn Sie können eine sinnvolle Ergänzung zu den Fertigkeiten, Kenntnisse und tieferes Verständnis für die Menschen bieten können. Wie ein neuronales Netz, unsere Branche muss lernen, den ausbau dieser Kooperation in der Zukunft.

Einverstanden? Lassen Sie uns besprechen in unserem