Wie man einen Algorithmus für künstliche Intelligenz und was das bedeutet

Vor dem Fenster Jahr 2022. Sie fahren auf selbstbestimmte Maschine, wie üblich, durch die Stadt. Das Fahrzeug eignet sich zum verkehrsschild «Stop» vorbei, der fuhr viele Male, aber dieses mal nicht halt vor ihm. Für Sie das Zeichen «Stop» wie die anderen. Aber für das Auto ist er anders. Ein paar Minuten früher, niemanden gewarnt, ein Angreifer auf dem Schild klebte ein kleines Schild, das unsichtbar für das menschliche Auge, aber die konnte nicht umhin zu bemerken Technologie. Das heißt, kleine Aufkleber auf einem verkehrsschild hat ein Stoppschild in etwas ganz anderes als Stoppschild.

All dies mag unglaublich erscheinen. Aber der wachsende Bereich der Forschung beweist, dass die künstliche Intelligenz kann in etwa so getäuscht, wenn er irgendein winziges Detail, völlig unsichtbar für die Menschen. Da die algorithmen des maschinellen Lernens immer häufiger auf unseren Straßen, unsere Finanzen, unser Gesundheitssystem, Computer-hoffen die Wissenschaftler mehr darüber erfahren, wie Sie zu schützen vor solchen Angriffen — bevor jemand versucht zu täuschen Sie wirklich.

«Es ist ein wachsendes Interesse im Bereich maschinelles lernen und Gemeinschaft die KI, vor allem weil diese algorithmen werden immer mehr», sagt Daniel Лоуд, Assistenzprofessor für Computer-und Informationswissenschaften an der Universität von Oregon. «Wenn Spam geht oder mehrere E-Mails blockiert, es ist noch nicht das Ende der Welt. Aber wenn Sie verlassen sich auf das System Vision Autonomes Auto, das Auto sagt, wie zu fahren oder nicht in irgendetwas stieß Wetten viel höher».

Egal, Maschine kaputt oder aufgebrochen werden, leiden algorithmen für maschinelles lernen, die «sehen» die Welt. Und das ist für die Maschine der Panda fängt an, wie Gibbon und Schulbus — wie der Strauß.

In einem Experiment haben Wissenschaftler aus Frankreich und der Schweiz zeigten, wie solche Störungen können bewirken, dass der Computer fälschlicherweise annehmen Eichhörnchen für den grauen Fuchs, und die Kaffeekanne für den Papagei.

Wie ist das möglich? Überlegen Sie, wie das Kind lernt, die zahlen zu erkennen. Betrachtete die Zeichen eins nach dem anderen, das Kind beginnt zu bemerken einige gemeinsame Eigenschaften: eine höher und schlanker, Sechsen und Neunen enthalten eine große Schleife, und acht — zwei, und so weiter. Nachdem Sie genug Beispiele sehen, können Sie schnell erkennen die neuen zahlen in Form von Vierer -, achter-oder Tripel — auch wenn durch Schrift oder Handschrift Sie werden nicht genauso Aussehen wie alle anderen Vierer, achter oder Dreier, die Sie je zuvor gesehen haben.

Algorithmen des maschinellen Lernens Lesen lernen die Welt durch einige einen ähnlichen Prozess. Wissenschaftler füttern Computer Hunderte oder Tausende von (meist markiert) Beispiele dafür, dass Sie gerne auf dem Computer zu erkennen. Wenn die Maschine siebt Daten ist eine Zahl, die dieser Nein, diese Zahl ist es nicht — es beginnt zu bemerken Eigenschaften, die zu einer Antwort führen. Bald kann das Bild betrachten und sagen: «Es ist fünf!» mit hoher Genauigkeit.

So wie menschliche Kinder und Computer können lernen zu erkennen, eine große Anzahl von Objekten — zahlen von bis zu Katzen, von der Boote zu den einzelnen menschlichen Individuen.

Aber, im Gegensatz zum Kind der Person, Computer achtet nicht auf Details auf hoher Ebene — wie pelzigen Ohren der Katzen oder die markante eckige Form-Quartett. Er sieht nicht das ganze Bild.

Stattdessen schaut er auf die einzelnen Pixel des Bildes — und der Schnellste Weg, um Objekte aufgeteilt. Wenn die überwiegende Zahl der Einheiten wird ein Schwarzes Pixel in einem bestimmten Punkt und ein paar weiße Pixel in den anderen Punkten, die Maschine ist sehr schnell lernen, bestimmen Sie über mehrere Pixel.

Nun zurück zu dem Zeichen «Stop». Unmerklich schlechte Pixel Bild — Experten nennen eine solche Intervention «пертурбациями» — kann man den Computer austricksen und Sie zwingen, zu denken, dass das Stoppschild eigentlich auch nicht.

Ähnliche Untersuchungen in evolutionären Labor für künstliche Intelligenz an der University of Wyoming und der Cornell University, haben ziemlich viele optische Täuschungen für künstliche Intelligenz. Diese psychedelischen Bilder von abstrakten mustern und Farben auf irgendetwas nicht wie für Männer, aber schnell vom Computer erkannt wird in Form von Schlangen oder Gewehre. Das spricht dafür, wie sich die KI nach etwas und nicht das Objekt zu sehen, oder zu sehen, stattdessen etwas anderes.

Diese Schwäche ist weit verbreitet in allen Arten von algorithmen des maschinellen Lernens. «Man würde erwarten, dass jeder Algorithmus hat eine Lücke in der Rüstung», sagt Eugen Воробейчик, Associate Professor für informatik und Rechentechnik an der Universität Vanderbilt. «Wir Leben in einer sehr komplexen mehrdimensionalen Welt, und die algorithmen von Natur betreffen nur einen kleinen Teil davon».

Воробейчик «äußerst sicher», dass, wenn diese Schwachstellen gibt es jemand herausfindet, wie Sie zu nutzen. Wahrscheinlich hat jemand schon das gemacht.

Betrachten Sie die Spam-Filter, automatisierte Programme, die gesiebt, um jegliche plumpe E-Mails. Spammer könnten versuchen, umgehen diese Barriere, indem Sie die Schreibung der Wörter (anstelle viagra — vi@gra) oder indem die Liste der «guten Worte», die Häufig in normalen Briefen: wie «ja», «mich», «glücklich». Inzwischen Spammer könnten versuchen, entfernen die Wörter, die oft in Spam, zum Beispiel «Mobile» oder «Gewinn».

Was kann man auf die Betrüger eines Tages? Selbstverwaltete Auto, getäuscht Aufkleber auf dem Schild «Stop», ist ein klassisches Szenario, das geprägt wurde von den Experten indieser Bereich. Zusätzliche Daten können helfen, Pornographie Verrutschen durch sichere Filter. Andere können versuchen, die Menge der Schecks. Hacker können retuschieren Code-Malware-Software, um Weg von der Polizei.

Zuwiderhandlungen können zu verstehen, wie das erstellen von übergabe-Daten, wenn Sie davon wind bekämen eine Kopie des Algorithmus für maschinelles lernen, die betrügen wollen. Aber waten durch den Algorithmus ist es nicht unbedingt. Können Sie einfach mit brutaler Gewalt zu brechen, warf ihn ein wenig verschiedene Versionen von E-Mails oder Bilder, während Sie nicht stattfinden. Mit der Zeit kann es sogar verwenden, um ein völlig neues Modell, die wissen, was Sie suchen gute Jungs, und welche Daten produzieren, um Sie zu täuschen.

«die Menschen manipulieren Systemen des maschinellen Lernens, seitdem Sie zum ersten mal vorgestellt wurden», sagt Patrick McDaniel, Professor für Computer Science and Engineering an der Universität von Pennsylvanien. «Wenn die Menschen diese Methoden verwenden, können wir auch darüber nicht wissen».

Mit Diesen Methoden können nicht nur die Betrüger — Menschen verstecken können von Röntgen-Augen der modernen Technologien.

«Wenn Sie eine politische dissident bei repressive Regime und wollen die Durchführung von Veranstaltungen ohne das wissen von Geheimdiensten, müssen Sie möglicherweise die Vermeidung von automatischen Methoden der Beobachtung auf der Grundlage des maschinellen Lernens», sagt Лоуд.

In einem der Projekte, im Oktober veröffentlichten die Forscher von der Carnegie — Mellon University haben ein paar Punkte, die subtil in die Irre Gesichtserkennungssystem, den Computer gezwungen, verkennen die Schauspielerin Reese Witherspoon für Russell Crowe. Es klingt lächerlich, aber diese Technologie kann nützlich sein, jemand der verzweifelt versucht zu vermeiden Zensur seitens der Machthaber.

Was mit all dem zu tun? «Die einzige Möglichkeit, vollständig zu vermeiden — ein perfektes Modell, das wird immer richtig», sagt Лоуд. Auch wenn wir in der Lage wäre, eine künstliche Intelligenz, übertraf die würde der Menschen in jeder Hinsicht, die Welt kann noch schieben ein Schwein in einem unerwarteten Ort.

Algorithmen für maschinelles lernen in der Regel schätzen Sie Genauigkeit. Ein Programm, das erkennt Stühle in 99% der Fälle deutlich besser, als diejenige, die erkennt 6 Stühle aus 10. Aber einige Experten schlagen vor, ein anderes Verfahren zur Bewertung der Funktionen des Algorithmus mit dem Angriff fertig zu werden: je härter, desto besser.

Eine Andere Lösung könnte darin bestehen, dass die Experten konnten das festlegen von Programmen ein bestimmtes Tempo. Erstellen Sie Ihre eigenen Beispiele für die Angriffe im Labor, ausgehend von den Möglichkeiten der Verbrecher auf Ihren Blick, und dann zeigen Sie Ihren Algorithmus des maschinellen Lernens. Dies kann ihm helfen, ein widerstandsfähiger mit der Zeit — vorausgesetzt natürlich, dass die Test-Angriffe entsprechen dem Typ, das wird getestet in der realen Welt.

«System des maschinellen Lernens — Instrument zur besinnung. Wir müssen vernünftig und Rational in Bezug auf das, was wir Ihnen geben und was Sie uns sagen», sagte McDaniel. «Wir dürfen nicht behandeln Sie wie perfekt Orakel der Wahrheit».